Krav: Ansiktsgjenkjenning AI kan avsløre ditt politiske parti

Forskere har opprettet et maskinlæringssystem som de hevder kan bestemme en persons politiske parti, med rimelig nøyaktighet, bare basert på ansiktet. Studien, fra en gruppe som også viste at seksuell preferanse tilsynelatende kan utledes på denne måten, adresserer ærlig og nøye unngår fallgruvene med "moderne frenologi", noe som fører til den ubehagelige konklusjonen at vårt utseende kan uttrykke mer personlig informasjon som vi tror.

Studien, som dukket opp denne uken i Nature-tidsskriftet Scientific Reports, ble utført av Stanford Universitys Michal Kosinski. Kosinski skapte overskrifter i 2017 med arbeid som fant at en persons seksuelle preferanse kunne forutsies fra ansiktsdata.

Studien fikk ikke så mye kritikk for metodene, men for selve ideen om at noe som ikke er fysisk ikke kan oppdages på denne måten. Men Kosinskis arbeid, som han forklarte da og etterpå, ble gjort spesielt for å utfordre disse antagelsene og var like overraskende og urovekkende for ham som for andre. Tanken var ikke å bygge en slags AI gaydar - snarere tvert imot. Som teamet skrev den gangen, var det nødvendig å publisere for å advare andre om at en slik ting kan bygges av folk hvis interesser gikk utover det akademiske:

Vi ble virkelig forstyrret av disse resultatene og brukte mye tid på å vurdere om de i det hele tatt skulle offentliggjøres. Vi ønsket ikke å aktivere selve risikoen vi advarer mot. Evnen til å kontrollere når og for hvem man skal avsløre sin seksuelle legning er avgjørende ikke bare for ens velvære, men også for ens sikkerhet.

Vi følte at det er et presserende behov for å gjøre beslutningstakere og LHBTQ-samfunn oppmerksomme på risikoen de står overfor. Vi opprettet ikke et personverninvaderende verktøy, men viste heller at grunnleggende og mye brukte metoder utgjør alvorlige personverntrusler.

Lignende advarsler kan høres her, for mens politisk tilhørighet i det minste i USA (og i det minste i dag) ikke er det as følsom eller personlig et element som seksuell preferanse, er det fortsatt følsomt og personlig. Det går nesten ikke en uke uten å ha lest om at noen politiske eller religiøse “dissidenter” eller andre blir arrestert eller drept. Hvis undertrykkende regimer kunne oppnå det som passerer for sannsynlig årsak ved å si "algoritmen markerte deg som en mulig ekstremist", i stedet for for eksempel å avlytte meldinger, gjør det denne typen praksis så mye enklere og mer skalerbar.

Algoritmen i seg selv er ikke noe hyperavansert teknologi. Kosinskis papir beskriver en ganske vanlig prosess for å mate et maskinlæringssystem med bilder av mer enn en million ansikter, samlet fra datingsider i USA, Canada og Storbritannia, samt amerikanske Facebook-brukere. Menneskene hvis ansikter ble brukt, ble identifisert som politisk konservative eller liberale som en del av nettstedets spørreskjema.

Algoritmen var basert på programvare for ansiktsgjenkjenning med åpen kildekode, og etter grunnleggende behandling for å beskjære til ansiktet (på den måten kryper ingen bakgrunnselementer inn som faktorer), reduseres ansiktene til 2,048 poeng som representerer forskjellige funksjoner - som med annen ansiktsgjenkjenning algoritmer, dette er ikke nødvendige intuitive ting som “øyenbrynfarge” og “nesetype”, men mer datamaskinsnære konsepter.

Systemet fikk politiske tilknytningsdata hentet fra folket selv, og med dette begynte det flittig å studere forskjellene mellom ansiktsstatistikken til mennesker som identifiserte seg som konservative og de som identifiserte seg som liberale. Fordi det viser seg, er det forskjeller.

Det er selvfølgelig ikke så enkelt som "konservative har buskede øyenbryn" eller "liberale mer rynker pannen." Det kommer heller ikke ned til demografi, noe som vil gjøre ting for enkle og enkle. Tross alt, hvis politisk partiidentifikasjon korrelerer med både alder og hudfarge, gir det en enkel prediksjonsalgoritme akkurat der. Men selv om programvaremekanismene som brukes av Kosinski er ganske standard, var han nøye med å dekke basene for at denne studien, som den siste, ikke kan avvises som pseudovitenskap.

Den mest åpenbare måten å løse dette på er ved å få systemet til å gjette seg til det politiske partiet til mennesker av samme alder, kjønn og etnisitet. Testen innebar å bli presentert med to ansikter, ett av hvert parti, og gjette hvilket som var. Åpenbart er sjansens nøyaktighet 50%. Mennesker er ikke veldig flinke til denne oppgaven, de utfører bare litt over sjansen, omtrent 55% nøyaktige.

Algoritmen klarte å nå så høye som 71% nøyaktig når de forutsi politisk parti mellom to som individer, og 73% presenterte to individer i alle aldre, etnisiteter eller kjønn (men fortsatt garantert å være en konservativ, en liberal).

Les hele historien her ...