iBorderCtrl mislykkes: EUs grensekontroll 'løgndetektor' AI er Hogwash

Kreditt: Nicole Gray
Del denne historien!
image_pdfimage_print
Overmodige teknokrater overhypet iBorderCrtl for å imponere klienter og publikum. Det er imidlertid i stand til å samle enorme mengder data om deg og legge dem til i din permanente fil. Det er ikke en løgnedetektor-maskin. ⁃ TN Editor

Å kalle EUs nye grensekontroll AI en "løgnedetektor" er som å kalle Brexit for en mindre uenighet blant venner.

Det lave er at EU tester et pilotprogram for internasjonale flyplasser med en maskinlæringsbasert “løgnedetektor.” CNN brøt historien forrige uke i artikkelen "Passasjerer som møter AI-løgnedetektorer på EU-flyplasser."

I følge rapporten (og prosjektets nettsted) EU tester et pilotprogram som involverer AI som bruker en avatar for å stille folk spørsmål. Visstnok vet denne AI-drevne konstruksjonen om en person blir sannferdig når han svarer, og den flagger de den bestemmer ikke. Når noen er merket som en løgner, blir menneskelige agenter tilkalt for å undersøke nærmere.

Avhengig av dine synspunkter på personvern og innvandring, er dette enten musikk for ørene dine eller begynnelsen på en dystopisk fremtid rett ut av et orwellsk mareritt. Du tar feil uansett.

For eksempel, hvis du tenker "vi bare kan få det til å spørre alle" er du en terrorist? "Og gjøre EU tryggere for alle", antar du sannsynligvis at det er noe slikt som en AI løgnedetektor. Det er det ikke. Ikke bekymre deg, det er en vanlig feil.

Som alle løgnedetektorer, er AI-baserte løsninger avhengige av gjetninger eller savner gjetninger med hva regjeringen anser som en tolerabel nivåfeil. En polygraf, for eksempel, er påstått å ha mellom en 75 og 90 prosent nøyaktighetsvurdering. Den oppdager ikke løgner, den oppdager de subtile signalene som er forbundet med å lyve. Akkurat som dette oppdager AI ikke løgner heller. Den oppdager biometriske indikatorer assosiert med å lyve - med rundt 76 prosent suksess, angivelig.

Men på den annen side, hvis du tenker at dette er den mest alvorlige brudd på menneskerettighetene på en flyplass siden de dagene TSA-agenter i USA ble instruert om å profilere muslimer, tar du også feil. Stort sett, uansett: det går langt utover bare å stresse med utlendinger på flyplasser.

"Løgndetektoren" er bare toppen av isfjellet. Det du trenger å vite er at i dette tilfellet er "løgnregistrering" en kort hånd for "datainnsamling."

EUs nye flyplassprosjekt kalles ikke "operasjonsløgnedetektor." Det kalles "iBorderCtrl." Og "løgnedeteksjon" er bare en del av det den gjør. Her er et bilde fra prosjektets hjemmeside:

Kreditt: iBorderCtrl

La oss først starte med løgnedeteksjonsmodulen: Automatic Deception Detection System (ADDS) *. Stjernen er fra iBorderCtrl-nettstedet, TNW la ikke til det. Før du leser om hva ADDS gjør, er folk som bygger det tvunget til å påpeke følgende:

*ADDS er basert på tidligere utviklinger, såkalt Silent Talker [1] [2]. Prosjektet har tatt i bruk denne teknologien og er godt klar over kontroversen rundt den. Dette verktøyet har gjennomgått følgende trinn: Et vitenskapelig grunnlag oppnås når en forskning starter fra en uvitenhet og følger den vitenskapelige metoden for å fjerne den uvitenheten. Som forskere på AI er ett bestemt forskningsspørsmål “Finnes det ikke-verbale atferdsindikatorer for bedrag”, og eksperimentene som er utført samler inn data for å støtte eller tilbakevise de relevante hypotesene.

I utgangspunktet erkjenner, men bryr seg ikke, om kontroverser rundt bruken av AI for "løgnedeteksjon."

Resten av forklaringen på ADDS er full av det gamle “ikke-verbale ledetråder” -argumentet. Det er faglig interessant, men absolutt ikke det sinnssyke gjennombruddet vi trenger for at AI skal bli en bonafide løgndetektor. Som sådan, skam enhver regjering for å ha vurdert det på dette tidspunktet.

Men ADDS er den tullete uviktige delen av iBorderCTRL. Det er det falske monsteret som distraherer deg fra den kalde, beregnede datainnsamlingen som virkelig skjer. I utgangspunktet er ADDS lavt hengende frukt for forståelsesfolk å peke på og stoke samtaler om hvilke evner AI egentlig har. I mellomtiden, hvis jeg kan omskrive The Ragin 'Cajun: "Det er dataene, dumme."

I virkeligheten er resten av iBorderCtrl-pakken det som er skummelt. ADDS er omtrent som "personlighetsprofilen" som Cambridge Analytica brukte for å overbevise folk om å gi fra seg dataene sine. Tross alt, hvorfor ville du ikke gå med på å ta løgnedetektor hvis du ikke har noe å skjule?

Svaret er at du har mye å skjule, enten du lyver eller ikke.

Her er hva annet iBorderCtrl gjør:

  • Samler en full ansiktsprofil ved hjelp av video og fotografier
  • Skraper og skurer alle kontoene dine på sosiale medier
  • Dokument og signaturanalyse
  • Oppretter og lagrer din digitale stemmeutskrift
  • Risikovurdering basert på samlede data
  • Søker etter skjulte mennesker

La oss ta den siste til eksaminasjon veldig raskt. Søk etter skjulte mennesker? På en flyplass? Usannsynlig. Dette, i følge prosjektets litteratur, ser etter mennesker som gjemmer seg. Men det er smertefullt åpenbart at dette er designet for grenseoverganger der mobile agenter sporer eller søker etter mennesker i omgivelser utenfor, ikke flyplasser. Likevel er det en del av flyplassens "løgnedetektor" du hører så mye om.

Les hele historien her ...

Bli med på vår adresseliste!


avatar
1 Kommentar tråder
0 Tråd svar
0 Følgere
Mostïve kommentar
Hotteste kommentar tråd
0 Kommentarforfattere
Nylig kommenterte forfattere
Abonner
Nyeste eldste de fleste stemte
Varsle om