Biometrisk smackdown: tilbakeslag vokser mot ansiktsgjenkjenning

YouTube
Del denne historien!
Historier om motstand mot biometriske ordninger blir sjelden sett i etablerte medier fordi advokater fra Big Tech avleder slike historier ved mobbingutsalg med juridiske trusler. Monsanto og Big Pharma gjorde dette til en kunstform. ⁃ TN Editor

En tenåring saksøker Apple for $ 1 milliarder dollar. De Søksmålet, innlevert mandag, henger sammen med den påståtte bruken av en stadig mer populær - og kontroversiell - teknologi: ansiktsgjenkjenning. Teknologien kan identifisere et individ ved å analysere ansiktsfunksjonene sine i bilder, i videoer eller i sanntid.

Saksøker, 18 år gamle høyskolestudent Ousmane Bah, hevder selskapets ansiktsgjenkjenningsverktøy førte til at han ble arrestert for tyverier fra Apple Store han begikk ikke, ved å feilaktig koble navnet sitt med ansiktet til den virkelige tyven. NYPD-offiserer kom hjem til Bah i fjor høst for å arrestere ham på 4 om morgenen, bare for å oppdage at de tilsynelatende hadde feil fyr. Bah sier at hele prøvelsen forårsaket ham alvorlig emosjonell nød. I mellomtiden insisterer Apple på at butikkene ikke bruker ansiktsgjenkjenningsteknologi.

Uansett sannhet viser seg å være i dette tilfellet, er Bahs søksmål det siste tegnet på en eskalerende tilbakeslag mot ansiktsgjenkjenning. Etter hvert som teknologien blir implementert i flere og flere domener, har det i økende grad vekket kontrovers. Ta for eksempel de svarte leietakerne i Brooklyn som nylig innvendte mot utleierens plan om å installere teknologien i deres husleiestabiliserte bygning. Eller den reisende som klaget via Twitter det JetBlue hadde sjekket henne inn på flyturen ved å bruke ansiktsgjenkjenning uten hennes samtykke. (Flyselskapet forklarte at det hadde brukt Department of Homeland Security-data for å gjøre det, og ba om unnskyldning.)

Det er i tillegg til forskeretalsmennog tusenvis av medlemmer av publikumsom har gitt uttrykk for bekymring for risikoen for at ansiktsgjenkjenning fører til urettmessige arrestasjoner. De bekymrer seg for at visse grupper vil bli uforholdsmessig berørt. Ansiktsgjenkjenningsteknologi er ganske bra til å identifisere hvite mannlige ansikter, fordi det er de slags ansiktene det er blitt trent på. Men for ofte, det feilidentifiserer mennesker av farger og kvinner. Denne skjevheten kan føre til at de holdes uforholdsmessig til avhør etter hvert som flere rettshåndhevelsesbyråer benyttet teknologien.

Nå når vi et bøyningspunkt der store selskaper - ikke bare Apple, men også Amazon og Microsoft - blir tvunget til å ta slike klager på alvor. Selv om de endelig prøver å telegrafere at de er følsomme for bekymringene, kan det være for sent å vinne tillit tilbake. Offentlig misnøye har nådd en slik feber tonehøyde at noen, inkludert byen San Francisco, vurderer nå helt forbud mot ansiktsgjenkjenningsteknologi.

En stemme for å forby Amazon fra å selge Rekognition

Amazon er ikke akkurat kjent for å spille fint. Det har et rykte for kjemper mot foreslåtte lover den ikke liker og for aggressivt å forsvare arbeidet med politiet og myndighetene. I årevis hadde det råd til å oppføre seg slik. Likevel gjør opprøret over ansiktsgjenkjenning den holdningen vanskeligere å opprettholde.

Amazons ansiktsgjenkjenningsverktøy, Rekognition, er allerede solgt til rettshåndhevelse og lagt opp til innvandring og tollhåndhevelse. Men ledende AI-forskere argumenterte nylig for et åpent brev at teknologien er dypt feil. (Eksempel: I en test i fjor, Anerkjennelse matchet 28 medlemmer av kongressen til kriminelle krusskudd.) Og aksjonærene i Amazonas har kjempet for en avstemning om selskapet skal slutte å selge verktøyet til offentlige etater til det har bestått en uavhengig gjennomgang av virkningen av borgerrettigheter.

Amazon kjempet hardt for å forhindre at avstemningen skulle skje, men Securities and Exchange Commission hersket denne måneden at selskapet må la det gå foran. Det vil finne sted på 22 mai. Selv om resultatet i stor grad vil være symbolsk - aksjonærresolusjoner ikke er bindende, er avstemningen å gi negativ oppmerksomhet til Amazon.

I mellomtiden har selskapet vært prøver å myke opp sitt image ved for eksempel å ringe tilbake noen av de aggressive kampanjetaktikkene. Kartik Hosanagar, en professor i Wharton School of Business, sa Amazon tar "forebyggende tiltak" for å gjøre det bra "før en av [president] kandidatene gjør Amazon til plakatbarnet av det de omtaler som problemene med Big Tech."

Microsofts blandede meldinger om den etiske bruken av ansiktsgjenkjenning

Mens Amazon fremdeles er et ungt selskap, stiftet i 1994, har Microsoft nådd voksen alder - det har eksistert siden 1975. Den lengre levetiden betyr at det har hatt mer tid til å gjøre feil, men også mer tid til å lære av dem. Kim Hart hos Axios hevder at det er grunnen til det Microsoft har for det meste klart å unngå tilbakeslag mot big tech. "Microsoft, som kjørte gjennom sin egen antitrustkamp med justisdepartementet i '90s, har sidestilt feilene som ble gjort av de yngre, brasherne Big Tech-brødrene," skriver hun.

Likevel er Microsoft på ingen måte fullstendig immun mot motreaksjonen. Etter at det ble rapportert denne måneden at Microsoft-forskere hadde produsert tre artikler om AI og ansiktsgjenkjenning med et militært drevet universitet i Kina, lammet noen amerikanske politikere selskapet for å ha hjulpet et regime som varetektsfengslet en million uighur-muslimer i interneringsleirer og overvåker flere millioner. Senator Marco Rubio kalte det "Dypt urovekkende ... en handling som gjør dem medskyldige i å hjelpe den kommunistiske kinesiske regjeringens totalitære sensurapparat."

Pressen påpekte også at selskapet har solgt ansiktsgjenkjenningsprogramvaren sin til et amerikansk fengsel, og at Microsoft-president Brad Smith har sagt at det ville være "grusom" å helt slutte å selge programvaren til offentlige etater.

Noen dager senere foretok selskapet seg for å vise at det bryr seg om den etiske bruken av AI. Smith kunngjorde at den hadde nektet å selge ansiktsgjenkjenningsprogramvaren sin til et rettshåndhevelsesbyrå i California som ønsket å installere det i offiserers biler og kroppskameraer. Han sa at Microsoft nektet på menneskerettighetsgrunner, og å vite at bruk av programvaren ville føre til at folk av farger og kvinner ble holdt uforholdsmessig for avhør.

Trykket for å forby teknisk ansiktsgjenkjenning

Denne måneden har gjort det klart at det offentlige presset fungerer når det gjelder ansiktsgjenkjenning. Behemoth-selskaper vet at de ikke lenger kan ignorere kritikken - eller, som de nylig gjorde, ganske enkelt si at de ønsker velkommen regulering av denne teknologien. Kritikere gjør det klart at det ikke er bra nok - de vil se slike selskaper “komme helt ut av overvåkningsbransjen,” som American Civil Liberties Union fortalte Vox.

Les hele historien her ...

Abonner!
Varsle om
gjest

0 kommentarer
Inline tilbakemeldinger
Se alle kommentarer