Amazons ansiktsgjenkjenningstekniske 'supercharges' lokalt politi

Da arbeidere ved Ace Hardware her rapporterte at en kvinne hadde gått ut av butikken med en tank på $ 11.99 sveisegass som hun ikke hadde betalt for i vesken sin, kom en forseggjort høyteknologisk kriminalitetsbekjempelse til handling.

En lensmannsdetektiv i Washington County, som jobbet med byråets spesialundersøkelsesenhet, kjørte butikkens overvåkingsopptak gjennom et internt ansiktsgjenkjenningsprogram bygget av Amazon, og avslørte en mulig kamp.

Kvinnens lisensplate ble flagget, og tre måneder senere så en narkotikaviser i en umerket SUV den og sendte radio på andre patruljedirektører for å stoppe henne. En stedfortreder klappet et par håndjern rundt håndleddene, og det står i arrestrapporten. Hun sa at hun hadde trengt bensin for å fikse bilen sin.

Varamedlemmer i dette hjørnet av vestlige Oregon utenfor ultraliberal Portland pleide å spore opp kriminelle på den gammeldagse måten, og fakse bilder på kamera av en mistenkt rundt kontoret i håp om at noen kunne kjenne igjen ansiktet.

På slutten av 2017 ble Sheriffkontoret i Washington County det første rettshåndhevelsesbyrået i landet som er kjent for å bruke Amazons kunstige intelligensverktøy Rekognition, og forvandler denne krattet av skog og forsteder til en offentlig testplass for en ny bølge av eksperimentell politiovervåking teknikker.

Nesten over natten så varamedlemmer sine etterforskningsmakter overladet, slik at de kunne søke etter fyrstikker i mistenkte ansikt over mer enn 300,000 2001 krusskudd tatt i fylkesfengselet siden 1,000. Et kornete bilde av andres ansikt - fanget av et sikkerhetskamera, et sosialt medium konto eller en stedfortrederens smarttelefon - kan raskt bli en lenke til identiteten deres, inkludert navn, familie og adresse. Mer enn XNUMX ansiktsgjenkjenningssøk ble logget i fjor, sa varamedlemmer, som noen ganger brukte resultatene til å finne en mistenkts Facebook-side eller besøke deres hjem.

Men Washington County ble også grunn null for en høy innsats kamp om uregulert vekst av politiarbeid med algoritme. Forsvarsadvokater, kunstig intelligensforskere og sivile rettighetseksperter hevder at teknologien kan føre til urettmessig arrestasjon av uskyldige mennesker som bare ligner et videobilde. Rekognitions nøyaktighet er også sterkt omstridt, og noen eksperter bekymrer seg for at en sak om feil identitet fra væpnede varamedlemmer kan ha farlige implikasjoner, som truer personvern og folks liv.

Noen politibyråer har de siste årene gjennomført ansiktsgjenkjenningssøk mot statlige eller FBI-databaser ved bruk av systemer bygget av entreprenører som Cognitec, IDEMIA og NEC. Men utrullingen av Amazon har markert det største skrittet i å gjøre den kontroversielle ansiktsskanningsteknologien mainstream. Anerkjennelse er enkel å aktivere, krever ingen større teknisk infrastruktur og tilbys praktisk talt hvem som helst til rimelige priser. Washington County brukte omtrent $ 700 for å laste opp sin første store rekke bilder, og nå, for alle søk, betaler den omtrent $ 7 i måneden.

Det er imidlertid umulig å fortelle hvor nøyaktig eller effektiv teknologien har vært i løpet av de første 18 månedene av virkelige tester. Varamedlemmer trenger ikke å merke seg i arrestrapporter når et ansiktsgjenkjenningssøk ble brukt, og det nøyaktige antall ganger det har resultert i en arrestasjon er uklart. Lensmannens tjenestemenn sa at programvaren har ført til dusinvis av arrestasjoner for tyveri, vold eller andre forbrytelser, men en forespørsel om offentlige poster viste ni saksrapporter der ansiktsgjenkjenning ble nevnt.

"Akkurat som alle våre etterforskningsteknikker, forteller vi ikke folk hvordan vi fanger dem," sa Robert Rookhuyzen, en detektiv på byråets store forbrytelsesteam som sa at han har kjørt "flere dusin" -søk og funnet det nyttig om 75% av tiden. "Vi vil at de skal fortsette å gjette."

Lensmannens tjenestemenn sier at ansiktsskanning ikke alltid markerer slutten på etterforskningen: Varamedlemmer må fremdeles fastslå sannsynlig årsak eller finne bevis før de siktet en mistenkt for en forbrytelse. Men lensmannskontoret setter sine egne regler for ansiktsgjenkjenning og lar varamedlemmer bruke verktøyet til å identifisere lik, bevisstløse mistenkte og personer som nektet å gi navn.

Søkeverktøyets ufullkomne resultater øker risikoen for at en uskyldig person blir flagget og arrestert, spesielt i tilfeller av skannede bilder blir uskarpe, lav kvalitet eller delvis skjult. Varamedlemmer har også lov til å kjøre kunstnerskisser gjennom søket, en uvanlig bruk som AI-eksperter sa oftere kunne føre til en falsk kamp.

Amazons retningslinjer for rettshåndhevelse sier at tjenestemenn bare skal bruke Rekognitions resultater når systemet er 99% trygg på en kamp. Men varamedlemmer her er ikke vist at måling av søketillit når de bruker verktøyet. I stedet får de fem mulige treff for hvert søk, selv om systemets sikkerhet i en kamp er langt lavere.

Etter å ha stilt spørsmål fra The Washington Post, la Amazon til språket i disse retningslinjene, og sa at offiserer burde gjennomgå alle kampene manuelt før de mistenkte, og at søket "ikke skal brukes som den eneste avgjørende for å iverksette tiltak."

Forholdet mellom Amazon og Oregon tredje største rettshåndhevelsesbyrå er gjensidig fordelaktig: Sheriff's Office hjelper til med å foredle systemet, som Amazon håper å selge over hele landet. Men Amazons press på salg av rettshåndhevelse har skremt noen juridiske advokater som sier at systemet utgjør for mange risikoer for sivile friheter. (Amazon-grunnlegger og administrerende direktør Jeff Bezos eier The Post.)

"Regjeringen er utrolig mektig, og de gir mye å utsette mot en enkelt borger i en sak," sa Mary Bruington, direktør for Washington County Public Defender's Office, som representerer tiltalte som ikke har råd til en advokat. “Parrer du det med Amazon? Det er et kraftig partnerskap. ”

Matt Wood, daglig leder for kunstig intelligens for selskapets cloud computing-divisjon, Amazon Web Services, sa i en uttalelse at Rekognition bare er "nok en innsats blant mange andre ledere for en 100 prosent menneskelig drevet etterforskning."

Likevel møter selskapet kritikk på mange fronter: Topp AI-forskere, medlemmer av Kongressen og borgerrettighetsgrupper - så vel som noen av Amazons egne investorer og ansatte - har oppfordret selskapet til å slutte å levere teknologien til rettshåndhevelse, og peker på studier som har funnet ut at systemet er mindre nøyaktig med mørkhudede ansikter. Amazon har bestridt den forskningen.

Noen av Amazons rivaler har forkastet lignende kontrakter. Microsofts president Brad Smith sa i april at selskapet nylig hadde nektet å tilby ansiktsgjenkjenningsprogramvare til et politimyndighet i California som ønsket å kjøre en ansiktsskanning når som helst offiserene trakk noen, men at det hadde godkjent en avtale som setter teknologien. i et amerikansk fengsel. Microsoft nektet å oppgi detaljer.

Amazon-investorer vil i mai stemme på et forslag, støttet av en gruppe aktivistaksjonærer, som vil forhindre selskapet i å selge Rekognition til offentlige etater med mindre selskapets styre fastslår at det ikke utgjør en risiko for menneskerettighetene.

Lensmannskontoret tillot Post-journalister å tilbringe to dager i mars i sine troppebiler, detektorkontorer og fylkesfengsel, og observere hvordan varamedlemmer har brettet teknologien inn i deres daglige saksbelastning. De fleste av de intervjuede sa at programvaren hadde spart dem tid, økt antallet arrestasjoner og hjulpet dem med å behandle den økende mengden visuelt bevis. Til dags dato har det ikke blitt gjort noen juridisk utfordring med en arrestasjon med den begrunnelse at fotokampen var feil, sa både varamedlemmer og offentlige forsvarere.

Men advokater i Oregon sa at teknologien ikke burde være, slik mange ser det, et forestående skritt fremover for politiets fremtid, og de rammer opp systemet ikke som en teknisk milepæl, men en moralsk: Er det OK å nabere flere skurkene hvis flere flinke karer kan også bli arrestert?

"Folk elsker å alltid si:" Hei, hvis det fanger dårlige mennesker, veldig bra, hvem bryr seg, "sa Joshua Crowther, en sjeffortredende forsvarer i Oregon," til de er i den andre enden. "

"Skiller seg ikke fra magi"

Da Amazon avslørte Rekognition i 2016, kalte selskapet det et gjennombrudd for en kraftig stil med dyplærende kunstig intelligens som viste resultatene “skiller seg ikke fra magi.” I et blogginnlegg illustrert med et bilde av en lederes hund, ga selskapet noen generelle ideer for hvordan folk kunne begynne å bruke den, inkludert for sikkerhetskontrollpunkter eller reklametavler som er koblet for å samle data fra betrakterens ansikt.

Avdukingen fanget blikket til Chris Adzima, en tidligere eBay-programmerer som hadde blitt ansatt ved Washington County Sheriff's Office for å jobbe med en iPhone-app som varamedlemmer bruker for å spore innsattes oppførsel. Byrået hans hadde hundretusenvis av ansiktsbilder allerede online og ingen reell måte å analysere dem på. Ved hjelp av Amazons AI fikk han et system i gang på mindre enn tre uker.

"De hadde egentlig ikke en fast ide om noen type brukstilfeller i den virkelige verden, men de visste at de hadde et kraftig verktøy de skapte," sa Adzima, en senior informasjonssystemanalytiker som jobber i et lite avlukke på lensmannens hovedkvarter. "Så du vet, jeg begynte nettopp å bruke den."

Varamedlemmer begynte umiddelbart å brette ansiktssøk i deres daglige slagpoliti, og Adzima bygget et internt nettsted med bare bein som lot dem søke fra patruljebilene sine. Han droppet søkeprosentprosentene og designet systemet til å returnere fem resultater hver gang: Når systemet returnerte null resultater, sa han, varamedlemmer lurte på om de hadde ødelagt noe. For å krydre det, la han også til en unødvendig lilla "skanning" -animasjon hver gang en stedfortreder lastet opp et bilde - en berøring han sa var inspirert av politimestre som "CSI."

Les hele historien her ...