Landets største selger av politi-kameraer på torsdag innkalte til et styremedlem viet til etikk og utvidelse av kunstig intelligens, et stort nytt skritt mot å tilby kontroversiell ansiktsgjenkjenningsteknologi til politistyrker over hele landet.
Axon, produsenten av Taser-elektrosjokkvåpen og de bærbare kroppskameraene som nå brukes av de fleste store amerikanske politidepartementer, har uttrykt interesse for å forfølge ansiktsgjenkjenning for sine kroppsslitne kameraer. Teknologien kan tillate offiserer å skanne og gjenkjenne ansiktene til potensielt alle de ser mens de er på patrulje. Et økende antall overvåkningsfirmaer og teknologiske nystartede konkurrerer om å integrere ansiktsgjenkjenning og andre AI-funksjoner i sanntidsvideo.
Styrets første møte vil sannsynligvis føre til et forestående oppgjør over den raskt utviklende teknologien. Kort tid etter at styret ble kunngjort, sendte en gruppe på 30 borgerrettighets-, teknologi- og personverngrupper, inkludert American Civil Liberties Union og NAACP, medlemmene et brev med uttrykk for "alvorlige bekymringer for den nåværende retningen for Axons produktutvikling."
Brevet oppfordret til et direkte forbud mot ansiktsgjenkjenning, som det kalte "kategorisk uetisk å distribuere" på grunn av teknologiens personvernkonsekvenser, tekniske ufullkommenheter og potensielt livstruende skjevheter. De fleste ansiktsgjenkjenningssystemer, som nylig er funnet, utfører langt mindre nøyaktig når de vurderer mennesker med mørkere hud, og åpner potensialet for at en AI-aktivert offiser feilidentifiserer en uskyldig person som en farlig flyktning.
Axons grunnlegger og administrerende direktør, Rick Smith, sa at selskapet for øyeblikket ikke bygger ansiktsgjenkjenningssystemer, men sa at teknologien er "under aktiv vurdering." Han erkjente potensialet for "skjevhet og misbruk" i ansiktsgjenkjenning, men sa at de potensielle fordelene er for lovende å ignorere.
"Jeg tror ikke det er en optimal løsning, den verden vi er i dag, at det å fange farlige mennesker bare skal overlates til tilfeldige sjanser, eller forventer at politibetjenter husker hvem de leter etter," sa Smith. “Det ville være både naivt og kontraproduktivt å si at lovhåndhevelse ikke burde ha disse nye teknologiene. De skal, og jeg tror de kommer til å trenge dem. Vi kan ikke ha politi i 2020-politiet med teknologier fra 1990-tallet. ”
Axon holdt styrets første møte torsdag morgen i hovedkontoret i Arizona med åtte bedriftsvalgte eksperter innen AI, sivile friheter og strafferettslige forhold. Styret, hvis medlemmer er lønnede frivillige og ikke har noen offisiell vetorett, vil bli bedt om å gi råd om selskapet om "fremtidige evner Axons AI Research-team jobber med for å øke politiets effektivitet og effektivitet," sa selskapet i en uttalelse.
Ansiktsgjenkjenning har lenge hatt stor appell for rettshåndhevelse og myndighetsovervåking, og nyere fremskritt innen AI-utvikling og synkende kamera- og maskinvarekostnader har ansporet utviklere til å antyde at de kan brukes til bredere bruk. Omtrent 117 millioner amerikanske voksne, eller omtrent halve landet, kan finnes i de enorme ansiktsgjenkjenningsdatabasene som brukes av lokale, statlige og føderale rettshåndhevelser, vurderte forskerne i Georgetown Law School i 2016.
Ansikter blir sett på som en rask, pålitelig måte å identifisere noen fra video eller fjernt - og i noen tilfeller sett på som lettere å anskaffe enn andre "biometriske identifikatorer", for eksempel fingeravtrykk, som krever nærhet og fysisk kontakt. Department of Homeland Security skanner ansiktene til internasjonale reisende på mange av landets største flyplasser, og planlegger å utvide til alle reisende som flyr til utlandet.
Men kritikere sier at ansiktsgjenkjenningssystemer fremdeles ikke er bevist i deres evne til å identifisere noen unikt. Ansikter blir eldre over tid og endringer på grunn av omstendigheter, og de er ikke alltid så unike. Identiske tvillinger har for eksempel vist seg å være i stand til å lure ansiktsgjenkjenningssystemene som brukes til å låse opp Apples iPhone X.
"Sanntids ansiktsgjenkjenning vil avkjøle de konstitusjonelle ytringsfrihetene, spesielt ved politiske protester," heter det i brevet fra de forskjellige gruppene. Det “kunne også hovedoffiserer å oppfatte enkeltpersoner som farligere enn de egentlig er, og å bruke mer makt enn situasjonen krever. Ingen retningslinjer eller garantier kan redusere disse risikoene tilstrekkelig til at ansiktsgjenkjenning i sanntid noen gang kan bli markedsført.
Axon har beveget seg offensivt for å stille inn markedet på polititeknologier, og tilbyr gratis ettårsforsøk for kroppskameraer og online lagring til politiavdelinger over hele landet. Selskapet sa i februar at mer enn halvparten av de store byens lovhåndteringsbyråer i USA har kjøpt Axon-kroppskameraer eller programvare, inkludert Los Angeles, Chicago og Washington.
Selskapet, som i fjor skiftet navn fra Taser International, annonserer også seg selv som "den største forvalteren av offentlig sikkerhetsdata i USA", og sier mer enn 20 petabyte - eller 20 millioner gigabyte - av politibilder, kroppskameravideo og andre kriminelle etterforskningsdokumenter har blitt lastet opp til skylagringstjenesten Evidence.com.