Et ansiktsgjenkjenningsverktøy som Amazon.com Inc selger til webutviklere med feil identifiserte 28 medlemmer av Kongressen som politiets mistenkte, i en test utført av American Civil Liberties Union (ACLU), sa organisasjonen torsdag.
Amazon sa i et svar at det tok problem med innstillingene for ansikts-ID-verktøyet under testen. Funnene fremhever likevel risikoen som enkeltpersoner kan møte hvis politiet bruker teknologien på visse måter for å fange kriminelle.
Siden mai har ACLU og andre borgerrettighetsgrupper presset Amazon til å slutte å selge myndighetene tilgang til Rekognition, en kraftig bilde-ID-programvare som ble avduket i 2016 av selskapets sky-databehandling.
Gruppene siterte bruk av Rekognition av lovhåndhevelse i Oregon og Florida og advarte om at verktøyet kunne brukes til å målrette innvandrere og mennesker av farger urettferdig.
Deres aktivisme har startet en offentlig debatt. Presidenten for Microsoft Corp, Amazons rival som også bruker ansiktsgjenkjenningsteknologi, ba kongressen tidligere denne måneden om å studere mulige regler.
ACLU sa at den ønsker at kongressen skal vedta et moratorium for bruk av teknologien av lovhåndhevelse.
Ansiktsgjenkjenning er allerede mye brukt i Kina til politiformål, og en rekke oppstartsbedrifter der - noen verdsatt til milliarder dollar - driver aggressivt med på teknologien.
Amazon har spionert en rekke bruksområder for Rekognition, fra å oppdage støtende innhold online til å identifisere kjendiser.
"Vi er fortsatt begeistret for hvordan bilde- og videoanalyse kan være en pådriver for godt i verden," sa en talskvinne for Amazon Web Services i en uttalelse, med henvisning til hjelpen til å finne tapte barn og forhindre forbrytelser. Hun sa at anerkjennelse normalt ble brukt til å begrense feltet for menneskelig gjennomgang, ikke for å ta endelige beslutninger.
ACLU sa at det betalte bare $ 12.33 for å få Amazon Rekognition til å sammenligne offisielle bilder av hvert medlem av det amerikanske huset og senatet mot en database med 25,000 offentlige arrestasjonsbilder.
Teknologien identifiserte "treff" for 28 medlemmer av kongressen med minst 80 prosent nøyaktighet, Amazons standardinnstilling, sa ACLU.
Så programvaren identifiserte 28 medlemmer av kongressen som SUSPECT ...
Vel nå ... Fordi 98% av de 28 er NWO Demoncrat Commies ...
Jeg vil si at programmet fungerer ganske bra ...
Spre denne meldingen over hele verden ...