Amazons ansiktsgjenkjenningsprogramvare er 'feil, forutinntatt og farlig'

Del denne historien!

Etter å ha identifisert 28 medlemmer av kongressen som politimistanker, ser Amazons ansiktsgjenkjenning AI ut til å fungere bare rundt 80% av tiden, og likevel selges den en masse til regjeringer og politibyråer. Selv om det fungerte 95% av tiden, står de 5% som er feil identifisert i fare for å få livet ødelagt for ingenting. ⁃ TN Editor

Et ansiktsgjenkjenningsverktøy som Amazon.com Inc selger til webutviklere med feil identifiserte 28 medlemmer av Kongressen som politiets mistenkte, i en test utført av American Civil Liberties Union (ACLU), sa organisasjonen torsdag.

Amazon sa i et svar at det tok problem med innstillingene for ansikts-ID-verktøyet under testen. Funnene fremhever likevel risikoen som enkeltpersoner kan møte hvis politiet bruker teknologien på visse måter for å fange kriminelle.

Siden mai har ACLU og andre borgerrettighetsgrupper presset Amazon til å slutte å selge myndighetene tilgang til Rekognition, en kraftig bilde-ID-programvare som ble avduket i 2016 av selskapets sky-databehandling.

Gruppene siterte bruk av Rekognition av lovhåndhevelse i Oregon og Florida og advarte om at verktøyet kunne brukes til å målrette innvandrere og mennesker av farger urettferdig.

Deres aktivisme har startet en offentlig debatt. Presidenten for Microsoft Corp, Amazons rival som også bruker ansiktsgjenkjenningsteknologi, ba kongressen tidligere denne måneden om å studere mulige regler.

ACLU sa at den ønsker at kongressen skal vedta et moratorium for bruk av teknologien av lovhåndhevelse.

Ansiktsgjenkjenning er allerede mye brukt i Kina til politiformål, og en rekke oppstartsbedrifter der - noen verdsatt til milliarder dollar - driver aggressivt med på teknologien.

Amazon har spionert en rekke bruksområder for Rekognition, fra å oppdage støtende innhold online til å identifisere kjendiser.

"Vi er fortsatt begeistret for hvordan bilde- og videoanalyse kan være en pådriver for godt i verden," sa en talskvinne for Amazon Web Services i en uttalelse, med henvisning til hjelpen til å finne tapte barn og forhindre forbrytelser. Hun sa at anerkjennelse normalt ble brukt til å begrense feltet for menneskelig gjennomgang, ikke for å ta endelige beslutninger.

ACLU sa at det betalte bare $ 12.33 for å få Amazon Rekognition til å sammenligne offisielle bilder av hvert medlem av det amerikanske huset og senatet mot en database med 25,000 offentlige arrestasjonsbilder.

Teknologien identifiserte "treff" for 28 medlemmer av kongressen med minst 80 prosent nøyaktighet, Amazons standardinnstilling, sa ACLU.

Les hele historien her ...