Bør ansiktsgjenkjenningssystemer installeres på amerikanske skoler?

Bilde: Steve Ringman / The Seattle Times
Del denne historien!
Foreldre protesterer mindre enn de burde biometrisk identifikasjon for barna sine vil være absolutte før de til og med uteksamineres fra videregående skole. Technocrats generelt steam-roller over etiske og konstitusjonelle bekymringer, be effektivitet og bekvemmelighet. ⁃ TN Editor

RealNetworks tilbyr skolene et nytt, gratis sikkerhetsverktøy: ansiktsgjenkjenningsprogramvare. Men ettersom teknologien beveger seg lenger inn i offentlige rom, øker den personvernproblemer og krever regulering - selv fra teknologibedriftene som oppfinner den biometriske programvaren.

Da Mike Vance nærmer seg glassdøren som fører til RealNetworks teknikkontor, smiler han litt mot et lite kamera montert foran seg. Klikk. Døren låses opp, og reagerer på en kommando fra programvare som driver kameraet som kjente igjen Vances ansikt og bekreftet hans identitet.

Vance, en seniordirektør for produktledelse i Seattle-teknologiselskapet, leder teamet som skapte Secure, accurate Facial Recognition - eller SAFR, uttalt som "tryggere" - en teknologi som selskapet begynte å tilby gratis til K-12 skoler i sommer.

Det tok tre år, 8 millioner ansikter og mer enn 8 milliarder datapunkter for å utvikle teknologien, som kan identifisere et ansikt med nesten perfekt nøyaktighet. Det kortsiktige målet, sier ledere fra RealNetworks, er økt skolesikkerhet.

"Det er mye fordel for skolene å forstå hvem som kommer og går," sa Vance.

Programvaren er allerede i bruk på en Seattle-skole, og RealNetworks er i samtaler for å utvide den til flere andre over hele landet. Når vi ser fremover, planlegger RealNetworks - kjent for video- og musikkstrømming-programvare introdusert i de tidlige 2000-ene - å selge SAFR til forskjellige bransjer, selv om selskapet holder seg fullstendig mamma om detaljene for nå.

Introduksjonen av teknologien har presset RealNetworks inn i sentrum av et felt som vokser raskt etter hvert som programvare blir bedre til å identifisere ansikter. Men vokser sammen med det er personvernhensyn og økende krav til regulering - også fra teknologiselskapene som oppfinner den biometriske programvaren.

Ansiktsgjenkjenningsteknologi er allerede vanlig, brukt i alt fra fotoapper som sorterer bilder av mennesker, til å låse opp en iPhone, til lovhåndteringsbyråer som søker i databaser med førerkortfoto.

Ansiktsgjenkjenning brukes stort sett på to måter, sa Oren Etzioni, administrerende direktør for Seattles Allen Institute for Artificial Intelligence, søsterorganisasjonen til Paul Allens institutt for hjerneforskning. Den ene er forbrukernes bekvemmelighet, for eksempel å gruppere bilder, og den andre er for overvåking og sporing.

De store tech-spillerne har vært involvert i årevis: Microsoft markedsfører Face API for selskaper å identifisere og gruppere lignende ansikter for apper og andre produkter, mens Amazon har Rekognition, som kom under skudd tidligere i år da ACLU ba selskapet om å stoppe selger det til lovhåndteringsbyråer. Google, Apple og Facebook er også med i spillet, slik tagging og gruppering av bilder på smarttelefoner illustrerer.

Men nå, som RealNetworks 'SAFR viser, har teknologien gått videre inn i offentlige rom. Og med det lurer talsmenn for personvern på om folk fullt ut innser hvor ofte ansiktene deres blir skannet, og talsmenn og bransjen stiller spørsmål ved hvor linjen er mellom fordelene for publikum og kostnadene for personvern.

Å lære et ansikt

Ansiktsgjenkjenningsteknologi fungerer omtrent som fingeravtrykk - hvert ansikt har sin egen unike signatur, og selskaper lærer maskiner å gjenkjenne og matche folks unike funksjoner.

RealNetworks 'teknologi kartlegger 1,600 datapunkter på hvert ansikt den ser. Teamet har "trent" maskinen sin i omtrent to år siden lanseringen av RealTimes, den gratis appen som lar folk bygge lysbildefremvisninger. Innbakt i den 3,300 ord lange brukeravtalen for den appen er språket som lar RealNetworks bruke kundebilder for å trene ansiktsgjenkjenningssystemet.

SAFR vet ikke identiteten til folk på RealTimes-bilder, sa Vance - det er ingen navn, adresser eller annen identifiserende informasjon i den massive databasen med 8 millioner ansikter. Men hva det kan gjøre er å fortelle om to ansikter er den samme personen. Den er blitt så nøyaktig at den kan skille identiske tvillinger fra hverandre og matche familiebilder av samme person selv om de ble tatt tiår fra hverandre.

SAFR er avhengig av å kunne identifisere mennesker "i naturen" eller opptre ærlig, ikke posere.

"De gode tingene med den slags ansikter er at de er mennesker som gjør ting de gjør naturlig i livet," sa Vance. “Det er ikke krusskudd eller hermetiske skudd. Du kan velte et system for folk som ser kvadratisk inn i kameraet. Men når du går rundt her, når du går rundt på en skole, ser du ikke alltid på kameraet. ”

Mange ansiktsgjenkjenningsteknologier kan også identifisere grunnleggende demografi av en person. Microsofts Face API, for eksempel, kan gjette din alder med bare ett bilde - en funksjon som har blitt mer nøyaktig siden den ble utgitt første gang i 2015 til brukervennlige anmeldelser.

Det har ført til bekymringer for skjevhetmen spesielt siden a studere ved MITs Media Lab fant at noen store teknologiselskapers ansiktsgjenkjenningsapper hadde feilprosentene opptil 35 prosent høyere når de identifiserte kvinner med mørkere hud sammenlignet med menn med lysere hud. Noen fryktet at det kan føre til feilidentifisering av kvinner og mennesker av farger, et problematisk spørsmål, spesielt hvis systemene brukes av rettshåndhevelse.

Microsoft har erkjent skjevhetsproblemene og tar skritt for bedre å identifisere forskjellige ansikter,utvide databasen den bruker for å trene opp systemet ved å legge til bilder av mer forskjellige mennesker. 

RealNetworks har imidlertid ikke trent programvaren sin til å identifisere noen basert på rase. Du kunne for eksempel ikke be SAFR om å varsle deg når en hvit mann går inn en dør fordi den ikke vil vite hvilke ansikter som er hvite.

Les hele historien her ...

Abonner!
Varsle om
gjest

0 kommentarer
Inline tilbakemeldinger
Se alle kommentarer