Første offentlige skoler for å engasjere ansiktsgjenkjenning

Neste uke blir et skolekrets i vestlige New York det første i USA som piloterer et ansiktsgjenkjenningssystem på sine studenter og fakultet. Mandag, juni 3, vil Lockport City School District lyse opp Aegis-systemet som en del av et pilotprosjekt som vil gjøre det stort sett operativt av september 1, 2019. De distrikt har åtte skoler.

Superintendent Michelle Bradley kunngjorde trekket tirsdag, som først rapportert av The Lockport Union-Sun and Journal. Bradley beskrev testen som en "innledende implementeringsfase" ment å feilsøke systemet, trene distriktsansvarlige om bruken, og diskutere riktige prosedyrer med lokal politimyndighet i tilfelle et varsel utløst av ansiktsgjenkjenningsteknologien.

Lockport-piloten kommer midt i økt granskning av ansiktsgjenkjenningens effektivitet i USA, inkludert økende bekymringer for borgerrettigheter og bekymringer for at teknologien kan tjene til å forsterke samfunnsfordelingen ytterligere. Tidligere denne måneden, San Francisco forbudt politi fra å bruke ansiktsgjenkjenning, og lignende sedler i USA håper å gjøre det samme. Amazon har tålte vedvarende press - inkludert fra egne aksjonærer - for sin aggressive salgskraft av ansikts-anerkjennelsessystemet til rettshåndhevingsbyråer. Rep. Alexandria Ocasio-Cortez uttrykt bekymring at ansiktsgjenkjenning kunne brukes som en form for sosial kontroll i en kongresshøring om teknologien forrige uke.

Samtidig, rapporter og studier av ansiktsgjenkjenningens unøyaktigheter og feil - spesielt på kvinner og folk av farge - fortsette å dukke opp.

Andre skoler har vurdert å implementere ansiktsgjenkjenningssystemer, men Lockport vil være det første offentlige skoledistriktet som begynte å bruke teknologien, sa American Civil Liberties Union til BuzzFeed News.

BuzzFeed News har nådd ut til Lockport City School District og produsenten av Aegis-systemet for kommentar.

Lockport-beboer Jim Shultz, en vokalkritiker av skoledistriktets plan for å bruke ansiktsgjenkjenning, beskrev den kommende piloten som "et terningkast": "Jeg tror distriktet er desperat etter å ikke begynne et nytt skoleår med sitt dyre system som bare sitter der, ”Sa han til BuzzFeed News.

I mars 2018, Lockport annonsert planene om å installere et sikkerhetssystem for ansiktsgjenkjenning, som det finansieres gjennom New York Smart Schools Bond Act - en handling som er ment å hjelpe statlige skoler til å øke deres instruksjonsteknologi. Men i stedet for å kjøpe bærbare datamaskiner og iPad-er, sendte Lockport et forslag til et høyteknologisk sikkerhetssystem, og tildelte mye av de $ 4.2 millionene det ble gitt til å legge til dusinvis av overvåkningskameraer på skolen og installere ansiktsgjenkjenningssystemet Aegis, som er levert av Canada-baserte SN Technologies. Til dags dato har Lockport brukt $ 1.4 millioner for å få systemet i gang.

"Aegis er et system for tidlig varsling som informerer ansatte om trusler, inkludert våpen eller enkeltpersoner som har blitt identifisert som ikke tillatt i bygningene våre," uttalte en FAQ som ble distribuert til skolens foreldre og innhentet av BuzzFeed News. “Aegis har muligheten [til å skjerm] hver eneste dør og gjennom bygninger for å identifisere personer eller våpen. Tidlig oppdagelse av en trussel mot skolene våre gir raskere og mer effektiv respons. ”

Les hele historien her ...

Oppdater

Torsdag sa New York State Education Department til BuzzFeed News at det har bedt Lockport om å utsette bruken av ansiktsgjenkjenningsteknologi på studenter.

I en e-postmelding sa en talsperson: "Avdelingen vurderer for øyeblikket Lockport CSDs personvernvurdering for å sikre at studentdata vil bli beskyttet med tillegg av den nye teknologien. Avdelingen har ikke kommet til at distriktet har demonstrert de nødvendige rammene er på plass for å beskytte personers personvern og sikre dataene på riktig måte. Som sådan er det avdelingens fortsatte anbefaling at distriktet forsinker bruken av ansiktsgjenkjenningsteknologi.

Les hele oppdateringen ...