IBM brukte NYPD-overvåkingsopptak for å utvikle teknologi som lar politiets søk etter hudfarge

I tiåret etter 9 / 11-angrepene, flyttet New York City Police Department for å sette millioner av New Yorkere under konstant vakt. Advarsel om terrorisme trusler, laget avdelingen en plan for teppe Manhattan sentrumsgater med tusenvis av kameraer og hadde, av 2008, sentraliserte sine videoovervåkningsoperasjoner til et enkelt kommandosenter. To år senere, NYPD kunngjorde at kommandosenteret, kjent som Lower Manhattan Security Coordination Center, hadde integrert nyskapende videoanalyseprogramvare i utvalgte kameraer over hele byen.

Videoanalyser-programvaren fanget stillbilder av enkeltpersoner fanget på TV med opptak i lukkede kretser og merket bildene automatisk med fysiske koder, for eksempel klesfarge, slik at politiet raskt kan søke gjennom timer med video etter bilder av enkeltpersoner som matcher en beskrivelse av interesse. På det tidspunktet programvaren var også i gang å generere varsler for uovervåkte pakker, biler som går fort i en gate i feil retning eller personer som kommer inn i avgrensede områder.

I løpet av årene har NYPD bare delt sporadiske, små oppdateringer om programmets fremgang. I et 2011-intervju med Scientific Americanfor eksempel sa inspektør Salvatore DiPace, daværende kommandøransvarlig for Lower Manhattan Security Initiative, politidepartementet tester om programvaren kunne bokse ut bilder av folks ansikter da de gikk forbi undergrunnen kameraer og deretter rulle gjennom bildene for forskjellige uspesifiserte " ansiktstrekk."

Mens ansiktsgjenkjenningsteknologi, som måler individuelle ansikter på over 16,000 poeng for finkornet sammenligning med andre ansiktsbilder, har tiltrukket seg betydelig juridisk kontroll og media oppmerksomhet, har denne objektidentifikasjonsprogramvaren i stor grad unndratt seg oppmerksomhet. Hvordan nøyaktig denne teknologien ble utviklet og hvilke spesielle funksjoner programvaren ble bygget for å katalogisere, har aldri blitt avslørt offentlig av NYPD.

Nå, takk til fortrolige bedriftsdokumenter og intervjuer med mange av teknologene som er involvert i utviklingen av programvaren, The Intercept og Investigative Fund har lært at IBM begynte å utvikle denne objektidentifikasjonsteknologien ved å bruke hemmelig tilgang til NYPD-kameraopptak. Med tilgang til bilder av tusenvis av uvitende New Yorkere som ble tilbudt av NYPD-tjenestemenn, så tidlig som 2012, opprettet IBM nye søkefunksjoner som lar andre politiavdelinger søke i filmopptak etter bilder av mennesker etter hårfarge, ansiktshår og hudfarge. .

IBM nektet å kommentere bruken av NYPD-opptak for å utvikle programvaren. I et e-post svar på spørsmål fortalte NYPD imidlertid The Intercept at "Video fra tid til annen ble levert IBM for å sikre at produktet de utviklet ville fungere i det overfylte urbane NYC-miljøet og hjelpe oss med å beskytte byen . Det er ingenting i NYPDs avtale med IBM som forbyr å dele data med IBM til systemutviklingsformål. Videre har alle leverandører som inngår avtaleavtaler med NYPD det absolutte kravet om å holde alle data levert av NYPD konfidensielt i løpet av avtalens løpetid, etter at avtalen er fullført, og i tilfelle avtalen avsluttes. "

I en e-post til The Intercept, NYPD bekreftet at utvalgte myndigheter for bekjempelse av terrorisme hadde tilgang til en forhåndsutgitt versjon av IBMs program, som inkluderte hudfargesøkfunksjoner, allerede sommeren 2012. NYPD-talsperson Peter Donald sa at søkeegenskapene bare ble brukt til evalueringsformål, og at offiserer ble instruert om ikke å ta med hudfargesøkfunksjonen i vurderingen. Avdelingen bestemte seg etter hvert for ikke å integrere analyseprogrammet i sin større overvåkningsarkitektur, og avviklet IBM-programmet i 2016.

Etter å ha testet ut disse kroppslige søkefunksjonene med NYPD, ga IBM ut noen av disse funksjonene i en 2013-produktutgivelse. Senere versjoner av IBMs programvare beholdt og utvidet disse kroppslige søkefunksjonene. (IBM svarte ikke på et spørsmål om gjeldende tilgjengelighet av videoanalyseprogrammene.)

På spørsmål om hemmeligholdet av dette samarbeidet sa NYPD at “forskjellige valgte ledere og interessenter” ble orientert om avdelingens innsats “for å holde denne byen trygg”, og la til at det var nødvendig å dele kameratilgang med IBM for at systemet skal fungere. IBM svarte ikke på et spørsmål om hvorfor selskapet ikke offentliggjorde dette samarbeidet. Donald sa at IBM ga avdelingen lisenser til å bruke systemet på 512-kameraer, men sa at analysene ble testet på “færre enn femti.” Han la til at IBM-personell hadde tilgang til visse kameraer med det eneste formål å konfigurere NYPDs system, og at avdelingen satt i verk for å beskytte dataene, inkludert "ikke-avsløringsavtaler for hver enkelt som får tilgang til systemet; ikke-avsløringsavtaler for selskapene leverandørene jobbet for; og bakgrunnssjekker. ”

Les hele historien her ...