Ansiktsgjenkjenning AI forutsier kriminelle basert på ansikt?

Et team fra University of Harrisburg, PA, har utviklet automatisert programvare for ansiktsgjenkjenning av datamaskiner som de hevder kan forutsi med 80 prosent nøyaktighet og "ingen raseforskjell" om en person sannsynligvis kommer til å være en kriminell, bare ved å se på et bilde av dem. "Ved å automatisere identifiseringen av potensielle trusler uten skjevhet, er vårt mål å produsere verktøy for kriminalitetsforebygging, rettshåndhevelse og militære applikasjoner," sa de og erklærte at de lette etter "strategiske partnere" å samarbeide med for å implementere produktet.

I en bekymringsfull bruk av ord, teamet i seg selv pressemelding, gå fra å henvise til dem programvaren anerkjenner som ”sannsynlige kriminelle” til “kriminelle” i løpet av bare én setning, noe som antyder at de er sikre på den diskrediterte rasistiske pseudovitenskapen til frenologi de ser ut til å ha oppdatert i det 21. århundre.

Dommerreaksjon på prosjektet var mindre enn entusiastisk kommentarer til venstre på Facebook, som inkluderer "Samfunn har prøvd å presse ideen om" fødte kriminelle "i århundrer," "og dette er ikke profilering fordi ……?” og “20 prosent blir konstant haltet av politiet fordi de har det” krimframsiden. ”Responsen var faktisk så negativ at universitetet trakk pressemeldingen fra internett. Imidlertid er det fremdeles synlig ved å bruke Internet Wayback Machine.

Mens forskerteamet påstår å fjerne partiskhet og rasisme fra å ta beslutninger og overlate det til en ansiktsløs algoritme, har de som skriver koden, og de som får bestemme hvem som utgjør en kriminell i utgangspunktet, absolutt sine egne skjevheter . Hvorfor blir de hjemløse eller fargerike mennesker som "loiter" på fortauet kriminalisert, men senatorer og kongresspersoner som stemmer for kriger og regime endrer ikke operasjoner? Og hvem er mer sannsynlig å bli arrestert? Ledere på Wall Street som driver med kokain på kontorene sine eller arbeiderklassen som røyker marihuana eller sprekker? Jo høyere nivået til en person i samfunnet er, jo mer alvorlig og skadelig blir forbrytelsene deres, men sannsynligheten for en arrestasjon og forvaringsstraff avtar. Det er mer sannsynlig at svarte mennesker blir arrestert for den samme forbrytelsen som hvite mennesker og er dømt til lengre opphold i fengselet også. Videre er ansiktsgjenkjenningsprogramvare notorisk for å ikke være i stand til å fortelle folk om farger fra hverandre, vekke ytterligere bekymringer.

Les hele historien her ...