Programvare for kriminalitet: 'Holy Grail' eller partisk mot minoriteter?

Del denne historien!

Som forutsagt har programvare for kriminalitet feid nasjonen, med avdelinger på alle nivåer som prøver å dra nytte av det utopiske løftet om å fange dem før de begår. Kritikere er imidlertid klar over at dette blir til en ny metode for profilering som det ikke kan være noen flukt fra.  TN Editor

Sgt. Charles Coleman spratt ut av politiets SUV og skannet en søppelfylt gate populær blant byens hjemløse, og reagerte på en forbrytelse som ennå ikke hadde skjedd.

Det var ikke en 911-samtale som brakte politibetjenten i Los Angeles til dette stedet, men en hvirvlende datamaskin knusende år med kriminalitetsdata for å komme frem til en prediksjon: Et biltyveri eller innbrudd ville sannsynligvis oppstå i nærheten av her akkurat denne morgenen.

I håp om å ta den av, inspiserte Coleman en rekke raske bobiler som ble brukt til ly hos hjemløse, vekket en mann som sov i en pickup og banket på siden av en hytte laget av kryssfiner og tarps.

“Hvordan går det, kjære?” Spurte han en kvinne som gikk ut. Coleman lyttet sympatisk da hun beskrev hvordan hun nesten ble voldtatt på knivstedet måneder tidligere, og sa at området var "veldig tøft" for en kvinne.

Snart var Coleman tilbake i sin SUV på vei for å bekjempe den neste forbrytelsen. Flere titalls andre LAPD-offiserer gjorde det samme på andre steder, ledet av kriminalitetsprognoseringssystemet kjent som PredPol.

“Predictive policing” representerer et paradigmeskifte som feier politiavdelinger over hele landet. Advokatbyråer prøver i økende grad å forutsi hvor og når kriminalitet vil oppstå, eller som kan være en gjerningsmann eller et offer, ved å bruke programvare som er avhengig av algoritmer, den samme regnestykket Amazon bruker for å anbefale bøker.

"Håpet er den hellige gralen for rettshåndhevelse - å forhindre kriminalitet før det skjer," sa Andrew G. Ferguson, en professor i University of District of Columbia, som utarbeider en bok om big data og politiarbeid.

Nå brukt av 20 av landets 50 største politistyrker av en telling, er teknologiene i sentrum for en stadig mer opphetet debatt om deres effektivitet, potensielle innvirkning på fattige og minoritetssamfunn og implikasjoner for borgerrettigheter.

Noen politiavdelinger har hyllet PredPol og andre systemer som et instrument for å redusere kriminalitet, og fokuserer knappe ressurser på problemer og enkeltpersoner og erstattet offiserers lur og potensielle skjevheter med harde data.

Men personvern- og raserettighetsgrupper sier at det er lite bevis på at teknologiene fungerer og bemerker at formlene som driver systemene stort sett er en hemmelighet. De er bekymret for at praksisen urettferdig kan konsentrere håndhevelsen i fargesamfunn ved å stole på raseskjevne politidata. Og de bekymrer seg for at offiserer som forventer at tyveri eller innbrudd er i ferd med å skje, kan være mer sannsynlig å behandle menneskene de møter som potensielle kriminelle.

Eksperimentene er en av de mest konsekvente testene av algoritmer som er stadig kraftigere krefter i livene våre, og bestemmer kredittscore, måler jobbytelse og flagger barn som kan misbrukes. Det hvite hus har studert hvordan de skal balansere fordelene og risikoen de utgjør.

“De tekniske kapasitetene til big data har nådd et nivå av raffinement og gjennomgripelighet som krever vurdering av hvordan man best kan balansere mulighetene som big data gir mot de sosiale og etiske spørsmålene disse teknologiene reiser,” skrev Det hvite hus i en fersk rapport.

Et seismisk skifte i politiet

Det var 6: 45 er på en mandag, men papirarket Coleman holdt i hendene ga et glimt av hvordan oktober 24 kan gå: et autodyveri nær hjørnet av Van Nuys og Glenoaks, et innbrudd i Laurel Canyon og Roscoe og så videre.

Kriminalitetsvarselet produseres av PredPol i begynnelsen av hvert skift. Røde bokser spredt over Google-kart over San Fernando-dalen, og fremhever 500-by-500-kvadratmeter store steder der PredPol konkluderte med eiendomskriminalitet var sannsynlig.

Les hele historien her ...

Abonner!
Varsle om
gjest

0 kommentarer
Inline tilbakemeldinger
Se alle kommentarer