Hele strafferettssystemet over hele Amerika blir ødelagt av det åpenbare misbruket av AI-teknologi. Politiet er ikke uvitende når de søker resultatene de ønsker i stedet for de objektive fakta i en sak. Dette er sammenlignbart med det falske vitenskapssamfunnet for global oppvarming. ⁃ TN Editor
I mai 2010, bedt om av en serie høyprofilerte skandaler, ba ordføreren i New Orleans det amerikanske justisdepartementet om å undersøke byens politidepartement (NOPD). Ti måneder senere tilbød DOJ sitt blåsende analyse: I løpet av perioden det ble gjennomgått fra 2005 og fremover, hadde NOPD flere ganger brutt forfatnings- og føderal lov.
Den brukte overdreven makt, og uforholdsmessig mot svarte innbyggere; målrettede raseminoriteter, ikke-engelsktalende og LHBTQ individer; og unnlot å adressere vold mot kvinner. Problemene, sa assisterende advokatfullmektig Thomas Perez på den tiden, var "seriøs, omfattende, systemisk og dypt forankret i kulturens avdeling."
Til tross for forstyrrende funn, gikk byen inn i et hemmelig partnerskap bare et år senere med data-gruveselskapet Palantir for å distribuere et prediktivt politisystem. Systemet brukte historiske data, inkludert arrestasjonsregister og elektroniske politirapporter, for å forutsi kriminalitet og bidra til å utforme offentlige sikkerhetsstrategier, ifølge Selskapet og bystyre materialer. Materialene antydet ikke på noe tidspunkt noen forsøk på å rense eller endre dataene for å løse bruddene som ble avslørt av DOJ. Etter all sannsynlighet ble de ødelagte dataene matet direkte inn i systemet, noe som styrket avdelingens diskriminerende praksis.
Forutsigbare politiealgoritmer blir vanlig praksis i byer over hele USA. Selv om mangel på åpenhet vanskeliggjør nøyaktig statistikk, er PredPol, en ledende leverandør, skryte at det hjelper "beskytte" 1 hos 33 amerikanere. Programvaren blir ofte utpekt som en måte å hjelpe tynt strukket politiavdelinger med å ta mer effektive, datadrevne beslutninger.
Men ny forskning antyder at det ikke bare er New Orleans som har trent disse systemene med "skitne data." papir utgitt i dag, som skal publiseres i NYU Law Review, fant forskere ved AI Now Institute, et forskningssenter som studerer den sosiale virkningen av kunstig intelligens, at problemet var gjennomgripende blant jurisdiksjonene det studerte. Dette har betydelige implikasjoner for effekten av prediktiv politistyring og andre algoritmer som brukes i strafferettssystemet.
"Systemet ditt er bare så bra som dataene du bruker for å trene det på," sier Kate Crawford, medstifter og meddirektør for AI Now og forfatter på studien. "Hvis dataene i seg selv er uriktige, vil det føre til at flere politiressurser blir fokusert på de samme overundersøkte og ofte rasemessige samfunnene. Så det du har gjort er faktisk en type teknisk vask der folk som bruker disse systemene antar at de på en eller annen måte er mer nøytrale eller objektive, men faktisk har de inngrodd en form for utradisjonalitet eller ulovlighet. ”
Forskerne undersøkte 13 jurisdiksjoner, med fokus på de som har brukt prediktive politisystemer og vært gjenstand for en regjeringsoppdragsundersøkelse. Det siste kravet sørget for at politipraksisene hadde lovlig verifiserbar dokumentasjon. I ni av jurisdiksjonene fant de sterke bevis for at systemene hadde blitt trent på "skitne data."
Problemet var ikke bare data skjevt av uforholdsmessig målretting av minoriteter, som i New Orleans. I noen tilfeller hadde politiavdelingene en kultur med målbevisst manipulering eller forfalskning av data under intenst politisk press for å få ned offisielle kriminalitetsrater. I New York, for eksempel, for å tømme ut kriminalitetsstatistikk kunstig, ba kommandantførere jevnlig ofrene på kriminalscenene om ikke å sende inn klager. Noen politifolk plantet til og med narkotika på uskyldige mennesker for å oppfylle kvotene deres for arrestasjoner. I moderne prediktive politisystemer, som er avhengige av maskinlæring for å forutsi kriminalitet, blir de ødelagte datapunktene legitime prediktorer.
wpDiscuz
GIGO! Søppel i; Søppel ute!