IBM stopper ansiktsgjenkjenningsenhet over skjevhet og ulikhet

Wikimedia Commons, Rosemaryetoufee
Del denne historien!
Uansett IBMs motiv over å dumpe ansiktsgjenkjenningsvirksomheten, gir det en dristig uttalelse til hele bransjen, inkludert Amazon og Google, at denne teknologien ikke har noen plass i lovhåndhevelse i utgangspunktet. ⁃ TN Editor

IBMs administrerende direktør Arvind Krishna kunngjorde i dag at selskapet ikke lenger vil selge ansiktsgjenkjenningstjenester, og ba om en "nasjonal dialog" om det i det hele tatt skal brukes. Han ga også uttrykk for støtte til en ny lov som har som mål å redusere politivold og øke ansvarlighet.

I et brev rapportert av CNBC, skrevet til støtte for Lov om rettferdighet i politi introdusert i dag, forklarer Krishna selskapets uttreden fra den kontroversielle virksomheten med ansiktsidentifikasjon som en tjeneste.

IBM motsetter seg og vil ikke godkjenner bruk av teknologi, inkludert ansiktsgjenkjenningsteknologi som tilbys av andre leverandører, for masseovervåking, raseprofilering, brudd på grunnleggende menneskerettigheter og friheter, eller noe formål som ikke er i samsvar med våre verdier og tillitsprinsipper og åpenhet. Vi mener at det er på tide å starte en nasjonal dialog om hvorvidt og hvordan ansiktsgjenkjenningsteknologi skal brukes av nasjonale rettshåndhevingsbyråer.

Denne nøye tilnærmingen til å utvikle og distribuere teknologien er ikke en ny: IBM i fjor understreket den med en ny database med ansiktsdata det var mer mangfoldig enn noe tilgjengelig den gangen. Tross alt, som alle programmer, er disse systemene bare like gode som informasjonen du leverer inn i dem.

Imidlertid ser ikke ansiktsgjenkjenning ut til å ha tjent selskapet mye penger, om noen. For å være rettferdig er teknologien virkelig i sin spede begynnelse, og det er få applikasjoner der en bedriftsleverandør som IBM gir mening. Amazons kontroversielle anerkjennelsestjeneste, selv om den har blitt testet av ganske mange lovhåndhevende enheter, er ikke godt tenkt på feltet. Det ville ikke ha stor nytte av IBM å prøve å konkurrere med et produkt som på samme måte bare er knapt godt nok til å bruke.

Krishnas brev sier også at "leverandører og brukere av Al-systemer har et delt ansvar for å sørge for at Al blir testet for skjevhet, spesielt når de brukes i rettshåndhevelse, og at slik skjevhetstesting blir revidert og rapportert." Dette er noe av et avskjedsskudd for de i feltet, spesielt Amazon, som har blitt kalt ut for den dårlige kvaliteten på ansiktsgjenkjenningssystemer, men ikke har sluttet å markedsføre dem.

Det er uklart om eller hvordan selskapet vil fortsette å utføre AI-forskning i disse retningene.

Les hele historien her ...

Abonner!
Varsle om
gjest

0 kommentarer
Inline tilbakemeldinger
Se alle kommentarer