Oppdatering: Google avbryter AI-etikkpanel etter opphør

Wikimedia Commons
Del denne historien!
Googles etikkpanel ble svermet av tusenvis av (uetiske?) Ikke-deltakere som angrep individuelle medlemmer av dets etikkpanel. Resultatet var fullstendig kaos, avskjed og til slutt å avbryte det hele. Big Tech og etikk nærmer seg oksymoronisk status. ⁃ TN Editor

Denne uken Vox og andre utsalgssteder rapportert at Googles nyopprettede AI-etikkstyre falt fra hverandre midt i kontroverser over flere av styremedlemmene.

Vel, det er offisielt gjort å falle fra hverandre - det er blitt kansellert. Google fortalte Vox torsdag at den trekker pluggen på etikkstyret.

Styret overlevde i knapt mer enn en uke. Grunnlagt for å lede “ansvarlig utvikling av AI” på Google, ville det ha hatt åtte medlemmer og fire møter i løpet av 2019 å vurdere bekymringer om Googles AI program. Disse bekymringene inkluderer hvordan AI kan aktivere autoritære stater, hvor AI algoritmer produsere ulike utfall, enten for å arbeide med militære anvendelser av AI, og mer. Men det kom til problemer fra starten av.

Tusenvis av Google-ansatte signerte en begjæring om å få fjernet av ett styremedlem, Heritage Foundation-president Kay Coles James, over hennes kommentarer om transpersoner og organisasjonens skepsis til klimaendringer. I mellomtiden åpnet inkluderingen av droneselskapets administrerende direktør Dyan Gibbens gamle divisjoner i selskapet over bruk av selskapets AI til militære applikasjoner.

Styremedlem Alessandro Acquisti resignert. Et annet medlem, Joanna Bryson, forsvarer sin beslutning om ikke å fratre, hevdet av James, "Tro det eller ei, jeg vet verre om en av de andre menneskene." Andre styremedlemmer fant seg selv belastet med krav om at de begrunner beslutningen om å forbli i styret.

Torsdag ettermiddag, en Google-talsperson fortalte Vox at selskapet har besluttet å oppløse panel, kalt Advanced Technology Eksterne Advisory Council (ATEAC), helt. Her er selskapets uttalelse i sin helhet:

Det har blitt klart at ATEAC ikke kan fungere som vi ønsket i dagens miljø. Så vi avslutter rådet og går tilbake til tegnebrettet. Vi vil fortsette å være ansvarlige i vårt arbeid med viktige spørsmål som AI reiser, og vil finne forskjellige måter å få ytre meninger om disse temaene.

Panelet skulle legge til utenforperspektiver til pågående AI-etikkarbeid av Google-ingeniører, som alle vil fortsette. Forhåpentligvis betyr kansellering av styret representerer ikke en retrett fra Googles AI etikk arbeid, men en sjanse til å vurdere hvordan man mer konstruktivt engasjere eksterne interessenter.

Styret ble til et enormt ansvar for Google

Styrets troverdighet fikk først en hit da Alessandro Acquisti, personvernforsker, annonsert på Twitter at han gikk av og argumenterte: "Mens jeg er viet til forskning som kjemper med viktige etiske spørsmål om rettferdighet, rettigheter og inkludering i AI, tror jeg ikke dette er det rette forumet for meg å delta i dette viktige arbeidet."

I mellomtiden begjæring om å fjerne Kay Coles James har tiltrukket seg mer enn 2,300 signaturer fra Google-ansatte så langt og har ikke vist tegn til å miste dampen.

Som sinne om bord intensivert, ble styremedlemmer trukket inn utvidet etiske debatter om hvorfor de var på bordet, som ikke kan ha vært hva Google hadde håpet på. På Facebook mente styremedlem Luciano Floridi, etikkfilosof ved Oxford:

Ber om [Kay Coles James '] råd var en alvorlig feil og sender feil budskap om innholdet og målene for hele ATEAC prosjektet. Fra et etisk perspektiv har Google feilvurdert hva det vil si å ha representative synspunkter i en bredere sammenheng. Hvis fru Coles James ikke trekker seg, slik jeg håper hun gjør det, og hvis Google ikke fjerner henne (https://medium.com/…/googlers-against-transphobia-and-hate-…), som jeg personlig har anbefalt, blir spørsmålet: hva er riktig moralsk holdning å ta med tanke på denne alvorlige feilen?

Han endte opp med å avgjøre å bo på panelet, men det var ikke den type etisk debatt Google hadde håpet å gnist - og det ble vanskelig å forestille seg de to jobber sammen.

Det var ikke det eneste problemet. Jeg kranglet for en dag siden at styret, til side for side, ikke var godt opprettet for å lykkes. AI etikk boards som Google, som er på moten i Silicon Valley, i stor grad synes ikke å være rustet til å løse, eller selv gjøre fremskritt på, harde spørsmål om etisk AI fremgang.

En rolle i Googles AI-styre var en ubetalt, tannløs stilling som umulig i fire møter i løpet av et år kan komme til en klar forståelse av alt Google gjør, enn si tilby nyansert veiledning om det. Det er presserende etiske spørsmål om AI-arbeidet som Google utfører - og ingen reell mulighet som styret kan adressere dem tilfredsstillende. Fra starten av var den dårlig designet for målet.

Nå er den avlyst.

Les hele historien her ...

Abonner!
Varsle om
gjest

0 kommentarer
Inline tilbakemeldinger
Se alle kommentarer