Eric Schmidt: AI er like kraftig som atomvåpen

Tidligere Google-sjef Eric Schmidt sammenlignet AI med atomvåpen og ba om et avskrekkingsregime som ligner på den gjensidig sikre ødeleggelsen som hindrer verdens mektigste land fra å ødelegge hverandre.

Schmidt snakket om farene ved AI på Aspen Security Forum på en panel om nasjonal sikkerhet og kunstig intelligens den 22. juli. Mens han stilte et spørsmål om verdien av moral i teknologi, forklarte Schmidt at han selv hadde vært naiv om kraften til informasjon i Googles tidlige dager. Han ba deretter om at teknologien skulle være bedre i tråd med etikken og moralen til menneskene den tjener, og gjorde en bisarr sammenligning mellom AI og atomvåpen.

"Vi er ikke klare for de forhandlingene vi trenger." – @ericschmidt #AspenSecurity pic.twitter.com/As749t6ZyU

— Aspen Security Forum (@AspenSecurity) Juli 22, 2022

Schmidt forestilte seg en nær fremtid der Kina og USA trengte å sementere en traktat rundt AI. "På 50- og 60-tallet utarbeidet vi til slutt en verden der det var en "ingen overraskelse"-regel om kjernefysiske tester, og til slutt ble de forbudt, sa Schmidt. "Det er et eksempel på en balanse mellom tillit, eller mangel på tillit, det er en regel om ingen overraskelser. Jeg er veldig bekymret for at USAs syn på Kina som korrupt eller kommunistisk eller hva som helst, og det kinesiske synet på Amerika som sviktende... vil tillate folk å si "Herregud, de har noe å gjøre," og så begynne på en eller annen måte. av gåte. Begynn en slags ting der du, fordi du ruster opp eller gjør deg klar, utløser den andre siden. Vi har ingen som jobber med det, og likevel er AI så kraftig."

AI og maskinlæring er en imponerende og ofte misforstått teknologi. Det er stort sett ikke så smart som folk tror det er. Det kan ryke ut kunstverk på mesterverksnivå, slå mennesker kl Starcraft II, og foreta rudimentære telefonsamtaler for brukere. Forsøk på å få den til å gjøre mer kompliserte oppgaver, som å kjøre bil gjennom en storby, har ikke gått så bra.

Schmidt forestilte seg en nær fremtid der både Kina og USA ville ha sikkerhetshensyn som fremtvinger en slags avskrekkingsavtale mellom dem rundt AI. Han snakker om 1950- og 60-tallet da diplomatiet laget en rekke kontroller rundt de mest dødelige våpnene på planeten. Men for verden å komme til et sted der den innførte traktat om forbud mot kjernefysiske tester, SALT II og andre landemerkelovgivninger, tok det tiår med atomeksplosjoner og, kritisk, ødeleggelsen av Hiroshima og Nagasaki.

De to japanske byene Amerika ødela på slutten av andre verdenskrig drepte titusenvis av mennesker og beviste for verden den evige redselen til atomvåpen. Regjeringene i Russland og Kina skyndte seg deretter å anskaffe våpnene. Måten vi lever med muligheten for at disse våpnene vil bli brukt er gjennom noe som kalles mutual assured destruction (MAD), en teori om avskrekking som sikrer at hvis ett land lanserer en atomvåpen, er det mulig at alle andre land også vil gjøre det. Vi bruker ikke det mest destruktive våpenet på planeten på grunn av muligheten for at det vil ødelegge, i det minste, sivilisasjonen rundt om i verden.

Til tross for Schmidts fargerike kommentarer, vil vi ikke ha eller trenger MAD for AI. For det første har AI ikke vist seg på langt nær så ødeleggende som atomvåpen. Men folk i maktposisjoner frykt for denne nye teknologien og vanligvis av alle de feile grunnene. Folk har til og med foreslått gir kontroll av atomvåpen over til AI, og teoretiserer at de ville være bedre dommere for bruken deres enn mennesker.

Problemet med AI er ikke at den har den potensielt verdensødeleggende kraften til et atomvåpen. Det er at AI bare er like god som menneskene som designet den, og at de gjenspeiler verdiene til skaperne deres. AI lider av det klassiske "søppel inn, søppel ut"-problemet: Rasistiske algoritmer gjør rasistiske roboter, all AI bærer skjevhetene til skaperne, og en chatbot trent på 4chan blir elendig.

Dette er noe Demis Hassabis – administrerende direktør i DeepMind, som trente AI-en som slår Starcraft II spillere – ser ut til å forstå bedre enn Schmidt. I et juli-intervju på Lex Fridman-podcasten spurte Fridman Hassabis hvordan en så kraftig teknologi som AI kunne kontrolleres og hvordan Hassabis selv kan unngå å bli ødelagt av kraften.

Les hele historien her ...