Super-AI kan dukke opp som Coronavirus for å ødelegge sivilisasjonen

Oren EtzioniOren Etzioni
Del denne historien!
image_pdfimage_print
De samme Technocrats som brakte oss AI i utgangspunktet, funderer nå på om en "super-AI" plutselig kunne dukke opp som ville ødelegge sivilisasjonen. For et mer pålitelig svar, kanskje de bør spørre Alexa. ⁃ TN Editor

Administrerende direktør i Allen Institute for AI, professor Oren Etzioni, utstedte en serie potensielle advarselsskilt som ville varsle oss om at ”super-intelligens” er rundt hjørnet.

Mennesker må være klare for tegn på robot superintelligens, men bør ha nok tid til å adressere dem, har en topp dataforsker advart.

Oren Etzioni, administrerende direktør i Allen Institute for AI, skrev et fersk papir med tittelen: “Hvordan vet jeg om kunstig intelligens er i ferd med å ødelegge sivilisasjonen. ”

Han skrev: “Kunne vi våkne opp en dumbstruck en morgen som en superkraftig AI har oppstått, med katastrofale konsekvenser?

Bøker som Superintelligence av Nick Bostrom og Life 3.0 av Max Tegmark, samt nyere artikler, hevder at ondskapsfull superintelligens er en eksistensiell risiko for menneskeheten.

”Men man kan spekulere i det uendelige. Det er bedre å stille et mer konkret, empirisk spørsmål: Hva vil varsle oss om at superintelligens faktisk er rundt hjørnet? ”

Han liknet advarselsskilt mot kanarifugler i kullgruver, som ble brukt til å oppdage karbonmonoksid fordi de ville kollapse.

Prof Etzioni hevdet at disse advarselsskiltene kommer når AI-programmer utvikler en ny evne.

Han fortsatte for MIT Review: “Kunne den berømte Turing-testen fungere som kanari? Testen, oppfunnet av Alan Turing i 1950, antyder at AI på menneskelig nivå vil bli oppnådd når en person ikke kan skille samtale med et menneske fra å snakke med en datamaskin.

“Det er en viktig test, men det er ikke en kanari. det er snarere tegnet på at AI på menneskelig nivå allerede har kommet.

- Mange dataforskere tror at hvis det øyeblikket kommer, vil superintelligens raskt følge. Vi trenger flere mellomliggende milepæler. ”

Men han advarte om at den "automatiske formuleringen av læringsproblemer" ville være den første kanarifuglen, etterfulgt av selvkjørende biler.

Les hele historien her ...

Bli med på vår adresseliste!


avatar
1 Kommentar tråder
0 Tråd svar
0 Følgere
Mostïve kommentar
Hotteste kommentar tråd
1 Kommentarforfattere
Elle Nylig kommenterte forfattere
Abonner
Nyeste eldste de fleste stemte
Varsle om
Elle
Gjest
Elle

Hva er "automatisk formulering av læringsproblemer"? Gikk til lenken, men siden ønsker info jeg ikke var villig til å gi.