Super-AI kan dukke opp som Coronavirus for å ødelegge sivilisasjonen

Oren EtzioniOren Etzioni
Del denne historien!
De samme teknokratene som i første omgang brakte oss AI, tenker nå på om en 'super-AI' plutselig kunne oppstå som ville ødelegge sivilisasjonen. For et mer pålitelig svar, bør de kanskje spørre Alexa. ⁃ TN Editor

Administrerende direktør i Allen Institute for AI, professor Oren Etzioni, utstedte en serie potensielle advarselsskilt som ville varsle oss om at "superintelligens" var rundt hjørnet.

Mennesker må være klare for tegn på robot superintelligens, men bør ha nok tid til å adressere dem, har en topp dataforsker advart.

Oren Etzioni, administrerende direktør i Allen Institute for AI, skrev en nylig artikkel med tittelen: “Hvordan vite om kunstig intelligens er i ferd med å ødelegge sivilisasjonen. ”

Han skrev: ”Kunne vi våkne en morgen kjedelig over at en supermektig AI har dukket opp, med katastrofale konsekvenser?

“Bøker som Superintelligence av Nick Bostrom og Life 3.0 av Max Tegmark, samt nyere artikler, hevder at ondskapsfull superintelligens er en eksistensiell risiko for menneskeheten.

“Men man kan spekulere uendelig. Det er bedre å stille et mer konkret, empirisk spørsmål: Hva vil varsle oss om at superintelligens virkelig er rundt hjørnet? "

Han liknet advarselsskilt mot kanarifugler i kullgruver, som ble brukt til å oppdage karbonmonoksid fordi de ville kollapse.

Prof Etzioni hevdet at disse advarselsskiltene kommer når AI-programmer utvikler en ny evne.

Han fortsatte for MIT Review: “Kunne den berømte Turing-testen fungere som en kanarifugl? Testen, oppfunnet av Alan Turing i 1950, antyder at AI på menneskelig nivå vil oppnås når en person ikke kan skille mellom å snakke med et menneske og å snakke med en datamaskin.

“Det er en viktig test, men det er ikke en kanarifugl; det er snarere tegnet på at AI på menneskelig nivå allerede har kommet.

“Mange datavitenskapere mener at hvis det øyeblikket kommer, vil superintelligens raskt følge. Vi trenger flere milepæler. ”

Men han advarte om at den “automatiske formuleringen av læringsproblemer” ville være den første kanarifuglen, etterfulgt av selvkjørende biler.

Les hele historien her ...

Abonner!
Varsle om
gjest

1 Kommentar
eldste
Nyeste Mest stemte
Inline tilbakemeldinger
Se alle kommentarer
Elle

Hva er "automatisk formulering av læringsproblemer"? Gikk til lenken, men siden ønsker info jeg ikke var villig til å gi.