Teknokrater har skapt et monster som de nå er klar over kan snu og ødelegge skaperne; dermed blir 'krigsspill' opprettet for å lære å beseire det - kunstig intelligens. Dette er et annet eksempel på et forsøk på å "redde verden" har blitt til et "ødelegg verden" -scenario. ⁃ TN Editor
Boostere for kunstig intelligens forutsier en modig ny verden av flygende biler og kreftkur. Misbrukere bekymrer seg for en fremtid der mennesker er slaver til en ond rase av robotoverherrer. Veteran AI-forskeren Eric Horvitz og Doomsday Clock-guruen Lawrence Krauss, som søkte en midtvei, samlet en gruppe eksperter i Arizona-ørkenen for å diskutere det verste som muligens kunne skje - og hvordan man kan stoppe det.
Workshopen deres fant sted sist helg ved Arizona State University med finansiering fra Tesla Inc. medstifter Elon Musk og Skype medstifter Jaan Tallinn. Offisielt kalt "Envisioning and Addressing Adverse AI Outcomes", det var en slags AI-dommedagsspill som organiserte rundt 40 forskere, cybersikkerhetseksperter og policy-vinnere i grupper av angripere - det røde teamet - og forsvarerne - det blå teamet - som spilte ut AI -borte-veldig-gale scenarier, alt fra aksjemarkedsmanipulering til global krigføring.
Horvitz er optimistisk - en god ting fordi maskinintelligens er hans livsverk - men noen andre, mer dystopisk-tenkende støttespillere av prosjektet syntes å finne utsiktene hans for positive da planene for denne hendelsen startet for omtrent to år siden, sa Krauss, en teoretisk teori. fysiker som leder ASUs Origins Project, programmet som kjører workshopen. Likevel sa Horvitz at for at disse teknologiene skal kunne lykkes fremover og for å oppnå bred offentlig tillit, må alle bekymringer være fullstendig luftet og adressert.
“Det er enormt potensial for AI å transformere så mange aspekter av samfunnet vårt på så mange måter. Samtidig er det grove kanter og potensielle ulemper, som enhver teknologi, ”sa Horvitz, administrerende direktør for Microsofts Research Lab i Redmond, Washington. "For å maksimere gevinsten fra oppsiden må vi også tenke gjennom mulige utfall mer detaljert enn vi har gjort før, og tenke på hvordan vi vil håndtere dem."
Deltakerne fikk "lekser" for å sende inn bidrag for worst case-scenarier. De måtte være realistiske - basert på dagens teknologier eller de som ser ut til å være mulige - og fem til 25 år i fremtiden. Deltakerne med de "vinnende" marerittene ble valgt til å lede panelene, som inneholdt omtrent fire eksperter på hvert av de to lagene for å diskutere angrepet og hvordan man kunne forhindre det.
wpDiscuz