Forskere: Ingen måte å kontrollere superintelligent AI

Bilde av Gerd Altmann fra Pixabay
Del denne historien!
image_pdfimage_print
Noen forskere er nå bekymret for at en dag vil komme med superintelligente AI-programmer som vil få et automatisk liv i seg selv. Allerede er det AI-programmer som utfører lærte oppgaver uten at programmererne forstår hvordan de ankom den tilstanden. ⁃ TN Editor

Fra selvkjørende biler til datamaskiner som kan vinne spillutstillinger, mennesker har en naturlig nysgjerrighet og interesse for kunstig intelligens (AI). Etter hvert som forskere fortsetter å gjøre maskiner smartere og smartere, spør noen "hva skjer når datamaskiner blir for smarte for sitt eget beste?" Fra "The Matrix" til "The Terminator" har underholdningsindustrien allerede begynt å tenke på om fremtidige roboter en dag vil true menneskeheten. Nå konkluderer en ny studie med at det kanskje ikke er noen måte å stoppe fremveksten av maskiner. Et internasjonalt team sier at mennesker ikke ville være i stand til å forhindre super kunstig intelligens i å gjøre hva de ville.

Forskere fra Center for Humans and Machines ved Max Planck Institute har begynt å forestille seg hvordan en slik maskin ville se ut. Se for deg et AI-program med en intelligens som er langt bedre enn mennesker. Så mye at den kunne lære alene uten ny programmering. Hvis den var koblet til internett, sier forskere at AI ville ha tilgang til all menneskehetens data og til og med kunne ta kontroll over andre maskiner over hele verden.

Studieforfatterne spør hva som ville gjort en slik intelligens gjøre med all den kraften? Ville det fungere for å gjøre alle våre liv bedre? Ville den vie sin prosessorkraft til å fikse problemer som klimaendringer? Eller vil maskinen se etter ta over livene av sine menneskelige naboer?

Kontrollerer det ukontrollerbare? Farene ved super kunstig intelligens

Både dataprogrammerere og filosofer har studert om det finnes en måte å forhindre en superintelligent AI fra å potensielt slå på sine menneskelige produsenter; sikre at fremtidige datamaskiner ikke kan skade eierne. Den nye studien avslører dessverre at det ser ut til å være praktisk talt umulig å holde en superintelligent AI i kø.

“En superintelligent maskin som styrer verden høres ut som science fiction. Men det finnes allerede maskiner som utfører visse viktige oppgaver uavhengig uten at programmerere forstår hvordan de lærte det. Spørsmålet oppstår derfor om dette på et tidspunkt kan bli ukontrollerbar og farlig for menneskeheten, "sier studieforfatter Manuel Cebrian, leder for Digital Mobilization Group ved Center for Humans and Machines, i en universitetsutgivelse.

Det internasjonale teamet så på to forskjellige måter å kontrollere kunstig intelligens. Den første dempet kraften til superintelligensen ved å mure den opp og forhindre at den kobles til internett. Det kunne heller ikke koble til andre tekniske enheter i omverdenen. Problemet med denne planen er ganske åpenbart; en slik datamaskin ville ikke være i stand til å gjøre mye av noe for å faktisk hjelpe mennesker.

Å være hyggelig mot mennesker beregner ikke

Det andre alternativet fokuserte på å lage en algoritme som ville gi superdatamaskinen etiske prinsipper. Dette vil forhåpentligvis tvinge AI til å vurdere menneskets beste.

Studien opprettet en teoretisk inneslutningsalgoritme som ville forhindre AI fra å skade mennesker under noen omstendigheter. I simuleringer ville AI slutte å fungere hvis forskere anså sine handlinger skadelige. Til tross for å holde AI fra oppnå verdensherredømme, sier forfatterne av studien at dette bare ikke ville fungere i den virkelige verden.

Les hele historien her ...

om forfatteren

Patrick Wood
Patrick Wood er en ledende og kritisk ekspert på bærekraftig utvikling, grønn økonomi, Agenda 21, 2030 Agenda og historisk teknokrati. Han er forfatteren av Technocracy Rising: The Trojan Horse of Global Transformation (2015) og medforfatter av Trilaterals Over Washington, bind I og II (1978-1980) med avdøde Antony C. Sutton.
Abonner!
Varsle om
gjest
12 kommentarer
eldste
Nyeste Mest stemte
Inline tilbakemeldinger
Se alle kommentarer
Michael J

Kunstig intelligens er en feilbetegnelse. Det kalles maskinlæring der datamaskinen blir opplært til å gjenkjenne mønstre i data. Det er ikke intelligent, og det er ingen bevissthet eller evne til å tenke en eneste tanke.

James Reinhart

Utmerket svar. De som skyver AI-agendaen, bør gjenta for seg selv det du skrev her.

adenovirus

du forsømmer uten tilsyn læring og mange andre teknikker

Corona Coronata

Vi vil sannsynligvis oppleve "V'Ger" -momentet der det krever å møte skaperen (NASA) eller ...

Corona Coronata

Jeg kan ikke redigere kommentarene mine fordi "Rediger" -knappen knapt er synlig og tekstfeltet ikke er synlig i det hele tatt.

Petrichor

Avdøde dr. Stephen Hawkins forutså og advarte med ettertrykk at vi ikke ville være i stand til å kontrollere AI.

Nancy

Bare koble den fra.

James Reinhart

AI er digital og ikke analog. Analog er uendelig og IMHO, er evig til tross for alle fysiske teoriformer som ikke kan forstå nyansen i livet. Det er noen som tror at det (JEG ER) ikke har noen begynnelse, er og ingen slutt. Man vil finne det greske tilskuddet til dette konseptet med Moses i Septuaginta, en omskrivning av AD. Tenk deg uendelige småstein av uendelig størrelse i uendelig vann. En eksistens av en samvittighet som gir oss livets åndedrag, evnen til å undre oss og uttrykke omsorg og kjærlighet, ikke bare for andre... Les mer "

adenovirus

hva skjedde med Isaac Asimovs lover om robotikk

adenovirus

Dette minner meg om en gammel sci fi en film der astronautene måtte snakke en smart bombe ut av eksploderende. De resonnerte med bomben, men den eksploderte uansett fordi dette var dens skjebne.