Becoming One: Futurister forutsier teknologisk singularitet innen 2045

De fleste er kjent med syndfloden av kunstig intelligens (AI)-apper som ser ut til å gjøre oss mer effektive og kreative. Vi har apper som tar tekstmeldinger og genererer kunst, og den kontroversielle ChatGPT, som reiser alvorlige spørsmål om originalitet, feilinformasjon og plagiering.

Til tross for disse bekymringene, blir AI stadig mer gjennomgripende og påtrengende. Det er den nyeste teknologien som vil irreversibelt endre seg livene våre.

Internett og smarttelefoner var andre eksempler. Men i motsetning til disse teknologiene, tror mange filosofer og forskere at AI en dag kan nå (eller til og med gå utover) menneskelig "tenkning". Denne muligheten, kombinert med vår økende avhengighet av AI, er roten til et konsept i futurismen kalt "teknologisk singularitet».

Dette begrepet har eksistert en stund, etter å ha vært det popularisert av science fiction-forfatteren Vernor Vinge for noen tiår siden.

I dag refererer "singulariteten" til et hypotetisk tidspunkt hvor utviklingen av kunstig generell intelligens (AGI) – det vil si AI med evner på menneskelig nivå – blir så avansert at det irreversibelt vil endre menneskelig sivilisasjon.

Det ville markere begynnelsen på vår uatskillelighet fra maskiner. Fra det øyeblikket av vil vi ikke kunne leve uten dem uten å slutte å fungere som mennesker. Men hvis singulariteten kommer, vil vi i det hele tatt merke det?

Hjerneimplantater som første trinn

For å forstå hvorfor dette ikke er stoffet eventyr, trenger vi bare se så langt som den siste utviklingen innen hjerne-datamaskin-grensesnitt (BCI). BCI-er er en naturlig begynnelse på singulariteten i mange fremtidsforskeres øyne, fordi de kombinerer sinn og maskiner på en måte som ingen annen teknologi så langt kan.

Elon Musks selskap Neuralink is søker tillatelse fra Food and Drug Administration for å starte menneskelige forsøk for sin BCI-teknologi. Dette vil innebære implantering av nevrale koblinger i frivilliges hjerner slik at de kan kommunisere instruksjoner ved å tenke på dem.

Neuralink håper å hjelpe paraplegiske mennesker til å gå og blinde se igjen. Men utover disse målene ligger andre ambisjoner.

Musk har lenge sagt han tror hjerneimplantater vil tillate telepatisk kommunikasjon, og føre til sam-evolusjon av mennesker og maskiner. Han argumenterer at med mindre vi bruker slik teknologi for å øke intellektet vårt, risikerer vi å bli utslettet av superintelligent AI.

Musk er forståelig nok ikke alle som liker teknisk ekspertise. Men han er ikke alene om å forutsi en massiv vekst i AIs evner. Undersøkelser viser AI-forskere overveldende enig AI vil oppnå "tenkning" på menneskelig nivå i løpet av dette århundret. Det de ikke er enige om er om dette innebærer bevissthet eller ikke, eller om dette nødvendigvis betyr at AI vil skade oss når den når dette nivået.

Et annet BCI-teknologiselskap, Synkroniser, har laget et minimalt invasivt implantat som tillot en pasient med amyotrofisk lateral sklerose (ALS) å sende e-post og surfe på internett bruke tankene sine.

Administrerende direktør i Synchron, Tom Oxley, mener at hjerneimplantater til syvende og sist kan gå utover proteserehabilitering og fullstendig transformere hvordan mennesker kommuniserer. Snakker med en TED-publikum, sa han at de en dag kan tillate brukere å "kaste" følelsene sine slik at andre kan føle hva de føler, og "hjernens fulle potensiale vil da bli låst opp."

Tidlige prestasjoner i BCI-er kan uten tvil betraktes som de første stadiene av en tumling mot den postulerte singulariteten, der menneske og maskin blir ett. Dette trenger ikke å bety at maskiner vil bli "sansende" eller kontrollere oss. Men selve integreringen, og vår påfølgende avhengighet av den, kan forandre oss ugjenkallelig.

Det er også verdt å nevne at oppstartsfinansieringen for Synchron kom delvis fra DARPA, forsknings- og utviklingsarmen til det amerikanske forsvarsdepartementet som hjalp til gave verden internettet. Det er sannsynligvis lurt å være bekymret for hvor DARPA plasserer investeringspengene sine.

Ville AGI være venn eller fiende?

I følge Ray Kurzweil, en fremtidsforsker og tidligere Googles innovasjonsingeniør, kan mennesker med AI-forsterkede sinn kastes ut på evolusjonens autobahn – susende fremover uten fartsgrenser.

I boken hans fra 2012 How to Create a Mind, Kurzweil teoretiserer de neocortex – den delen av hjernen som antas å være ansvarlig for «høyere funksjoner» som sensorisk persepsjon, følelser og kognisjon – er et hierarkisk system av mønstergjenkjennere som, hvis emulert i en maskin, kan føre til kunstig superintelligens.

Han spår singulariteten vil være hos oss innen 2045, og tror det kan skape en verden av superintelligente mennesker, kanskje til og med den nietzscheanske «Übermensch»: noen som overgår alle verdslige begrensninger for å realisere sitt fulle potensial.

Men ikke alle ser på AGI som en god ting. Den avdøde, store teoretiske fysikeren Stephen Hawking advarte superintelligent AI kunne resultere i apokalypsen. I 2014 sa Hawking til BBC: «Utviklingen av full kunstig intelligens kan bety slutten på menneskeheten. […] Det ville ta av av seg selv og redesigne seg selv i en stadig økende hastighet. Mennesker, som er begrenset av langsom biologisk evolusjon, kunne ikke konkurrere, og ville bli erstattet.»

Hawking var imidlertid en talsmann for BCI-er.

Tilkoblet i en bikube sinn

En annen idé som er relatert til singulariteten er ideen til det AI-aktiverte "hive sinnet". Merriam-Webster definerer en hive sinn som «den kollektive mentale aktiviteten uttrykt i den komplekse, koordinerte oppførselen til en koloni av sosiale insekter (som bier eller maur) anses å sammenlignes med et enkelt sinn som kontrollerer oppførselen til en individuell organisme."

En teori er utviklet av nevrovitenskapsmannen Giulio Tononi rundt dette fenomenet, kalt Integrert informasjonsteori (IIT). Det antyder at vi alle er på vei mot en sammenslåing av alle sinn og alle data.

Filosof Philip Goff gjør en god jobb med å forklare implikasjonene av Tononis konsept i sin bok Galileos feil: «IIT spår at hvis veksten av internettbasert tilkobling noen gang førte til at mengden integrert informasjon i samfunnet overgikk mengden av integrert informasjon i en menneskelig hjerne, så ville ikke bare samfunnet blitt bevisst, men menneskelige hjerner ville bli 'absorbert' inn i den høyere formen for bevissthet. Hjerner ville slutte å være bevisste i seg selv og ville i stedet bli bare tannhjul i den megabevisste enheten som er samfunnet inkludert dets internettbaserte tilkobling.»

Det er verdt å merke seg at det er lite som tyder på at noe slikt noen gang kan bli realisert. Men teorien reiser viktige ideer om ikke bare den raske akselerasjonen av teknologi (for ikke å nevne hvordan kvanteberegning kan drive dette frem) – men om selve bevissthetens natur.

Hypotetisk, hvis et bikubesinn skulle dukke opp, kunne man forestille seg at det ville markere slutten på individualitet og institusjonene som er avhengige av den, inkludert demokrati.

Den endelige grensen går mellom ørene våre

Nylig OpenAI (selskapet som utviklet ChatGPT) ga ut et blogginnlegg som bekrefter sin forpliktelse til å oppnå AGI. Andre vil utvilsomt følge etter.

Livene våre blir algoritmisk drevet på måter vi ofte ikke kan skjelne, og derfor ikke kan unngå. Mange funksjoner i en teknologisk singularitet lover fantastiske forbedringer til livene våre, men det er en bekymring at disse AI-ene er produkter fra privat industri.

De er praktisk talt uregulerte, og i stor grad på luner av impulsive "technopreneurs" med mer penger enn enn de fleste av oss til sammen. Uansett om vi anser dem som gale, naive eller visjonære, har vi rett til å vite planene deres (og være i stand til å motbevise dem).

Hvis de siste tiårene er noe å gå etter, når det gjelder ny teknologi, vil vi alle bli berørt.

Les hele historien her ...