Joe Allen: Nedtelling til Gigadeath – Fra AI Arms Race til Artilect War

For sanne troende vil kunstig intelligens uunngåelig bli overmenneskelig. I følge deres myter er vi på drift i et gudløst kosmos. Så det er opp til oss å skape digitale guddommer. Eller rettere sagt, det er opp til noen få tekniske nerder å lage dem. Vi andre kan enten knele foran alteret deres eller bli dyttet ned i avgrunnen.

Etter hvert som roboter svermer inn i livene våre, vokser spenningen mellom oss og dem. Noen dager føles det som om vi haster mot en datastyrt rasekrig mellom begynnende cyborger og eldre mennesker. Etter for mye skjermtid – mens synapsene mine omorganiserer seg for å passe til dataene som strømmer inn – er det ikke klart hvilken underart jeg tilhører.

For ordens skyld, jeg er mer agnostisk enn sann troende. Teknikere gir alle slags tomme løfter. De trives med å projisere mystiske krefter. Likevel ignorerer vi deres teknokulturelle revolusjon på egen risiko.

Tekniske selskaper har den virkelige makten til informasjonskontroll. De fordreier bokstavelig talt offentlig bevissthet i stor skala. På den militære siden har håndhevere muligheten til å sprenge deg fra den andre siden av verden. Du kan håne at amerikanske væpnede styrker har skapt flere transoffiserer enn cyborg-soldater. Men hvis du ikke kan sikte AR-15-en din raskere enn dronen deres kan finpusse, fniser du fra under støvelen. Kunstig intelligens styrker bare det fotfestet.

I 2018, US Defense Advanced Research Projects Agency annonsert det "fokuserer investeringene sine på en tredje bølge av AI som bringer frem maskiner som kan forstå og resonnere i kontekst." Direktøren for DARPAs informasjonsinnovasjonskontor, Brian Pierce, er vilt entusiastisk om en "sann symbiose mellom Homo sapiens og den fremvoksende Machina sapiens."

En 2021 hvitt papir fra det britiske forsvarsdepartementet bekrefter: «I kjernen av fremtidige militære fordeler vil være effektiv integrering av mennesker, kunstig intelligens og robotikk i krigssystemer – menneske-maskin-team – som utnytter evnene til mennesker og teknologier for å utkonkurrere våre motstandere. ”

Kina har lignende cyborg-ambisjoner. Så gjør Russland og NATO. "Kunstig intelligens er fremtiden," erklærte Vladimir Putin berømt. "Den som blir lederen på denne sfæren vil bli verdens hersker."

Kanskje generalene kaster bort penger på geek-krigføring. Kanskje de bare leker med nye leker.

Jeg ville ikke regnet med det.

Allerede ser vi at smale AI-er overgår menneskelig mønstergjenkjenning i de spesifikke oppgavene de er designet for å utføre – proteinmodellering, radiologisk analyse, overvåking av slagmarken og målinnsamling, for å nevne noen. Eksempelvis leverer den amerikanske forsvarsentreprenøren Palantir fritt sin AI til Ukraina. Det er en viktig grunn til at de har holdt ut så lenge mot de større russiske styrkene.

"Kraften til avanserte algoritmiske krigføringssystemer er nå så stor at det tilsvarer å ha taktiske atomvåpen mot en motstander med bare konvensjonelle," Palantir-sjef Alex Karp fortalte de Washington Post. "Allmennheten har en tendens til å undervurdere dette. Våre motstandere gjør det ikke lenger.»

I hendene på elite apex-rovdyr er disse digitale verktøyene dødelige alvorlige. Når ledere ikke distribuerer teknologi mot rivaler, vender de det mot sine egne borgere. Husk at Clearview AI ansiktsgjenkjenning aktivert politiet for å spore opp 6. januar demonstranter.

Teknologi er makt. har alltid vært det.

Ikke alle er skremt. Tvilere håner forestillingen om "intelligente" maskiner. "AI eksisterer ikke," sier de. "Det er bare en algoritme." "Søppel inn søppel ut." Vanligvis er de tidligere programmerere som fortsatt lever på 90-tallet. De gjentar "søppel inn, søppel ut" så ofte, det er som om de var programmert til å si det.

Disse gutta har et poeng. En AI er bare så god som utformingen av det nevrale nettverket og dataene den er trent på. Det er ikke ulikt mennesker på den måten. Men når det er bra, er det skummelt bra. Hvis en solid AI er opplært til å gjenkjenne kontoutskrifter, for eksempel, kan den grave seg gjennom fjell med søppel og finne en på sekunder – som en søppeldykker regnmann ut for å stjele identiteten din.

AI-en som ristet meg vekk var AlphaZero, utviklet av Googles DeepMind i 2017. Dette nevrale nettverket er programmert med bare grunnleggende spilleregler og «ønsket» om å vinne lærte seg selv å spille Go, sjakk og en rekke videospill på bare timer. Mestring av Go er spesielt viktig. I flere tiår insisterte skeptikere at ingen datamaskin ville forstå dette eldgamle kinesiske spillet. Gos kompleksitet, hevdet de, krever dyp intuisjon som bare mennesker har. Det viste seg at det var ønsketenkning.

AlphaZero, i likhet med forgjengeren AlphaGo, finner opp effektive strategier som ingen mennesker noen gang har tenkt på. Og mest alarmerende, disse digitale sinnene knuse menneskelige mestere i sine egne spill. Hvis folk hadde noen fornuft, ville de ha trukket ut støpselet akkurat da. På det hele. Men du vet hva de sier - "Du kan ikke stoppe fremgang."

Neste trinn er å kombinere disse smale kognitive evnene til en enkelt «kunstig hjerne». Dette kunstig generell intelligens (AGI) ville være fleksibel nok til å flytte fra ett domene til det neste, eller vedta forskjellige moduler samtidig, for å løse problemer i den virkelige verden.

I teorien kan man lime sammen hvilken som helst kombinasjon av fakulteter – ansiktsgjenkjenning, naturlig språkbehandling, sosial modellering, robotkontrollsystemer, estetiske algoritmer – hva som helst du måtte ønske i en robothjerne. Maskinen vil sannsynligvis overgå mennesker på alle disse områdene. Men uansett hvilken kombinasjon du kom opp med, ville det ikke være helt menneskelig. Den ville heller ikke dele våre verdier eller erfaring fra verden. Det ville være et blindt, deformert barn etset i silisium, men med suveren kognitiv kraft - omtrent som den gnostiske demiurgen.

For transhumanister vil fremkomsten av en selvforbedrende AGI markere et "enestående øyeblikk i historien" - Singularity. Derfra er eldre mennesker bare med på turen. Hvis vi er heldige.

Det er i alle fall drømmen. Og store selskaper som DeepMind og OpenAI – så vel som deres kinesiske kolleger i Baidu og Tencent – ​​er Racing for å gjøre en eller annen versjon til virkelighet. Deres administrerende direktører holder løftet om en digital utopi, eller en tilnærming. De foretrekker at du bare slapper av og ikke stiller spørsmål.

Imidlertid er det noen få alarmister som sier at løpsk AI kan bety utslettelse av menneskeheten. Fordi vi er jordmødre for AGI, råder de, er vår sentrale oppgave å lære dette spedbarnet datamaskingud å være velvillig – å tilpasse verdiene til våre. Ellers blir vi slaver eller dør. De kaller dette "AI-justeringsproblemet." Ettersom forskjellige fraksjoner slåss om hvor "våken" eller "basert" ChatGPT er tillatt å være, ser det ganske dystert ut.

Merkelig nok kommer noen av de høyeste alarmanropene fra de som jobber på AGI. De inkluderer Sam Altman og Elon Musk (OpenAI), Demis Hassabis (DeepMind), og opererer fra Kina, Ben Goertzel (SingularityNET) og den gale profeten fra teknokalypsen, Hugo de Garis (Xiamen University).

Oxford-transhumanisten Nick Bostrom, forfatter av boken fra 2014 forklarte betydningen av en Tesla-kjøring TED-publikum:

Potensialet for superintelligens ligger i dvale i materien, omtrent som kraften til atomet har ligget i dvale gjennom menneskets historie og tålmodig ventet der – til 1945. I dette århundret kan forskere lære å vekke kraften til kunstig intelligens. Og jeg tror vi da kan se en etterretningseksplosjon.

Uavhengig av den eksistensielle risikoen, hevder disse mennene, vil enhver nasjon som ikke klarer å omfavne AI falle bak de som gjør det. Den samme dynamikken gjelder for individer og organisasjoner som konkurrerer mot hverandre i nasjoner. I et digitalt økosystem er det overlevelse av de sterkeste cyborgene – med AI holdt frem som en mytisk Ring of Power.

Av alle fremtider som er projisert av transhumanister, den som Hugo de Garis tryllet frem er den mest grufulle. Det er også det mest ærlige. Mange i Silicon Valley tror at overmenneskelig maskinintelligens vil føre til "radikal overflod" og grenseløs kunnskap om universet. Som fysiker og robotbygger tror de Garis at alle disse tingene vil skje.

Imidlertid profeterer han også at det å skape «artilekter» – en forkortelse for «kunstig intellekt»; i utgangspunktet AGI—vil trolig føre til menneskehetens ødeleggelse. Kanskje vil disse digitale gudene ikke ha noen bruk for oss og knuse oss som insekter. Eller like sannsynlig, hevder de Garis, vil en "gigadeath"-hendelse oppstå når mennesker kjemper om de skal lage dem i utgangspunktet. Det betyr at milliarder dør på et blunk.

«Spørsmålet som vil dominere 21^st århundres globale politikk vil være: 'Hvem eller hva skal være den dominerende arten på planeten, artilekter eller mennesker?'» Dette får ham til å formulere et urovekkende, om enn forvirrende ordlyd: «Bygger vi guder, eller bygger vi våre potensielle utryddere?»

Ved å finne opp sprø nye ord som en uregjerlig Scrabble-spiller, utforsker de Garis denne konflikten i sin bok fra 2005. Han forventer at den vil dukke opp i løpet av noen få generasjoner. "Denne krigen vil bruke det mest destruktive våpenet som noen gang er utviklet, basert på slutten av 21^st århundres vitenskap og teknologi."

Vi snakker supernukes og AI-designede biovåpen – en mørk horisont som kryper av robothelveteshunder og nanobotsvermer.

Artilektkrigen vil bli utkjempet mellom «Terranene», som ville drepe for å bevare den organiske menneskeheten, og «kosmistene», hvis religiøse hengivenhet til å bygge artilekter er så intens, at de vil være villige til å dø for denne spådomsdannelsen. Faktisk vil de være villige til å se alle dø for det:

I 20^th århundre utslettet nazistene 20 millioner russere, japanerne myrdet 20 millioner kinesere, Stalin drepte 30 millioner i sine utrenskninger, og Mao sultet 50 millioner kinesiske bønder. Disse er blant de største forbrytelsene i historien, men de blekner i forhold til størrelsen på tragedien hvis artilektene noen gang bestemmer seg for å utslette menneskeheten. Tragedien ville være total i den forstand at det ikke lenger ville være noen mennesker igjen å sørge over at arten forsvant.

Som de Garis bemerker, er det forbløffende at ethvert menneske vil forfølge et slikt mål i visshet om at milliarder kan bli slaktet. Men for kosmister er skapelsen av overmenneskelige maskiner en religiøs søken hinsides godt og ondt. I tradisjonen med gale forskere plaget med skyld, setter de Garis seg selv i sistnevnte leir, gigadeath være fordømt:

Mitt endelige mål er å se menneskeheten, eller i det minste en del av menneskeheten, bli kosmist og å gjøre det med suksess ved å bygge virkelig gudlignende artilekter som ruver over våre ynkelige menneskelige intellektuelle og andre evner.

Et nøkkelbegrep i Artilektkrigen er «artsdominans». Etter å ha skapt kunstig liv, konfronterer menneskeheten en ny evolusjonær konkurrent. Ettersom noen mennesker smelter sammen til det digitale livet som bendelorm i en meka-tarm, vil menneskeheten splittes opp i underarter - bot-sugende cyborger og "smålige" mennesker.

Sammen med artsdannelse kommer konkurranse. Med utgangspunkt i politisk og evolusjonær teori sier de Garis at det bare er så mye plass på toppen av dritthaugen. Fordi likhet ikke eksisterer i naturen, er artsdominans uunngåelig. Med menneskets historie som guide betyr det vold.

Vil topplassen bli tatt av datamaskiner med høy IQ som går i bane rundt planeten og er "raskere og bedre enn mennesker med faktorer på billioner av billioner"?

Eller vil det bli okkupert av kosmistene som bygger og distribuerer disse maskinene?

Eller vil Terrans drepe denne transhumane kulten og gå tilbake til å banke trommer i skogen?

Det virker like sannsynlig at vi vil snuble inn i en atomkrig med Russland eller Kina, og spare oss for denne artilektkrigen totalt. Det er nok av gigadeaths å gå rundt uten en Super Computer God.

Men hvis vi klarer å unngå å kutte hverandre inn i romstøv, kan det være at supermaktsrivalisering vil drive teknologiutviklingen – spesielt militærteknologi – mot noe som ligner de Garis sin visjon. Tenk på det som en singularitet med et smell.

I virkeligheten er viktigheten av Hugo de Garis' mareritt kan være dets innflytelse på kinesisk teknologikultur. Fra 2006 til 2010 avrundet han sin profesjonelle karriere i Kina – først ved Wuhan University, deretter drev han Artificial Brain Lab ved Xiamen University. Fram til pandemien løp hans nære kollega Ben Goertzel SingularityNET ut av Hong Kong. Dette AGI-prosjektet fungerte i samarbeid med Hanson Robotics– fortsatt basert i Hong Kong – hvis robot Sophia er opphøyet som en transhuman gudinne på verdensscenen.

Omfanget av teknologioverføringen til det kinesiske kommunistpartiet er ukjent. Men det er rimelig å anta at uansett intensjoner de Garis og Goertzel har hjulpet til i Kinas mål om å overgå USA når det gjelder kunstig intelligens. Denne ambisjonen inkluderer å koble menneskelige hjerner til AI og skape kunstig generell intelligens – med øye for militære applikasjoner.

November 2021-volumet av PRISM, utgitt av National Defense University i DC, inneholder en øyeåpnende forskningsartikkel, "Kinas "New Generation" AI-hjerneprosjekt." Det kan ikke være tvil om at den transhumane impulsen går gjennom den kinesiske sjelen. Forfatterne siterer en topp KKP-forsker, Xu Bo, som snakker til departementet for vitenskap og teknologi sin offisielle avis:

Som generalsekretær Xi Jinping påpekte i den kollektive studien til politbyrået, må forskning på kunstig intelligens utforske «ubemannede områder». I områdene svermintelligens, menneske-maskin hybridintelligens og autonom intelligens er det store ubemannede områder som skal utforskes. … Vi tror at autonom evolusjon er en bro fra svak kunstig intelligens til generell kunstig intelligens.

Eller, som dekanen ved Beijing Academy of Artificial Intelligence, Huang Tiejun, fortalte en Future of Life-konferanse:

Vår menneskelige rase er bare på ett stadium. Hvorfor stoppe? Mennesker utvikler seg for sakte. Det er umulig for mennesker å sammenligne med maskinbasert superintelligens. Det vil skje før eller siden, så hvorfor vente? Selv fra perspektivet til menneskelig sentrisme eller menneskelig eksepsjonalisme, er superintelligens nødvendig for å møte de store utfordringene vi ikke kan finne ut av. Derfor støtter jeg ideen.

Ved å oversette uttalelser fra hele det kinesiske teknologiske etablissementet, observerer forfatterne av PRISM-avisen tørt: "Andre slike prognoser er vanlig."

Fremtiden ser mørk ut, men mulighetene er fortsatt vidåpne. Igjen, jeg er et sted mellom tvilerne og sanne troende – og jeg skal innrømme at det er en lunken sikring.

I likhet med smarttelefoner eller Internett, vil AI aldri få ut som annonsert. Teknisk evolusjon er en saga om uventede feil og utilsiktede konsekvenser. Det er fullt av pumpede aksjer, overhypede offentlige kontrakter og overfinansierte akademiske prosjekter.

Det er ingen flygende biler (ennå). Det er ingen kald fusjon (ennå). Det er ingen tankekontroll nanoboter (ikke sant?).

Likevel er det bare en tosk som nekter å se at smarttelefoner og internett har ødelagt organisk kultur. Det samme gjelder masseovervåking og dronekrigføring. Uansett hvilken form AI til slutt tar, er jeg overbevist om at den vil ha lignende innvirkninger, om ikke verre.

Det kan være at AI-chatboter og virtuelle sexslaver vil skrelle noen mennesker fra den faktiske virkeligheten, og gjøre dem mer gale enn de allerede er. Eller det kan være at en hær av AI-forbedrede, genmodifiserte, hjerne-chippede cyborger vil stige ned på skyer av nanoboter for å føre en rasekrig mot det som er igjen av gamle mennesker.

Bare tiden vil vise. Hold stanniol tett og pulveret tørt. Og for guds skyld, slå av smarttelefonen. Det er slik de får deg.

Les hele historien her ...