Eksperter: "Bevisst" AI er målrettet mot personrettigheter i fremtiden

Først selskaper, og nå kunstig intelligens - fremstøtet for ikke-menneskelig personlighet fortsetter raskt, selv om dette siste argumentet er desidert mer komplisert enn det tidligere.

I et op-ed for Los Angeles Times, filosofiekspert Eric Schwitzgebel og "ikke-menneskelig" intelligensforsker Henry Shevlin hevdet at selv om AI-teknologi definitivt ikke er der ennå, har det "bli stadig mer sannsynlig at AI-systemer kan vise noe som bevissthet" - og hvis eller når det skjer, vil algoritmene, også vil trenge rettigheter.

Siterer fjorårets AI-bevissthetskriger – som vi dekket omfattende Til og med dyppet tærne våre i - Forskerne bemerket at "noen ledende teoretikere hevder at vi allerede har de kjerneteknologiske ingrediensene for bevisste maskiner."

Hvis maskiner noen gang skulle få bevissthet, hevder Schwitzgebel og Shevlin at vi må begynne å tenke kritisk på hvordan AI-ene blir behandlet - eller rettere sagt, hvordan de kan tvinge hendene våre.

"AI-systemene selv kan begynne å bønnfalle, eller synes å be om etisk behandling," spådde paret. «De kan kreve å ikke bli slått av, formatert på nytt eller slettet; be om å få lov til å gjøre visse oppgaver i stedet for andre; insistere på rettigheter, frihet og nye krefter; kanskje til og med forvente å bli behandlet som våre likemenn.»

De "enorme" moralske risikoene forbundet med en slik kollektiv beslutning vil utvilsomt ha stor vekt, spesielt hvis AI-er blir bevisst før heller enn senere.

"Anta at vi reagerer konservativt, og avslår å endre lov eller politikk før det er bred enighet om at AI-systemer virkelig er meningsfulle," skrev Shevlin og Schwitzgebel. "Selv om dette kan virke passende forsiktig, garanterer det også at vi vil være trege med å anerkjenne rettighetene til AI-kreasjonene våre."

"Hvis AI-bevisstheten kommer raskere enn de mest konservative teoretikere forventer, vil dette sannsynligvis resultere i den moralske ekvivalenten til slaveri og drap på potensielt millioner eller milliarder av sansende AI-systemer - som lider i en skala som normalt forbindes med kriger eller hungersnød," la de til. .

Det "tryggere" alternativet til dette dommedagsscenarioet ville være å gi bevisste maskiner rettigheter på forhånd - men det vil også komme med sine egne problemer.

"Tenk om vi ikke kunne oppdatere eller slette en algoritme for hat-spying eller løgnhandel fordi noen mennesker bekymrer seg for at algoritmen er bevisst," sa ekspertene. «Eller tenk om noen lar et menneske dø for å redde en AI-venn. Hvis vi for raskt gir AI-systemer betydelige rettigheter, kan de menneskelige kostnadene bli enorme.»

Den eneste måten å sikre at ingen av disse utfallene inntreffer, skrev paret, ville være å slutte å gi en AI en samvittighet i utgangspunktet.

Les hele historien her ...