På slutten av dagen vil det være teknologisk mettede menneskelige Technocrats, ikke programmer, som skaper den anti-menneskelige politikken og resultatene som skader menneskeheten. De vil gjemme seg bak AI for å unnslippe ansvaret, og alle vil tro at algoritmene gjorde dem i.⁃ TN Editor
Ideen om små grupper av mennesker som har kontroll over noen av de kraftigste våpnene som noen gang er bygget, er skummel, men det er virkeligheten vi lever i. I den ikke så fjerne fremtiden kunne den utrolige kraften og ansvaret overleveres til AI og robotsystemer, som allerede er i aktiv utvikling. I et par åpne brev til statsministrene som plager Australia og Canada, ber hundrevis av AI-forskere og forskere om at det ikke skal skje.
Frykten, sier de, er at å fjerne det menneskelige elementet fra beslutninger om liv og død kan føre til en destruktiv tidsalder som til slutt staver menneskets slutt. AIs våpensystemer er, som forskerne sa det, "masseødeleggelsesvåpen" som må forbys direkte før de kan gjøre alvorlige skader.
"Delegering av beslutninger om liv eller død til maskiner krysser en grunnleggende moralsk linje - uansett hvilken side som bygger eller bruker dem," heter det i brevet forklarer. Å spille russisk rulett med andres liv kan aldri rettferdiggjøres bare på grunnlag av effektiviteten. Dette er ikke bare et grunnleggende spørsmål om menneskerettigheter. Avgjørelsen om vi skal forby eller engasjere autonome våpen, går til kjernen av vår menneskelighet. ”
I en setting der datamaskiner har den ytterste mening om hvorvidt de skal delta i fiendtlige handlinger eller ikke - selv under dekke av å forsvare sine egne territorier eller beskytte befolkningene de er programmert for å beskytte - kan konflikter eskalere mye raskere enn mennesker noensinne har sett. Uker, måneder eller til og med år med stillinger og diplomati kan bli til bare minutter eller sekunder, med raketter som flyr før mennesker til og med kan begynne å gripe inn. Og så er det selvfølgelig spørsmålet om at AI blir manipulert på uforutsette måter.
"Dette vil være masseødeleggelsesvåpen," sier forskerne. ”Én programmerer vil kunne kontrollere en hel hær. Hvert annet masseødeleggelsesvåpen er forbudt: kjemiske våpen, biologiske våpen, til og med atomvåpen. Vi må legge autonome våpen til listen over våpen som er moralsk uakseptable å bruke. ”
