Genien er allerede ute av flasken, men avanserte AI-forskere er nå veldig bekymret for hvordan deres kreasjoner vil bli brukt i autonom krigføring. AI er nær å bli selvrepliserende, noe som betyr at useriøse applikasjoner som er drept om å drepe mennesker, kan formere seg til menneskeheten er slukket. ⁃ TN Editor
Tusenvis av forskere som spesialiserer seg i kunstig intelligens (AI) har erklært at de ikke vil delta i utvikling eller produksjon av roboter som kan identifisere og angripe mennesker uten menneskelig tilsyn.
Demis Hassabis hos Google DeepMind og Elon Musk hos det amerikanske raketselskapet SpaceX er blant mer enn 2,400 signatører til pantsettelsen som har til hensikt å avskrekke militære firmaer og nasjoner fra å bygge dødelige autonome våpensystemer, også kjent som Laws.
Flyttingen er den siste fra bekymrede forskere og organisasjoner for å synliggjøre farene ved å overlate beslutninger om liv og død til AI-forbedrede maskiner. Det følger oppfordringer til a forebyggende forbud på teknologi som kampanjene mener kan innlede en ny generasjon masseødeleggelsesvåpen.
Dette er orkestrert av den Boston-baserte organisasjonen The Future of Life Institute, og oppfordrer myndighetene til å avtale normer, lover og regler som stigmatiserer og effektivt forbanner utviklingen av mordereoboter. I mangel av slike tiltak i dag, forplikter signatærene å "verken delta i eller støtte utvikling, produksjon, handel eller bruk av dødelige autonome våpen." Mer enn 150 AI-relaterte firmaer og organisasjoner la navnene til pantet til å være kunngjorde i dag på den internasjonale felleskonferansen om AI i Stockholm.
Yoshua Bengio, en AI-pioner ved Montreal Institute for Learning Algorithms, fortalte Guardian at hvis løftet var i stand til å skamme de selskapene og militære organisasjoner som bygger autonome våpen, ville opinionen svinge mot dem. “Denne tilnærmingen fungerte faktisk for landminer, takket være internasjonale traktater og offentlig skam, selv om store land som USA ikke signerte traktaten som forbød landminer. Amerikanske selskaper har sluttet å bygge landminer, ”sa han. Bengio signerte løftet om å uttale sin "sterke bekymring angående dødelige autonome våpen."
Militæret er en av de største finansiererne og adoptere av AI-teknologi. Med avanserte datasystemer kan roboter fly oppdrag over fiendtlig terreng, navigere på bakken og patruljere under hav. Mer sofistikerte våpensystemer er i rørledningen. På mandag avduket forsvarssekretær Gavin Williamson en plan på £ 2bn for en ny RAF fighter, Tempest, som vil kunne fly uten pilot.
Storbritannias ministre har uttalt at Storbritannia ikke utvikler dødelige autonome våpensystemer, og at styrkene alltid vil ha tilsyn og kontroll over våpnene den utplasserer. Men kampanjene advarer om at raske fremskritt i AI og andre felt betyr at det nå er mulig å bygge sofistikerte våpen som kan identifisere, spore og skyte på menneskelige mål uten samtykke fra en menneskelig kontrollør. For mange forskere krysser det en moralsk linje å gi maskiner beslutningen om hvem som lever og dør.
”Vi må gjøre det til den internasjonale normen at autonome våpen ikke er akseptable. Et menneske må alltid være i loopen, ”sa Toby Walsh, professor i AI ved University of New South Wales i Sydney som signerte pantsettelsen
wpDiscuz
barn basert på den virkelige livshistorien til About Real-Life Kids Who Changed the World