Kunstig intelligens og krigens fremtid

Sammendrag fra papiret

• Både militære og kommersielle roboter vil i fremtiden innlemme 'kunstig intelligens' (AI) som kan gjøre dem i stand til å utføre oppgaver og oppdrag på egen hånd. I militær sammenheng fører dette til en debatt om hvorvidt slike roboter bør få lov til å utføre slike oppdrag, spesielt hvis det er en mulighet for at noe menneskelig liv kan være på spill.
• For å bedre forstå problemene som står på spill presenterer denne artikkelen et rammeverk som forklarer den nåværende tekniske standen for AI, styrken og svakhetene ved teknologien og hva fremtiden sannsynligvis vil inneholde. Rammeverket viser at mens datamaskiner og AI kan være overlegne mennesker i noen ferdighets- og regelbaserte oppgaver, under situasjoner som krever skjønn og kunnskap, i nærvær av betydelig usikkerhet, er mennesker overlegne datamaskiner.
• I den komplekse diskusjonen om og hvordan utviklingen av autonome våpen skal kontrolleres, må det raskt ekspanderende kommersielle markedet for både luft- og bakkeautonome systemer vurderes fullt ut. Å forby en autonom teknologi for militær bruk kan ikke være praktisk gitt at deriverte eller overlegne teknologier godt kan være tilgjengelige i kommersiell sektor.
• Et metaforisk våpenkappløp pågår i det kommersielle området for autonome systemutvikling, og dette skiftet i FoU-innsats og utgifter fra militære til kommersielle omgivelser er problematisk. Utviklingen av autonome militære systemer har i beste fall vært treg og inkrementell, og blekner i forhold til fremskrittene i kommersielle autonome systemer som droner, og spesielt i førerløse biler.
• I et sterkt konkurransedyktig marked for svært dyktige robotikere og relaterte ingeniører i sektorene som er mest interessert i AI, romfart og forsvar, hvor finansiering langt overgår av den kommersielle bilindustrien eller informasjons- og kommunikasjonssektoren, er det lite attraktivt for det dyktigste personellet. Som et resultat faller den globale forsvarsindustrien bak sine kommersielle kolleger når det gjelder teknologiinnovasjon, med gapet bare utvidet etter hvert som de beste og lyseste ingeniørene flytter til den kommersielle sfæren.
• Når det gjelder fremtiden for krigføring som den er knyttet til AI, kan den nåværende store forskjellen i kommersielle versus militære FoU-utgifter til autonome systemutvikling ha en kaskadeffekt på hvilke typer og kvaliteten på autonomi som til slutt blir innlemmet i militære systemer. Et kritisk spørsmål i denne forbindelse er om forsvarsbedrifter vil ha kapasitet til å utvikle og teste sikre og kontrollerbare autonome systemer, spesielt de som skyter våpen.
• Å felt nye teknologier uten omfattende tester kan sette både militært personell og sivile i ugrunnet risiko. Imidlertid kan den raske utviklingen av kommersielle autonome systemer normalisere aksept av autonome systemer for militæret og publikum, og dette kan oppmuntre statlige militarier til å finansiere utviklingen av slike systemer på et nivå som bedre samsvarer med investeringer i bemannede systemer.