Ny teknologi kan føre til at mennesker gir fra seg kontroll over beslutninger om å bruke dødelig makt. Når kunstig intelligens avanseres, er muligheten for at maskiner uavhengig kan velge og skyte på mål raskt nærmer seg. Helt autonome våpen, også kjent som "killerroboter," beveger seg raskt fra science fiction-riket til virkeligheten.
Disse våpnene, som kan operere på land, i luften eller til sjøs, truer med å revolusjonere væpnet konflikt og rettshåndhevelse på alarmerende måter. Talsmenn sier at disse morderobotene er nødvendige fordi moderne kamp beveger seg så raskt, og fordi å ha roboter gjør kampene ville holde soldater og politifolk utenfor skadelig måte. Men truslene mot menneskeheten vil oppveie fordelene ved militær- eller lovhåndhevelse.
Å fjerne mennesker fra målrettsvedtaket ville skape en farlig verden. Maskiner vil ta livs-og-død-avgjørelser utenfor menneskelig kontroll. Risikoen for uforholdsmessig skade eller feilaktig målretting av sivile vil øke. Ingen personer kunne holdes ansvarlige.
Gitt moralske, juridiske og ansvarlige risikoer av fullstendig autonome våpen, og forhåndsutvikling av deres utvikling, produksjon og bruk kan ikke vente. Den beste måten å håndtere denne trusselen er et internasjonalt, juridisk bindende forbud mot våpen som mangler meningsfull menneskelig kontroll.
Bevare empati og dømmekraft
Minst 20 land har gitt uttrykk for i FN-møter troen på at mennesker skal diktere valg og engasjement av mål. Mange av dem har gjentatt argumenter lagt frem i en ny rapport, hvorav jeg var hovedforfatter. Rapporten ble utgitt i april av Human Rights Watch og Harvard Law School International Human Rights Clinic, to organisasjoner som har gått i kamp for et forbud mot fullstendig autonome våpen.
Å beholde menneskelig kontroll over våpen er a moralsk imperativ. Fordi de har empati, kan folk føle den emosjonelle tyngden av å skade et annet individ. Deres respekt for menneskeverd kan - og bør - tjene som en sjekk på drap.
Roboter mangler derimot ekte følelser, inkludert medfølelse. I tillegg kunne livløse maskiner ikke virkelig forstå verdien av et menneskeliv de valgte å ta. Å la dem bestemme når de skal bruke makt, ville undergrave menneskeverdet.
Menneskelig kontroll fremmer også overholdelse av folkeretten, som er utformet for å beskytte både sivile og soldater. For eksempel krigens lover forby uforholdsmessige angrep der forventet sivil skade oppveier forventet militær fordel. Mennesker kan anvende sin dom, basert på tidligere erfaringer og moralske hensyn, og ta avgjørelser fra proporsjonalitet fra sak til sak.