Ekspert: AI-soldater vil utvikle 'moralsk kompass' og trosse bestillinger

Wikimedia Commons
Del denne historien!
Det er allerede påvist at AI-algoritmer viser skjevhetene til deres skaper, så hvorfor ikke mordiske hensikter også? Technocrats er så opptatt av sine Pollyanna-oppfinnelser at de ikke kan se den logiske enden av deres eksistens. ⁃ TN Editor

Mordende robotsoldater vil bli så avanserte at de kan utvikle sin egen moralske kode for å voldelig trosse ordre, hevder en AI-ekspert.

Eks-kybernetikkingeniør dr. Ian Pearson spår at vi satser mot en fremtid bevisste maskiner.

Men hvis roboter blir satt i aksjon av militære makter, advarer futurologen om at de er i stand til å trylle frem sitt eget "moralske synspunkt".

Og hvis de gjør det, hevder eks-rakettforskeren at de kan vende seg mot selve menneskene som sender dem ut til kamp.

Dr Pearson, som blogger for Futurizon, sa til Daily Star Online: ”Etter hvert som AI fortsetter å utvikle seg og når vi går nedover veien mot bevissthet - og det kommer ikke til å bli en ting over natten, men vi lager datamaskiner gradvis mer sofistikert - på et eller annet tidspunkt gir du dem tilgang til moralsk utdannelse slik at de selv kan lære moral.

“Du kan gi dem resonneringsevner, og de kan komme med en annen moralsk kode, som setter dem på en høyere sokkel enn menneskene de skal tjene.

På spørsmål om dette kan vise seg å være dødelig, svarte han: “Ja, selvfølgelig.

“Hvis de har kontroll over våpen og de bestemmer seg for at de er et overlegen moralsk vesen enn menneskene de skal bevare, kan de ta avgjørelser om at visse mennesker burde drepes for å beskytte den større befolkningen.

“Hvem vet hvilke avgjørelser de kan ta?

“Hvis du har en fyr på en slagmark som ber soldatene om å skyte denne gjengen med mennesker, uansett årsak, men datamaskinen mener noe annet, er datamaskinen ikke overbevist om det, det kan konkludere med at soldaten som gir ordrene, er den verste enn menneskene han prøver å drepe, så det kan snu og drepe ham i stedet.

"Det er fullt mulig, det kommer an på hvordan systemene er skrevet."

Dr Pearsons advarsel kommer blant økende bekymringer om helt autonome roboter som brukes i krig.

Les hele historien her ...

Abonner!
Varsle om
gjest

6 Kommentar
eldste
Nyeste Mest stemte
Inline tilbakemeldinger
Se alle kommentarer
Pyra

Idiotisk. Tenker noen av disse datamaskene noen gang på hva de sier? Jeg mener det ut forbi nesetippen.

Ordtaket "å bekjenne seg for å være klok, de ble dårer ..." har mye relevans her.