Å heve roboter: Kan moral læres til AI gjennom foreldreferdigheter?

Intelligente maskiner, lenge lovet og aldri levert, er endelig i horisonten. Tilstrekkelig intelligente roboter vil kunne operere autonomt fra menneskelig kontroll. De vil kunne ta ekte valg. Og hvis en robot kan ta valg, er det et reelt spørsmål om den vil gjøre moralsk valg. Men hva er moralsk for en robot? Er dette det samme som hva som er moralsk for et menneske?

Filosofer og dataforskere har en tendens til å fokusere på vanskeligheten med å implementere subtil menneskelig moral i bokstavelig talt maskiner. Men det er et annet problem, et som virkelig burde komme først. Det er spørsmålet om vi i det hele tatt burde prøve å påtvinge vår egen moral på intelligente maskiner. Jeg vil faktisk hevde at det sannsynligvis vil være kontraproduktiv og til og med uetisk. Det virkelige problemet med robotmoral er ikke robotene, men us. Kan vi takle å dele verden med en ny type moralsk skapning?

Vi liker å forestille oss at kunstig intelligens (AI) vil være lik mennesker, fordi vi er den eneste avanserte intelligensen vi kjenner. Men det er vi sannsynligvis feil. Hvis og når AI dukker opp, vil det sannsynligvis være ganske ulikt oss. Det kan ikke være grunn til slik vi gjør, og vi kan ha vanskeligheter med å forstå valgene.

I 2016 utfordret et dataprogram Lee Sedol, menneskehetens ledende spiller i det gamle spillet Go. Programmet, et Google-prosjekt kalt AlphaGo, er et tidlig eksempel på hvordan AI kan være. I kampens andre kamp gjorde AlphaGo et trekk - 'Move 37' - som bedøvet ekspertkommentarer. Noen mente det var en feil. Lee, den menneskelige motstanderen, reiste seg fra bordet og forlot rommet. Ingen visste helt hva AlphaGo gjorde; dette var en taktikk som eksperter, menneskelige spillere ganske enkelt ikke brukte. Men det fungerte. AlphaGo vant den kampen, slik den hadde spillet før og neste kamp. Til slutt vant Lee bare et enkelt spill av fem.

AlphaGo er veldig, veldig bra på Go, men det er ikke bra på samme måte som mennesker er. Ikke en gang skaperne kan forklare hvordan den tar seg til grunn for strategien i hvert spill. Se for deg at du kunne snakke med AlphaGo og spørre hvorfor det gjorde Move 37. Ville det være i stand til å forklare valget for deg - eller menneskelige Go-eksperter? Kanskje. Kunstige sinn trenger ikke fungere som vårt for å utføre lignende oppgaver.

Faktisk kan vi oppdage at intelligente maskiner tenker på alt, ikke bare Gå på måter som er fremmede for oss. Du trenger ikke forestille deg noe forferdelig science-fiction-scenario, der roboter går på en morderisk skanse. Det kan være noe mer som dette: forestill deg at roboter viser moralsk bekymring for mennesker og roboter, og de fleste dyr ... og også sofaer. De er veldig forsiktige med ikke å skade sofaer, akkurat som vi er nøye med å ikke skade babyer. Vi spør kanskje maskinene: hvorfor er du så bekymret for sofaer? Og forklaringen deres er kanskje ikke fornuftig for oss, akkurat som AlphaGos forklaring av Move 37 kanskje ikke gir mening.

Denne tankegangen fører oss til hjertet av et veldig gammelt filosofisk puslespill om moralens natur. Er det noe utover menneskelig erfaring, noe som gjelder noen eller noe som kan gjøre valg - eller er moral en utpreget menneskelig skapelse, noe spesielt tilpasset vår spesielle eksistens?

Les hele historien her ...