EU om AI-etikk: Må "Forbedre positiv sosial endring"

Den europeiske union publiserte i dag a sett med retningslinjer om hvordan selskaper og myndigheter skal utvikle etiske anvendelser av kunstig intelligens.

Disse reglene er ikke som Isaac Asimovs “Three Laws of Robotics.” De tilbyr ikke en lun, moralsk ramme som vil hjelpe oss med å kontrollere morderiske roboter. I stedet adresserer de de skumle og diffuse problemene som vil påvirke samfunnet når vi integrerer AI i sektorer som helsehjelp, utdanning og forbrukerteknologi.

Så for eksempel, hvis et AI-system diagnostiserer deg med kreft en gang i fremtiden, vil EUs retningslinjer ønsker å sørge for at en rekke ting foregår: at programvaren ikke var partisk av ditt rase eller kjønn, at det ikke gjorde t tilsidesetter innsigelsene fra en menneskelig lege, og at det ga pasienten muligheten til å få sin diagnose forklart dem.

Så, ja, disse retningslinjene handler om å stoppe AI fra å drive amuck, men på nivå med admin og byråkrati, ikke mordmysterier i Asimov-stil.

For å hjelpe med dette målet sammenkalte EU en gruppe 52-eksperter som kom med syv krav de mener fremtidige AI-systemer bør oppfylle. De er som følger:

• Menneskelig byrå og tilsyn - AI skal ikke trampe på menneskelig autonomi. Mennesker skal ikke manipuleres eller tvinges av AI-systemer, og mennesker skal kunne gripe inn eller overvåke enhver beslutning programvaren tar.
• Teknisk robusthet og sikkerhet - AI skal være sikker og nøyaktig. Det skal ikke lett bli kompromittert av eksterne angrep (som f.eks motstanders eksempler), og det skal være rimelig pålitelig.
• Personvern og styring av data - Personopplysninger samlet inn av AI-systemer skal være sikre og private. Den skal ikke være tilgjengelig for bare noen, og den skal ikke lett bli stjålet.
• Åpenhet - Data og algoritmer som brukes til å lage et AI-system skal være tilgjengelige, og beslutningene som tas av programvaren skal være "forstått og sporet av mennesker." Med andre ord bør operatørene kunne forklare beslutningene deres AI-systemer tar.
• Mangfold, ikke-diskriminering og rettferdighet - Tjenester levert av AI skal være tilgjengelige for alle, uavhengig av alder, kjønn, rase eller andre egenskaper. Tilsvarende bør systemer ikke være partiske langs disse linjene.
• Miljø og samfunns velvære - AI-systemer skal være bærekraftige (dvs. de skal være økologisk ansvarlige) og "styrke positiv sosial endring"
• Ansvarlighet - AI-systemer skal kunne revideres og dekkes av eksisterende beskyttelse for varslere. Negative effekter av systemer bør anerkjennes og rapporteres på forhånd.

Du vil merke at noen av disse kravene er ganske abstrakte og ville være vanskelig å vurdere i en objektiv forstand. (Definisjoner av “positiv sosial endring”, for eksempel, varierer veldig fra person til person og land til land.) Men andre er mer enkle og kan testes via myndighetstilsyn. Å dele dataene som brukes til å trene offentlige AI-systemer, for eksempel, kan være en god måte å kjempe mot partiske algoritmer.

Disse retningslinjene er ikke juridisk bindende, men de kan forme enhver fremtidig lovgivning utarbeidet av EU. EU har gjentatte ganger sagt at den ønsker å være ledende innen etisk AI, og det har vist seg med GDPR at det er villig til å lage vidtrekkende lover som beskytter digitale rettigheter.

Men denne rollen er delvis blitt tvunget til EU av omstendigheter. Det kan ikke konkurrere med Amerika og Kina - verdens ledende innen AI - når det gjelder investeringer og nyskapende forskning, så det er valgt etikk som det beste alternativet for å forme teknologiens fremtid.

Les hele historien her ...