Teknokrater i EU er opptatt av total overvåking og kontroll av mennesker, men en uavhengig rådgivningsgruppe på høyt nivå har advart mot å bruke AI til masseovervåking og sosial kredittvurdering. ⁃ TN Editor
En uavhengig ekspertgruppe som har til oppgave å gi råd til EU-kommisjonen å informere om sitt lovgivningsmessige svar på kunstig intelligens - for å underbygge EUs lovgivere sitt uttalte mål om å sikre at AI-utviklingen er "menneskelig sentrisk" - har publisert retningslinjer og investeringsanbefalinger.
Dette følger tidligere etiske retningslinjer for "pålitelig AI", satt ut av High Level Expert Group (HLEG) for AI tilbake i April, da kommisjonen også ba deltakerne om å teste utkastet til regler.
AI HLEGs fulle retningslinjeanbefalinger inneholder et meget detaljert dokument på 50-sider - som kan lastes ned fra dette nettside. De gruppen, som ble satt opp i juni 2018, består av av en blanding av AI-eksperter fra industrien, representanter for samfunnssamfunnet, politiske rådgivere og politikkvindere, akademikere og juridiske eksperter.
Dokumentet inkluderer advarsler om bruk av AI til masseovervåking og skåring av EU-borgere, som Kinas sosiale kreditt system, med gruppen som ba om et direkte forbud mot “AI-aktivert masseskala-score av individer”. Det oppfordrer også myndighetene til å forplikte seg til ikke å delta i blankovervåkning av befolkningen for nasjonale sikkerhetsformål. (Så det er kanskje like bra at Storbritannia har stemt for å forlate EU, gitt svingende statlige overvåkningsstyrker den ble vedtatt på slutten av 2016.)
"Selv om det kan være en sterk fristelse for regjeringer å 'sikre samfunnet' ved å bygge et gjennomgripende overvåkingssystem basert på AI-systemer, vil dette være ekstremt farlig hvis det presses til ekstreme nivåer," skriver HLEG. "Regjeringene bør forplikte seg til ikke å engasjere seg i masseovervåking av enkeltpersoner og bare distribuere og anskaffe pålitelige AI-systemer, designet for å respektere loven og grunnleggende rettigheter, i samsvar med etiske prinsipper og sosio-teknisk robuste.
Gruppen ber også om at kommersiell overvåking av enkeltpersoner og samfunn skal "motvirkes" - noe som antyder at EUs svar på styrken og potensialet for misbruk av AI-teknologier bør omfatte å sikre at online sporing av mennesker er "strengt i tråd med grunnleggende rettigheter som personvern ”, Inkludert (gruppen spesifiserer) når det gjelder 'gratis' tjenester (om enn med et lite påminnelse om behovet for å vurdere hvordan forretningsmodeller påvirkes).
I forrige uke fyrte den britiske vakthunden for databeskyttelse et enda mer spesifikt skudd på tvers av pilene i den elektroniske atferdsannonsebransjen - og advarte om at adtechs massebehandling av nettbrukernes personopplysninger for målretting av annonser ikke overholder EUs personvernstandarder. Bransjen fikk beskjed om at brudd på rettighetskrenkelser må endres, selv om informasjonskommisjonærens kontor ikke er i ferd med å få ned hammeren ennå. Men reformvarslingen var klar.
Når EUs politiske beslutningstakere jobber med å utforme et rettighetsrespekterende regelverk for AI, som søker å styre de neste ti årene + av den nyeste teknologiske utviklingen i regionen, ser den bredere oppmerksomheten og kontrollen som vil trekke digital praksis og forretningsmodeller ut til å drive en opprydding av problematiske digitale praksiser som har vært i stand til å spre seg under ingen eller veldig lett berøringsregulering, før nå.
HLEG etterlyser også støtte for å utvikle mekanismer for beskyttelse av personopplysninger, og for enkeltpersoner å "kontrollere og bli styrket av sine data" - som de hevder ville adressert "noen aspekter av kravene til pålitelig AI".
"Verktøyer bør utvikles for å gi en teknologisk implementering av GDPR og utvikle bevaring av personvern / personvern ved å utforme tekniske metoder for å forklare kriterier, årsakssammenheng i behandling av personopplysninger av AI-systemer (for eksempel føderert maskinlæring)," skriver de.
Støtte teknologisk utvikling av anonymisering og krypteringsteknikker og utvikle standarder for sikker datautveksling basert på kontroll av personopplysninger. Fremme utdanning for allmennheten i håndtering av personopplysninger, inkludert individenes bevissthet om og myndighet i personlige databaserte beslutningsprosesser. Lag teknologiløsninger for å gi enkeltpersoner informasjon og kontroll over hvordan dataene deres brukes, for eksempel til forskning, om samtykkehåndtering og åpenhet over europeiske grenser, samt forbedringer og utfall som har kommet fra dette, og utvikle standarder for sikre datautveksling basert på kontroll av personopplysninger. ”
wpDiscuz