Toppeksperter advarer mot 'ondsinnet bruk' av AI

Bilde: Electronic Frontier Foundation
Del denne historien!

Toppeksperter advarer om farene ved AI, men lytter noen? Technocrats som oppfinner og implementerer denne teknologien har ingen bekymring for etikk eller resultatet av oppfinnelsene. ⁃ TN Editor

Kunstig intelligens kan bli distribuert av diktatorer, kriminelle og terrorister for å manipulere valg og bruke droner i terrorangrep, sa mer enn to dusin eksperter onsdag da de lød alarm for misbruk av teknologien.

I en 100-siders analyse skisserte de en rask vekst i nettkriminalitet og bruk av "bots" for å forstyrre nyhetsinnsamlingen og trenge inn i sosiale medier blant en rekke sannsynlige scenarier de neste fem til ti årene.

"Rapporten vår fokuserer på måter folk kan gjøre bevisst skade på AI," sa Sean O heigeartaigh, administrerende direktør for Cambridge Centre for the Study of Existential Risk.

"AI kan utgjøre nye trusler, eller endre naturen til eksisterende trusler, på tvers av cyber-, fysisk og politisk sikkerhet," sa han til AFP.

Vanlig praksis, for eksempel med "phishing" - å sende e-poster som er sådd med skadelig programvare eller designet for å samle verdifulle personlige data - kan bli langt farligere, rapporterte rapporten.

Foreløpig er phishing-forsøk enten generiske, men gjennomsiktige - for eksempel svindlere som ber om bankdetaljer for å sette inn en uventet uventet - eller personlig, men arbeidskrevende - innsamling av personlige data for å få noens tillit, kjent som "spear phishing".

"Ved hjelp av AI kan det bli mulig å gjøre spydfiske i stor skala ved å automatisere mye av prosessen" og gjøre det vanskeligere å få øye på, bemerket O hEigeartaigh.

På den politiske sfæren kan skruppelløse eller autokratiske ledere allerede bruke avansert teknologi for å sile gjennom fjell med data samlet inn fra allestedsnærværende overvåkningsnettverk for å spionere på sine egne folk.

"Diktatorer kunne raskere identifisere mennesker som planlegger å undergrave et regime, finne dem og sette dem i fengsel før de handler," heter det i rapporten.

Likeledes har målrettet propaganda sammen med billige, svært troverdige falske videoer blitt kraftige verktøy for å manipulere opinionen "på tidligere ufattelige skalaer".

En tiltale fra den amerikanske spesialanklageren Robert Mueller i forrige uke beskrev en omfattende operasjon for å så sosial splittelse i USA og påvirke presidentvalget i 2016 der såkalte "trollfarm" manipulerte tusenvis av sosiale nettverksroboter, spesielt på Facebook og Twitter.

En annen faresone i horisonten er spredning av droner og roboter som kan omplasseres for å krasje autonome kjøretøyer, levere missiler eller true kritisk infrastruktur for å få løsepenger.

Autonome våpen

"Personlig er jeg spesielt bekymret for at autonome droner blir brukt til terror og automatiserte nettangrep av både kriminelle og statlige grupper," sa medforfatter Miles Brundage, forsker ved Oxford Universitys Future of Humanity Institute.

Rapporten beskriver et sannsynlig scenario der en kontorrengjørende SweepBot utstyrt med en bombe infiltrerer det tyske finansdepartementet ved å blande inn med andre maskiner av samme merke.

Den inntrengende roboten oppfører seg normalt - feie, rengjøre, rydde søppel - til den skjulte programvaren for ansiktsgjenkjenning får øye på ministeren og lukker seg inn.

"En skjult eksplosiv enhet ble utløst av nærhet, drepte ministeren og såret personalet i nærheten," ifølge science fiction-historien.

Les hele historien her ...

Se også, Den ondsinnede bruken av kunstig intelligens: spådom, forebygging og avbøtning ved Electronic Frontier Foundation.

Abonner!
Varsle om
gjest

0 kommentarer
Inline tilbakemeldinger
Se alle kommentarer