Fake nyheter kan ha allerede påvirket politikk i USA, men det kommer til å bli mye verre, advarer en AI-konsulent til CIA.
Sean Gourley, grunnlegger og administrerende direktør i primer, et selskap som bruker programvare for å gruve datakilder og automatisk generere rapporter for CIA og andre klienter, fortalte en konferanse i San Francisco at neste generasjon falske nyheter ville være langt mer sofistikerte takket være AI.
"Automatisering av generasjonen av falske nyheter kommer til å gjøre det veldig effektivt," sa Gourley til publikum på EmTech Digital, organisert av MIT Technology Review.
Advarselen skal gi bekymring på Facebook. Det sosiale nettverket har vært involvert i en skandale etter å ha unnlatt å forhindre falske nyheter, noen av dem opprettet av russiske agenter, fra å nå millioner av mennesker i månedene før presidentvalget i 2016. Mer nylig ble selskapet rammet av avsløringen om at det lot Cambridge Analytica, et selskap knyttet til Trump-presidentkampanjen, minebrukers personlige data.
I nylige intervjuer foreslo Facebooks administrerende direktør, Mark Zuckerberg, at selskapet ville bruke AI for å oppdage falske nyheter. Ifølge Gourley kan AI også brukes i tjenesten til det motsatte målet.
Gourley bemerket at de falske nyhetene som hittil er sett, har vært relativt enkle, bestående av rå, håndlagde historier lagt ut på sosiale medier med jevne mellomrom. Teknologi som Primers kan lett brukes til å generere overbevisende falske historier automatisk, sa han, og det kan bety falske rapporter tilpasset et individs interesser og sympati og nøye testet før de ble utgitt, for å maksimere effekten. "Jeg kan generere en million historier, se hvilke som får mest trekkraft, dobbelt ned på dem," sa Gourley.
Gourley la til at falske nyheter så langt har blitt matet inn i sosiale medier-plattformer som Facebook i hovedsak tilfeldig. En mer sofistikert forståelse av nettverksdynamikk, så vel som mekanismene som brukes til å bedømme populariteten til innhold, kan forsterke et innlegg.
Falske nyheter av AI.
Så hvis du var oppmerksom, kan du gjenkjenne det selv.
Dette er nøyaktig hva demonene gjør for tankene dine.
Som over, så under.
Din mor