Teknokrati lover vitenskapelig diktatur til slutt. Hvis IBM nå innrømmer at ingeniørene deres kan gjøre det, kan du være sikker på at amerikanske etterretningsbyråer har gjort det i noen tid. Målrettet hacking er potensielt den mest ondsinnede og ødeleggende typen overvåkning i historien. I hendene på useriøse Intel blir alle detaljer lagt foran seg. ⁃ TN Editor
Marerittsscenariet for datasikkerhet - programmer for kunstig intelligens som kan lære å unngå selv de beste forsvarene - kan allerede ha kommet.
Denne advarselen fra sikkerhetsforskere blir drevet hjem av et team fra IBM Corp. som har brukt kunstig intelligens teknikk, kjent som maskinlæring, for å bygge hackingsprogrammer som kan gli forbi forsvarsnivå på toppnivå. Gruppen vil avduke detaljer om eksperimentet sitt på sikkerhetskonferansen Black Hat i Las Vegas onsdag.
Avansert forsvar er generelt avhengige av å undersøke hva angrepsprogramvaren gjør, snarere enn den mer vanlige teknikken for å analysere programvarekode for faretegn. Men den nye sjangeren med AI-drevne programmer kan trenes til å holde seg i dvale til de når et veldig spesifikt mål, noe som gjør dem usedvanlig vanskelig å stoppe.
Ingen har ennå skrytt av å fange opp skadelig programvare som tydelig er avhengig av maskinlæring eller andre varianter av kunstig intelligens, men det kan bare skyldes at angrepsprogrammene er for gode til å bli fanget.
Forskere sier at det i beste fall bare er et spørsmål om tid. Gratis kunstige intelligensbyggesteiner for treningsprogrammer er lett tilgjengelige fra Alphabet Incs Google og andre, og ideene fungerer altfor bra i praksis.
"Jeg tror absolutt at vi skal dit," sa Jon DiMaggio, senior trusselanalytiker ved cybersikkerhetsfirma Symantec Corp. "Det kommer til å gjøre det mye vanskeligere å oppdage."
De mest avanserte nasjonalstatshackerne har allerede vist at de kan bygge angrepsprogrammer som bare aktiveres når de har nådd et mål. Det mest kjente eksemplet er Stuxnet, som ble distribuert av amerikanske og israelske etterretningsbyråer mot et anriket med urananrikning i Iran.
IBM-innsatsen, kalt DeepLocker, viste at et lignende nivå av presisjon kan være tilgjengelig for de med langt færre ressurser enn en nasjonal regjering.
I en demonstrasjon der offentlig tilgjengelige bilder av et eksempel ble brukt, brukte teamet en hacket versjon av videokonferanseprogramvare som bare svingte til handling når den oppdaget ansiktet til et mål.
"Vi har mange grunner til å tro at dette er den neste store tingen," sa leder IBM-forsker Marc Ph. Stoecklin. "Dette kan ha skjedd allerede, og vi vil se det om to eller tre år fra nå."
wpDiscuz