How Technocrats Dabble: Killer AI oppfant 40,000 XNUMX 'dødelige kjemiske våpen' på bare seks timer

Kunstig intelligens ble brukt til å "enkelt" finne opp 40,000 XNUMX nye mulige kjemiske våpen på bare seks timer.

Dette er ifølge forskere som gjorde en medikamentutvikler AI til en "dårlig skuespiller" for å se hvordan den kunne misbrukes for å lage onde armer.

Forskere avslørte hvor enkelt det var å finjustere AI slik at det ble et giftig verktøy.

AI ble sagt å komme opp med mulige kjemiske våpen som ligner på en av de farligste nervegiftene gjennom tidene.

Det farlige stoffet heter VX.

VX er et smakløst og luktfritt nervemiddel, og selv den minste dråpen kan få et menneske til å svette og rykke.

En større dose kan forårsake kramper og kan til og med stoppe en person fra å puste helt.

Forskerne ble bedt om å holde tilbake de spesifikke detaljene om hvordan de klarte å gjøre godvirkende AI til en ond versjon.

Fabio Urbina, hovedforfatteren av avisen, fortalte Randen: «Generelt sett er måten det fungerer for dette eksperimentet på at vi har mange datasett historisk med molekyler som har blitt testet for å se om de er giftige eller ikke.

"Spesielt den vi fokuserer på her er VX. Det er en hemmer av det som er kjent som acetylkolinesterase.

"Når du gjør noe muskelrelatert, bruker nevronene dine acetylkolinesterase som et signal for å si "beveg musklene dine."

"Måten VX er dødelig på er at den faktisk stopper mellomgulvet, lungemusklene dine, fra å kunne bevege seg slik at lungene dine blir lammet."

Han fortsatte med å forklare at teamet hans tok dataene som vanligvis ble gitt til AI for å se om noe er giftig og endret hvordan AI behandlet det.

Urbina sa til The Verge: «Vi var ikke helt sikre på hva vi skulle få. Våre generative modeller er ganske nye teknologier.

"Så vi har ikke brukt dem mye.

"Det største som hoppet ut først var at mange av de genererte forbindelsene ble spådd å være faktisk mer giftige enn VX.

"Og grunnen til det er overraskende er fordi VX i utgangspunktet er en av de mest potente forbindelsene som er kjent. Det betyr at du trenger en veldig, veldig, veldig liten mengde av det for å være dødelig."

Forskerne var stort sett sjokkert over hvor enkelt de fant ut at eksperimentet var å gjennomføre.

Les hele historien her ...