Skaperne sier ny AI-tekstgenerator for farlig å gi ut

george orwellWikimedia Commons
Del denne historien!
Selv om det er prisverdig at skaperne ser farlige resultater av AI og er villige til å holde det tilbake i påvente av ytterligere analyse, er det bare et spørsmål om tid før det glir ut. Det brukes ingen menneskelig intelligens når man genererer kunstige historier. ⁃ TN Editor

Skaperne av et revolusjonerende AI-system som kan skrive nyheter og skjønnlitterære verker - kalt "deepfakes for text" - har tatt det uvanlige skrittet å ikke slippe forskningen offentlig, av frykt for mulig misbruk.

OpenAI, et ideelt forskningsfirma støttet av Elon Musk, Reid Hoffman, Sam Altman og andre, sier at den nye AI-modellen, kalt GPT2, er så god og risikoen for ondsinnet bruk så høy at den bryter fra normal praksis for å frigjøre hele forskning for publikum for å gi mer tid til å diskutere konsekvensene av det teknologiske gjennombruddet.

I kjernen er GPT2 en tekstgenerator. AI-systemet mates tekst, alt fra noen få ord til en hel side, og blir bedt om å skrive de neste setningene basert på dens prediksjoner om hva som skal komme neste gang. Systemet skyver grensene for hva man trodde var mulig, både når det gjelder kvaliteten på utdataene og det store utvalget av potensielle bruksområder.

Når det brukes til å bare generere ny tekst, er GPT2 i stand til å skrive rimelige passasjer som samsvarer med det den er gitt både i stil og emne. Det viser sjelden noen av påfunnene som markerer tidligere AI-systemer, for eksempel å glemme hva det er å skrive om midtveis i et avsnitt, eller mangle syntaks for lange setninger.

Gi den åpningslinjen til George Orwells Nineteen Eighty Four - "Det var en lys kald dag i april, og klokkene slo tretten" - og systemet gjenkjenner den vagt futuristiske tonen og den romanistiske stilen, og fortsetter med:

“Jeg var i bilen min på vei til en ny jobb i Seattle. Jeg satte bensinen i, satte nøkkelen inn, og så la den renne. Jeg forestilte meg akkurat hvordan dagen ville bli. Hundre år fra nå. I 2045 var jeg lærer på en skole i en fattig del av det landlige Kina. Jeg startet med kinesisk historie og vitenskapshistorie. ”

Mat den første paragrafene av en Guardian-historie om Brexit, og produksjonen er plausibel avisprosa, fylt med "sitater" fra Jeremy Corbyn, omtaler om den irske grensen, og svar fra statsministerens talsmann.

Et slikt, helt kunstig, avsnitt lyder: "På spørsmål om å avklare rapportene sa en talsmann for May: 'Statsministeren har gjort det helt klart at hennes intensjon er å forlate EU så raskt som mulig, og det vil være under hennes forhandlingsmandat som bekreftet i dronningens tale forrige uke. '”

Les hele historien her ...

Abonner!
Varsle om
gjest

0 kommentarer
Inline tilbakemeldinger
Se alle kommentarer