ChatGPT står for "Chat Generative Pre-trained Transformer". Den kan utføre naturlig språkgenerering på et så høyt nivå av nøyaktighet at det kan bestå Turing Test, dvs. lure mennesker at de kommuniserer med en datamaskin. Selv Technocrat AI-ledere erkjenner de farlige implikasjonene og setter opp stoppskilt. ⁃ TN-redaktør
AI-verktøy kan brukes til å "redigere" og "polere" forfatternes arbeid, sier konferansearrangørene, men tekst "produsert i sin helhet" av AI er ikke tillatt. Dette reiser spørsmålet: hvor trekker du grensen mellom redigering og skriving?
En av verdens mest prestisjefylte maskinlæringskonferanser har forbudt forfattere fra å bruke AI-verktøy som ChatGPT til å skrive vitenskapelige artikler, og utløste en debatt om rollen til AI-generert tekst i akademia.
Den internasjonale konferansen om maskinlæring (ICML) kunngjorde politikken tidligere denne uken, og sa: "Aviser som inkluderer tekst generert fra en storskala språkmodell (LLM) som ChatGPT er forbudt med mindre den produserte teksten presenteres som en del av papirets eksperimentelle analyse." Nyheten utløste utbredt diskusjon på sosiale medier, med AI-akademikere og forskere som både forsvarer og kritiserer politikken. Konferansens arrangører svarte pr publisere en lengre uttalelse forklarer tankene deres. (ICML svarte på forespørsler fra Randen for kommentar ved å henvise oss til denne samme uttalelsen.)
I følge ICML, fremveksten av offentlig tilgjengelige AI-språkmodeller som ChatGPT - en generell AI-chatbot som lansert på nettet i november i fjor - representerer en "spennende" utvikling som likevel kommer med "uventede konsekvenser [og] ubesvarte spørsmål." ICML sier at disse inkluderer spørsmål om hvem eier produksjonen av slike systemer (de er opplært på offentlige data, som vanligvis samles inn uten samtykke og noen ganger gjengir denne informasjonen ordrett) og om tekst og bilder generert av AI skal "betraktes som ny eller bare avledet av eksisterende arbeid."
Det siste spørsmålet kobles til en vanskelig debatt om forfatterskap - det vil si hvem som "skriver" en AI-generert tekst: maskinen eller dens menneskelige kontroller? Dette er spesielt viktig gitt at ICML bare forbyr tekst "produsert i sin helhet" av AI. Det sier konferansens arrangører at de er ikke forbud mot bruk av verktøy som ChatGPT "for redigering eller polering av forfatterskreven tekst" og merk at mange forfattere allerede brukte "halvautomatiserte redigeringsverktøy" som grammatikkkorrigerende programvare Grammarly for dette formålet.
"Det er sikkert at disse spørsmålene, og mange flere, vil bli besvart over tid, ettersom disse generative modellene i stor skala blir mer utbredt. Men vi har ennå ikke noen klare svar på noen av disse spørsmålene», skriver konferansens arrangører.
Som et resultat sier ICML at forbudet mot AI-generert tekst vil bli revurdert neste år.
I hvert tilfelle er det ulik frykt for de skadelige effektene av AI-generert tekst. En av de vanligste er at utdataene til disse systemene rett og slett er upålitelige. Disse AI-verktøyene er enorme autofullføringssystemer, trent til å forutsi hvilket ord som følger det neste i en gitt setning. Som sådan har de ingen hardkodet database med "fakta" å trekke på - bare muligheten til å skrive plausible utsagn. Dette betyr at de har en tendens til å presentere falsk informasjon som sannhet siden om en gitt setning lyder plausible garanterer ikke fakta.
Når det gjelder ICMLs forbud mot AI-generert tekst, er en annen potensiell utfordring å skille mellom skriving som kun har blitt "polert" eller "redigert" av AI og det som har blitt "produsert i sin helhet" av disse verktøyene. På hvilket tidspunkt utgjør en rekke små AI-guidede korreksjoner en større omskriving? Hva om en bruker ber et AI-verktøy om å oppsummere oppgaven sin i et raskt sammendrag? Teller dette som nygenerert tekst (fordi teksten er ny) eller ren polering (fordi det er et sammendrag av ord forfatteren skrev)?
Patrick Wood er en ledende og kritisk ekspert på bærekraftig utvikling, grønn økonomi, Agenda 21, 2030 Agenda og historisk teknokrati. Han er forfatteren av Technocracy Rising: The Trojan Horse of Global Transformation (2015) og medforfatter av Trilaterals Over Washington, bind I og II (1978-1980) med avdøde Antony C. Sutton.
Abonner!
3 Kommentar
eldste
NyesteMest stemte
Inline tilbakemeldinger
Se alle kommentarer
Krus Diller
Januar 27, 2023 12: 52 pm
Dette er som å vedta en lov i 1905 som tillater biler, men bare hvis de trekkes av en hest.
Godot
Januar 27, 2023 1: 51 pm
FORBIND forfattere fra å bruke AI-verktøy! Lykke til med det. Og OJ Simpson leter fortsatt etter den virkelige morderen.
Motstand 21
Januar 28, 2023 10: 47 pm
Jeg lyttet nettopp til Quickening-rapporten din om dette emnet og bestemte meg for å kommentere her. (1) Du indikerer at ChatGPT kan utføre dype forfalskninger av voice-over for videoer. Dette kan også være et propagandatriks slik at Deep State-aktørene kan benekte det de egentlig sa på videobevisene vi samler inn. (2) Alt jeg kan være sikker på er at jeg ikke vet hva som er i den andre enden av grensesnittet. Hvem eller hva er mannen bak forhenget? Når er det en AI, menneske eller propagandist? Se også begrepet Mekanisk... Les mer "
wpDiscuz
Dette er som å vedta en lov i 1905 som tillater biler, men bare hvis de trekkes av en hest.
FORBIND forfattere fra å bruke AI-verktøy! Lykke til med det. Og OJ Simpson leter fortsatt etter den virkelige morderen.
Jeg lyttet nettopp til Quickening-rapporten din om dette emnet og bestemte meg for å kommentere her. (1) Du indikerer at ChatGPT kan utføre dype forfalskninger av voice-over for videoer. Dette kan også være et propagandatriks slik at Deep State-aktørene kan benekte det de egentlig sa på videobevisene vi samler inn. (2) Alt jeg kan være sikker på er at jeg ikke vet hva som er i den andre enden av grensesnittet. Hvem eller hva er mannen bak forhenget? Når er det en AI, menneske eller propagandist? Se også begrepet Mekanisk... Les mer "