Yelp og alle andre innholdsleverandører møter kampen om at de eksisterer for å filtrere og slette falsk informasjon. Hvordan forteller du falske data fra ekte? For det meste gjør du det ikke, men det vil komme til en permanent del av profilen din. ⁃ TN Editor
Roboter kommer for å stjele anmeldelsene dine.
Forskere ved University of Chicago har trent et nevralt nettverk, eller kunstig intelligenssystem, til å skrive falske anmeldelser på Yelp - og det er ganske vanskelig å skille dem bortsett fra en menneskelig anmeldelse.
Studien deres, som vil bli presentert på ACM-konferansen om datamaskin- og kommunikasjonssikkerhet i oktober, med sikte på å synliggjøre hvor lett disse systemene kan etterligne menneskelige anmeldelser - og hvor skadelige de kan bli hvis de ikke overvåkes ordentlig.
Siden mange små bedrifter er avhengige av anmeldelser på nettet for å vokse og opprettholde sitt rykte, er en fremtid der noen - som en konkurrerende eller sint kunde - hypotetisk spam siden med negative anmeldelser skrevet av en maskin ganske bekymringsfull.
Og ifølge forskerteamet går trusselen langt utover en haug med falske anmeldelser på Yelp.
"Generelt sett er trusselen større," Ben Y. Zhao, en av forfatterne av studien, fortalte Business Insider. "Jeg tror trusselen mot samfunnet for øvrig og virkelig desillusjonerte brukere og for å riste vår tro på hva som er reelt og hva som ikke er, jeg tror det kommer til å bli enda mer grunnleggende."
For å teste hvor troverdige disse vurderingene kom over, rekrutterte forskerne 40 frivillige og fikk AI generere fem falske anmeldelser for faktiske 40-restauranter. De frivillige ble spurt om hvor nyttig de trodde anmeldelsen var, og om de trodde den var falsk eller ikke. AI-vurderingene rangert som “effektivt ikke skille fra” virkelige anmeldelser, ifølge studien. Videre fikk de falske vurderingene en 3.15-”nyttige” -vurdering, sammenlignet med en 3.28-vurdering for menneskelige anmeldelser.
Nedenfor er fire femstjerners anmeldelser skrevet for den samme NYC restauranten, kan du finne ut hvilke som ble skrevet av et menneske?
"Jeg elsker dette stedet. Jeg har gått her i mange år, og det er et flott sted å henge med venner og familie. Jeg elsker mat og service. Jeg har aldri hatt en dårlig opplevelse når jeg er der. ”
“Enkelt min favoritt italienske restaurant. Jeg elsker forsmak-menyen, alt er fantastisk på den. Jeg foreslår carpaccio og aspargesen. Dessverre har det blitt mer kjent og vanskelig å få en reservasjon for førsteklasses tider.
“Jeg hadde den grillede veggie-burgeren med pommes frites !!!! Ohhhh og smak. Omgggg! Veldig smakfullt! Det var så deilig at jeg ikke stavet det !! ”
“Min familie og jeg er enorme fans av dette stedet. Ansatte er super hyggelige og maten er god. Kyllingen er veldig god og hvitløkssausen er perfekt. Iskrem toppet med frukt er også deilig. Sterkt anbefalt!"
Nummer to er den eneste anmeldelsen skrevet av et menneske; nummer én, tre og fire ble alle generert av AI.
wpDiscuz