Raging Against the Algorithm: Google And Persuasive Technology

Monstre og titaner deler scenen i mytologien på tvers av kulturer som den nødvendige erkjennelsen av den menneskelige fantasien. Fra steinhule til urbane boliger er temaet ubegrenset; holdt i fantasien, utfører slike skapninger, uskyldig nok, godartede funksjoner. Fangsten her er den menneskelige tendensen til å realisere slike skapninger. De tar form av sosialteknikk og utopi. Sånn er de bundet, slike prosjekter og ventures ender opp med å ødelegge og ødelegge. Monsteret er født, og den forferdelige sannheten kommer i forgrunnen: konsentrasjonsleiren, overvåkningsstaten, avisen, sensurenes hærer.

Teknologigigantene fra den nåværende tidsperioden er de moderne utopierne, som overgir menneskelig sult og interesser ved å forme dem. Ett selskap gir oss arketypen. Det er Google, som har den uvanlige skillet mellom å være både substantiv og verb, enhet og handling. Googles makt er uforholdsmessig stor, en skummel spredning som verner om åpenhet mens den mangler den, og skatter informasjon mens den regulerer rekkevidden. Det er også en enhet som har gått utover å bare være et depot av søk og data, et forsøk på å indusere atferdsendring fra brukerens side.

Google gir alltid inntrykk av at brukerne er i bresjen, autonome og uavhengige i et grønt land med digital frolicking. Ideen om at selskapet selv fremmer slik endring, og erter ut endringer i oppførsel, legges til den ene siden. Det er ingen Svengalis i Googleland, fordi vi alle er gratis. Gratis, men trenger hjelp midt i kaos og "multitasking".

Folk har hva selskapssamtaler “Mikro-øyeblikk”, som atferdsøkonom Dan Ariely beskriver som "på farten mobile øyeblikk" der beslutninger tas av en bruker mens de er engasjert, samtidig, i en rekke oppgaver: hotell å bestille, reisevalg å gjøre, arbeidsplaner å oppfylle. Mens Ariely skriver mer bredt fra perspektivet til den allestedsnærværende digitale markedsføreren, er språket ren googleleisk, som smaker av overtalelse av deler og pålegg om deler. "Vil du utvikle en strategi for å forme forbrukervedtakene dine?" spør Google. “Begynn med å forstå de viktigste mikro-øyeblikkene på reisen deres.” Forstå dem; mate tankene; hold hånden.

Avhengigheten til Google produserer det som ikke lenger kan sees på som retarderende, men fostrende. En generasjon vokser opp uten et papirkopie-forskningsbibliotek, en klar liste over klassikere og midler til å søke gjennom poster uten å ty til de fordømmelige digitale nøklene. Det vil sikkert være debatter (noen forurenser allerede det digitale rommet) om hvorvidt dette nødvendigvis er en betingelse å beklage. Omfavne digital hukommelsestap! For Google er å eksistere.

Det som er unektelig er at midlene til å finne informasjon - øyeblikkelig, glattfylt, desperat raskt - har skapt brukere som bor i et rom som styrer deres tenkning, forutvikling, kajolering og justering. En form for leseferdighet, kan vi vel si, blir erstattet av en annen: Google-imbecilen er over oss.

Gitt arten av slike effekter, er det ikke rart at politikere synes Google truer med å være muggent og rustet på håndverk. Politikernes bevare er sunn - eller usunn - kommunikasjon; suksess ved neste valg er avhengig av ideen om at valgene forstår og godkjenner det som har blitt videresendt til dem (om dette materialet er saklig, eller ikke, en løgn eller annet, er ved siden av poenget: politikeren lengter etter å overbevise om for å vinne).

Den gamle søkemotoren Titan leverer noe av en hage i denne forbindelse. På den ene siden gir det de politiske klassene midlene til å nå et globalt publikum, en mulighet til å skrike og promotere det neste hårflettet opplegget som kommer inn i tankene til det politiske apparatet. Men hva hvis meldingen stymies underveis ved å finne forsinkelser i middelene til det som kalles "søkemotoroptimalisering"? Er Google å skylde, eller mister den vanlige politikerens side?

Amerikanske politikere tror de har et svar. Bare de har kontroll over fortellingen og formidler løgnen. Så sent har de prøvd å tegne en vei de ikke er vant til: å regulere næringer som en gang ble hyllet som frihetsinstruktører, frihetspromotører. Deres klager har en tendens til å mangle konsistens. På den ene siden finner de forskjellige Google-algoritmer problematiske (preferanse for helt-høyre nettsteder, konspiratorisk velling som ødeleggende), men skråstillingen er vinklet og skjev. Hadde disse algoritmene drevet gunstige søketermer (konformist, stødig, tvilsom, anti-Trump), ville saken vært en ikke-start. Meldingen vår, vil de si, kommer der ute.

Denne uken prøvde det amerikanske senatskomiteen for handel, vitenskap og transport å være fornuftig, på ganske anklagende måte, av "overbevisende teknologi". Nanette Byrnes masser oss med en definisjon: "ideen om at datamaskiner, mobiltelefoner, nettsteder og andre teknologier kan være designet for å påvirke folks atferd og til og med holdninger". Paven forblir resolutt katolsk.

De komitéhøring inneholdt slike meninger som senatoren John Thune (R-SD), som ønsket å bruke saksgangen til å utarbeide lovgivning som ville "kreve internettplattformer for å gi forbrukerne muligheten til å engasjere seg i plattformen uten å ha erfaring formet av algoritmer." Senator er fornøyd med å akseptere at kunstig intelligens “makter automatiseringer til å vise innhold for å optimalisere engasjement”, men ser en djevel i verkene, da “AI-algoritmer kan ha en utilsiktet og muligens til og med farlig ulempe”. Dette er ensbetydende med å ville ha en Formel 1 Grand Prix uten raske biler og en friidretts-konkurranse i sakte film.

Maggie Stanphill, direktør for Google User Experience, møtte senatorene fra Googles side. Henne vitnesbyrd ble sovet med ord mer beslektet med glansen i en reisebrosjyre med en gratis dryss av kokain. "Googles Digital Wellbeing Initiative er et topp bedriftsmål, med fokus på å gi brukerne våre innsikt om deres digitale vaner og verktøy for å støtte et forsettlig forhold til teknologi." Google bare "skaper produkter som forbedrer livene til menneskene som bruker dem." Selskapet har gitt tilgang som har “demokratisert informasjon og levert tjenester for milliarder av mennesker over hele verden.” På spørsmål om Google gjorde sitt beste i overtalelsesbransjen, var Stanphill utvetydig. "Vi bruker ikke overbevisende teknologi."

Øktens tema var tydelig: oodler og masser av innhold er bra, men må være passende. I Informasjonsutopia, der digitale Adam og Eva fremdeles løper nakne, vil ikke ondskap være tillatt. Hvis folk ønsker å søke etter innhold som er "negativt" (denne forferdelige vilkårlige naturen fortsetter å vises), bør de ikke få lov til å gjøre det. Kneb dem, og sørg for at de populære begrepene som er søkt, er hvitvasket av støtende eller farlig import. Pålegge teknisk titaner et ansvar for å kontrollere det negative.

Senator Brian Schatz (D-Hawaii) klaget over de selskapene som “lot disse algoritmene løpe løpsk […] og forlate mennesker til å rydde opp i rotet. Algoritmer er amorale. ”Tristan Harris, medgründer og utøvende direktør for Center for Humane Technology, snakket av konkurransen mellom selskaper om å bruke algoritmer som "mer nøyaktig forutsier hva som vil holde brukerne der lengst." Hvis du vil maksimere tiden brukt på å søke ord eller, i tilfelle av YouTube, se på en video, fokusere "hele maurekolonien av menneskeheten mot crazytown. ”For Harris," teknologi hacks menneskelige svakheter. "Moralen? Ikke gi folk det de vil.

Raset mot algoritmen, og troen på at ingen atferdspressing foregår i søketeknologi, er feilplassert på noen få fronter. På et visst nivå aksepterer alle hvordan slike moduser for innhenting av informasjon fungerer. Uenighet oppstår om konsekvensene av dem, en innrømmelse, effektivt, for Google-brukeren som uanstendig. Stanphill er disingenuous for å anta at overbevisende teknologi ikke er en funksjon av Googles arbeid (det er patently, gitt selskapets intensjon om å forbedre det "forsettlige forholdet til teknologi"). I sitt vitnesbyrd snakket hun om å bygge “produkter med privatliv, åpenhet og kontroll for brukerne, og vi bygger et livslangt forhold til brukeren, som er det viktigste.” Senatorene er på sin side bekymret for at brukerne ble ble blekt av oppmuntringer. i sine søkeinteresser, er ikke i stand til å gjøre opp sine egne skjøre sinn.

Arten av administrert informasjon i den digitale opplevelsen er ikke, slik Google, YouTube og lignende selskaper viser, et tilfelle av å utvide kunnskapen, men bekrefte eksisterende forutsetninger. Ekkokammeret pusser med bekreftelser ikke utfordringer, med trøstens fordommer snarere enn ubehagene med tungt artillerilæring. Men de valgte innbyggerne på høyden, og cyberutopianene, fortsetter å kjempe og flyndre i den digitale jungelen de hadde sett på som en informasjonsutopi som er lik for alle. For Big Tech-gigantene er det hele ganske enkelt: oppmerksomhetsgrepet, boms på seter og nedlastinger i massevis.

Les hele historien her ...