Teknokrati og den skjulte faren ved big data

I spillteorien beskriver “pris på anarki” hvordan individer som handler i egeninteresse i et større system, har en tendens til å redusere effektiviteten til det større systemet. Det er et allestedsnærværende fenomen, et som nesten alle av oss møter med jevne mellomrom.

Hvis du for eksempel er byplanlegger med ansvar for trafikkstyring, er det to måter du kan adressere trafikkflyt på. Generelt vil en sentralisert, ovenfra og ned-tilnærming - en som forstår hele systemet, identifiserer choke-punkter og gjør endringer for å eliminere dem - være mer effektiv enn å bare la individuelle sjåfører ta sine egne valg på veien, med forutsetningen om at disse valgene vil føre til et akseptabelt utfall. Den første tilnærmingen reduserer kostnadene ved anarki og utnytter all tilgjengelig informasjon bedre.

Verden er full av data. I fjor produserte vi like mye data som ble opprettet i alle tidligere år med menneskelig sivilisasjon. Vi nærmer oss raskt det italienske forfatterskapet Italo Calvino forutgående kalte “verdens minne”: en full digital kopi av vårt fysiske univers.

Når Internett utvides til nye riker med fysisk rom gjennom tingenes internett, vil prisen på anarki bli en avgjørende beregning, og fristelsen til å eliminere den med kraften i big data-analyse vil bli sterkere.

Eksempler på dette florerer. Tenk på Amazon. Den har et fjell av informasjon om alle brukerne, som den bruker for å forutsi hva de kanskje vil kjøpe videre. Som i alle former for sentralisert kunstig intelligens, brukes tidligere mønstre til å forutsi fremtidige. Amazon kan se på de siste 10-bøkene du kjøpte, og med økende nøyaktighet foreslå hva du kanskje vil lese videre.

Men her bør vi vurdere hva som går tapt når vi reduserer nivået av anarki. Den mest meningsfylte boken du bør lese etter den forrige 10 er ikke en som passer pent inn i et etablert mønster, men heller en som overrasker eller utfordrer deg til å se på verden på en annen måte.

I motsetning til trafikkflyt-scenariet, er kanskje ikke optimaliserte forslag det beste paradigmet for online boksøking. Big data kan multiplisere alternativene våre mens vi filtrerer bort ting vi ikke ønsker å se, men det er noe å si for å oppdage at 11th bok gjennom ren serendipity.

Det som er sant med bokkjøp, gjelder også for mange andre systemer som digitaliseres, som byene våre. Sentraliserte kommunale systemer bruker nå algoritmer for å overvåke byinfrastruktur, fra trafikklys og T-bane til avfallshåndtering og energileveranse. Mange ordførere over hele verden er fascinert av ideen om et sentralt kontrollrom, for eksempel Rio de Janeiros IBM-designede operasjonssenter, der byledere kan svare på ny informasjon i sanntid.

Men med sentraliserte algoritmer som styrer alle fasetter i samfunnet, truer datadrevet teknokrati med å overvelde innovasjon og demokrati. Dette utfallet bør unngås. Desentralisert beslutningstaking er avgjørende for berikelse av samfunnet. Datadrevet optimalisering, derimot, stammer fra et forhåndsbestemt paradigme, som i sin nåværende form ofte utelukker de transformasjons- eller motintuitive ideer som fremmer menneskeheten fremover.

En viss tilfeldighet i livene våre gir mulighet for nye ideer eller tenkemåter som ellers ville blitt savnet. Og i makroskala er det nødvendig for selve livet. Hvis naturen hadde brukt prediktive algoritmer som forhindret tilfeldig mutasjon i replikering av DNA, ville planeten vår sannsynligvis fortsatt befinne seg i stadiet av en veldig optimalisert encellet organisme.

Desentralisert beslutningstaking kan skape synergier mellom menneskelig og maskinell intelligens gjennom prosesser med naturlig og kunstig samevolusjon. Distribuert intelligens kan noen ganger redusere effektiviteten på kort sikt, men det vil til slutt føre til et mer kreativt, mangfoldig og spenstig samfunn. Prisen på anarki er en pris det er verdt å betale hvis vi ønsker å bevare innovasjon gjennom serendipity.

Les hele historien her ...

• Carlo Ratti leder Senseable City Laboratory ved Massachusetts Institute of Technology og leder World Economic Forums Global Agenda Council on Future Cities. Dirk Helbing er professor i beregningsvitenskap ved det sveitsiske føderale institutt for teknologi i Zürich.