Kinas dystopiske AI-utvikling inkluderer befolkningskontroll

Siden oppfatningen har folk bekymret seg for at en kunstig intelligens ville vende seg mot menneskeheten og true livene våre. Selv om dette kan være et resultat man skal frykte flere år i fremtiden, er den mest presserende faren akkurat nå brukt til å undertrykke millioner av mennesker og legge til rette for trusselen om et kontrollerende regime.

Hjemmebunden i pandemien i karantene, datteren min og jeg har fulgt med på nytt Person av interesse på Netflix.

I det vesentlige handler den tidligere nettverksserien om en mann som skapte en nesten allvitende kunstig intelligens som ser på alle gjennom nettverk av kameraer, datamaskiner og smarttelefoner. Hver uke prøver teamet vårt av helter, samlet av AI-skaperen, å hjelpe en person som AI har identifisert som et sannsynlig drapsoffer snart. Fordi denne AI ble oppfunnet av showets hovedperson, demonstrerer den empati og verdsetter menneskeliv.

Imidlertid, inn i tredje sesong, opereres en annen AI på vegne av regjeringen, og denne AI verdsetter ikke menneskeliv. Det fungerer på ordre fra og til fordel for et skyggefullt selskap, som begynner å organisere folks liv for sine egne formål, inkludert å drepe folk som ikke passer inn i programmet. Det er skremmende.

Dette showet er en god TV, og jeg anbefaler det til alle som regelmessig leser denne bloggen og dermed er interessert i hvordan teknologi kan påvirke livene våre. Person av interesse kan også introdusere deg for hva som nå skjer i dette verdens mest folkerike land.

Jeg har skrevet mye nylig videoovervåking og ansiktsgjenkjenning i USA, men amerikansk politi er begrenset av konstitusjonelle krav, og det kan det lett være rules påført til ny teknologi som vil begrense myndighetens evner til å bruke dem vilkårlig. USA har også beskyttelse for enkeltpersoner til å samle og protestere, en regjering som regelmessig kan endres, og et rettssystem som generelt beskytter disse rettighetene. En uavhengig presse skinner lys over regjeringens oppførsel som anses som misbruk av disse rettighetene.

Så tenk på et land uten noen av disse kontrollene, uten individuelle rettigheter garantert i henhold til lov, ingen fri presse, intet uavhengig operativt rettssystem, og et enkelt partidiktatur som har all makt. Tenk nå på hva som ville skje hvis du gir landet ubegrenset elektronisk og fysisk overvåking fra hundrevis av millioner kameraer til droner for å fange all telefon-, tekst- og internettrafikk inkludert søk og sosiale medier. Gi deretter dette samfunnet stadig økende sofistikering innen kunstig intelligens for å administrere informasjonsflyten og tildele mening til alle handlingene det fanger, til og med samle hele visningen av en persons oppførsel til en poengsum som bestemmer alle viktige aspekter av en persons liv. Motta en god score fra regjeringen, og du blir tildelt den leiligheten du ønsker eller tillatelse til å få en baby. En dårlig poengsum betyr veisperringer i livet ditt. Dette er hva Kina raskt blir.

Kina oppretter ikke bare et overvåkingssamfunn, inkludert et sosialt scoringssystem for alle innbyggere, men det investerer mye i den kunstige intelligensen som trengs for å administrere det hele og foreta evalueringer av hva kameraer, biometriske lesere og internettfiltre fanger opp. I følge Amerikanske militære estimater, Kina vil bruke 70 milliarder dollar i statlige midler på AI-utvikling i 2020 sammenlignet med 17 milliarder dollar i 2017. USAs ikke-forsvarsutgifter på AI i år vil være omtrent en milliard dollar.

Ikke bare bygger Kina regjeringslaboratorier for å utvikle de neste generasjonene av AI, men regjeringens tette koordinering med selskaper som Huawei og Alibaba gir også overvåkingsstaten topp privat kommersiell forskning. Alt drevet av de enorme datamengdene som produseres i verdens største overvåkingsstat, fordi enorme datasett er byggesteinene til effektiv AI. Kina, som The Economist nylig observert, er Saudi-Arabia av data.

Den andre anbefalingen jeg kommer med i denne spalten er å lese Ross Andersons artikkel i The Atlantic kalt Panopticon er allerede her, som forklarer hvordan overvåking, AI, sosial poengsum, enpartistat og politisk undertrykkelse kombineres i Kina for både å skape det første allvitende sosiale systemet og eksportere det til andre land. Anderson rapporterer om hvordan hele systemet testes akkurat nå i "friluftsfengselet" i Xinjiang-provinsen, der muslimske uigurer overvåkes hvert minutt av livet.

Anderson skriver om Kinas president, partileder og effektive diktator, Xi Jinping, ”Med AI kan Xi bygge historiens mest undertrykkende autoritære apparat, uten at arbeidskraften Mao trengte for å holde informasjon om uenighet flytende til en enkelt, sentralisert node. I Kinas mest fremtredende AI-oppstart - SenseTime, CloudWalk, Megvii, Hikvision, iFlytek, Meiya Pico - har Xi funnet villige kommersielle partnere. Og i Xinjiangs muslimske minoritet har han funnet sin testpopulasjon. ”

Mer enn en million uigurer har blitt fengslet, noe som er mer politiske fanger enn noen gang siden de nazistiske konsentrasjonsleirene. John Oliver diskutert livet i disse fengslene og re-utdannelsesleirene på showet hans denne uken. Men uigurene som fremdeles bor i Xinjiang-provinsen er underlagt kontrollpunkter, konstant video og annen overvåking og innføring av Han-kinesiske "store brødre og søstre" for å overvåke tvungen assimilering i den kommunistiske kulturen. Ifølge Anderson, “Ved disse kontrollene trekker politiet ut alle dataene de kan fra kroppene til Uighurs. De måler høyden og tar en blodprøve. De spiller inn stemmer og vattpinne-DNA. ”

Og dette testområdet for overvåking og politisk samsvar kan enkelt eksporteres til resten av landet. Anderson bemerker: ”Når Xi har perfeksjonert dette systemet i Xinjiang, vil ingen teknologiske begrensninger hindre ham i å utvide AI-overvåking over hele Kina. Han kunne også eksportere den utenfor landets grenser, og forankret makten til en hel generasjon autokrater. ”

Investeringen i AI driver hele prosessen. De Atlantic artikkelen sier: ”Mye av opptakene som samles inn av Kinas kameraer blir analysert av algoritmer for sikkerhetstrusler av en eller annen art. I den nærmeste fremtiden kunne alle som kommer inn i et offentlig rom, umiddelbart identifiseres ved hjelp av AI som matcher dem til et hav av personlige data, inkludert deres all tekstkommunikasjon, og kroppens unike skjema for proteinkonstruksjon. Med tiden vil algoritmer være i stand til å strikke sammen datapunkter fra et bredt spekter av kilder - reiseoppføringer, venner og kollegaer, lesevaner, kjøp - for å forutsi politisk motstand før det skjer. Kinas regjering kunne snart oppnå et enestående politisk kvelertak på mer enn 1 milliard mennesker. ”

Så nye overvåkingsverktøy som robot fugleovervåking droner, gode nok til å lure andre fugler til å fly med dem, blir allerede introdusert i Kina for å gi mer data om folks oppførsel til statlig AI. Som oppgitt av  C / NET, “Kina jobber også ansiktsgjenkjenning, kunstig intelligens, smarte briller og andre teknologier for å overvåke sine 1.4 milliarder innbyggere med sikte på en dag å gi hver av dem en personlig score basert på hvordan de oppfører seg. ”

Tenk deg en kredittpoeng som i stedet for bare å måle økonomisk atferd og evne, måler alle aspekter av livet ditt og samspillet med samfunnet. Og forestill deg at poengsummen din kan avgjøre hvilken type leilighet du har lov til å ha - eller om myndighetene i det hele tatt vil tillate deg å bo i en leilighet. Det samme gjelder jobben din, utdanningsmuligheter, reproduksjon og andre kjerneaspekter i livet ditt. Dette er den kinesiske sosiale poengsummen. Som påpekt i Kablet Storbritannia, mens noe av det nåværende systemet er frivillig, er det insentiver for å delta og straffer for ikke å delta.

Endelig, og kanskje mest skremmende, bruker Kina sin økonomiske innflytelse og private industri til å eksportere befolkningskontrollteknologi til diktatorer over hele verden. Anderson bemerker: “Kina utvikler allerede kraftige nye overvåkingsverktøy, og eksporterer dem til dusinvis av verdens faktiske og kommende autokratier. I løpet av de neste årene vil disse teknologiene bli raffinert og integrert i altomfattende overvåkningssystemer som diktatorer kan plugge og spille. ”

Les hele historien her ...