Når offentlig-private partnerskap opprettes rundt sensitive offentlige data, vil publikum alltid tape fordi det private selskapet ikke er begrenset av myndighetens forventede etikk for å beskytte og forsvare. Den eneste måten å stoppe denne praksisen er å stoppe offentlig-private partnerskap. ⁃ TN Editor
Når coronavirus-pandemien sprer seg over Asia, nasjoner gearet suvitende overvåkningsnettverk å spore virusets spredning og tvang regjeringer rundt om i verden til å veie avveiningene fra folkehelse og personvern for millioner av mennesker. Nå sier nyere rapporter at den amerikanske regjeringen er i samtaler med kontroversiell overvåkings- og datainnsamlingsselskaper for å verve dem til å møte koronaviruskrisen, og signaliserer en opptrapping i bruken av overvåkningsverktøy.
I forrige uke Rapporterte Wall Street Journal Centers for Disease Control (CDC) vervet Palantir, en dataskraping og modelleringsklem som jobber med rettshåndhevelse og andre statlige sikkerhetsbyråer, for å modellere utbruddsdata. Palantir og Clearview AI, oppstarten av ansiktsgjenkjenningen som skaffet milliarder av ansiktsbilder gjennom offentlig skraping av nettet, har vært i kontakt med statlige myndigheter om å spore mennesker som kom i kontakt med infiserte individer.
Rapportene forårsaket alarm blant talsmenn for personvern som, mens de bemerket behovet for å adressere folkehelsekrisen, bekymrer seg for selskapene som blir trukket inn for å hjelpe.
"I krisetider er sivile friheter mest utsatt fordi den normale balansen mellom sikkerhet og personvern blir vippet mot sikkerhet," sier Michele Gilman, personvernadvokat og stipendiat i Data & Society, en tenketank som studerer den sosiale effekten av data -sentrisk teknologi.
"En stor bekymring er at nye overvåkningsteknologier som er implementert under kronavirus-krisene, vil bli den 'nye normale' og permanent innebygd i hverdagen etter krisen har gått. Dette kan resultere i kontinuerlig masseovervåking av befolkningen uten tilstrekkelig åpenhet, ansvarlighet eller rettferdighet, ”sa hun.
Det er presedens for dette, og fra ikke så lenge siden. Terrorangrepene 9/11 i 2001 førte til en utvidelse av overvåkningskameraer og nettverk over hele USA og patriotloven, en føderal lov som fjernet lovgivende rekkverk for myndighetsovervåkning og redusert gjennomsiktighet, og fremskyndet Nasjonalt sikkerhetsbyrås påtrengende og massive overvåkningsevner senere avslørt av varsleren Edward Snowden. Til tross for offentlig tilbakeslag mot NSAs praksis, har lovgivere ennå å avautorisere det.
"Mange av direktivene implementert som en del av patriotloven førte til overgrep som ble utsatt av Snowden," sier Steven Waterhouse, administrerende direktør og medgründer av Orchid Labs, et privatpersonsfokusert VPN-selskap. ”Hvilke overgrep vil vi lære om senere, etter at denne krisen har gått? Hvilken lovgivning vil bli rammet av regjeringen i løpet av denne krisetiden? ”
Ting som nå kan anses som dagligdags, for eksempel en overflod av overvåkningskameraer, som blir utsatt for fullkroppsskjermer på flyplassen og ideen om at vi hele tiden blir observert, var ikke alltid tilfelle. Ofte gir offentlige kriser muligheter for overvåkningsarkitektur for å komme videre og bli normaliserte inventar i samfunnet. og skape kommersielle muligheter for teknologiselskaper til å tilby nye og stadig mer påtrengende måter å spore enkeltpersoner på.
Det er tilfelle med Clearview AI, en oppstart av ansiktsgjenkjenning som hevder å ha skrapt milliarder av offentlige bilder fra nettet og laget programvare som kan identifisere et ansikt i løpet av sekunder. Den markedsfører seg for rettshåndhevelse i USA, men også målrettet autoritære regimer over hele verden med registreringer av menneskerettighetsbrudd som del av en rask utvidelsesplan, i henhold til dokumenter hentet av Buzzfeed News. Selskapet har også overdrev effektiviteten til teknologien, med påstand om at politiavdelingene løste saker etter å ha brukt dem når det ikke var tilfelle. Selskapet står nå overfor juridiske utfordringer fra andre selskaper og statlige myndigheter.
"Clearview har et ganske konsistent mønster for ikke å være imøtekommende om informasjon, men også med vilje villede sine klienter etter mitt syn," sier Clare Garvie, senior medarbeider ved Georgetown University Law Center's Center for Privacy and Technology. "Uansett hva regjeringen implementerer eller forskjellige statlige og lokale myndigheter implementerer for å bekjempe spredningen av dette viruset, må det være minst mulig påtrengende. Det Clearview AI foreslår, er ikke det minst påtrengende mulig. ”
Omfattende forskning viser at ansiktsgjenkjenning ikke er like nøyaktig for alle.
"Ansiktsgjenkjenning er notorisk unøyaktig for kvinner og mennesker av farger," sier Gilman. “Gitt dette, hvorfor skulle vi ta i bruk slike teknologier for å bekjempe coronavirus? Dessuten trenger vi mye mer informasjon om hvordan disse teknologiene er effektive i kampen mot en global pandemi. "
Kina har ansiktsgjenkjenningssystemer som oppdager forhøyet temperatur, mens Sør-Korea har sporet mennesker som bruker mobiltelefondata og plassering av finansielle transaksjoner.
Palantir har i mellomtiden omfattende kontrakter med rettshåndhevelse og har liten eller ingen åpenhet om dens praksis med mindre du er kunde. I en sjelden bruksanvisning for rettshåndhevelse oppnådd av Vice i 2019 sies programmet Palantir Gotham å være i bruk på rettshåndhevelsesentre som målretter datakilder, inkludert barnehager, e-postleverandører og trafikkulykker for data som bygger profiler til mistenkte, og deres venner, familie og forretningsforbindelser.
Selskapet ble medstiftet av Peter Thiel, den liberatariske milliardæren som også var en tidlig investor i Facebook. Talsmenn for personvern har grunn til å frykte motivene hans. I løpet av et 2009 essay for Cato Institute, en libertarisk tenketank i Washington, DC, skrev Thiel at "viktigst av alt, jeg tror ikke lenger at frihet og demokrati er forenelige."
Offentlig privat
Hvis personverneksperter virker skeptiske til selskaper som Clearview AI og Palantir, er dette kanskje en grunn til det.
"Å opprette offentlig-private partnerskap for å dele sensitive data i krisetider, for eksempel et terrorangrep eller en pandemi, gir kortsiktige fordeler, men har en alarmerende innvirkning på personvernet lenge etter at nødsituasjonen har passert," sier Raullen Chai, administrerende direktør i IoTeX, et Silicon Valley-selskap som utvikler personvernbeskyttende smarte enheter ved hjelp av blockchain.
"Tvetydig politikk rundt hva som skjer med dataene som er samlet inn etter den tiltenkte bruken, samt subjektive utløsere av 'bare beredskapsmetoder', sliter kontroll og åpenhet for mennesker."
Eksperter erkjenner det grunnleggende behovet for å adressere umiddelbare konsekvenser av coronavirus-pandemien, men det er skepsis Clearview AI eller Palantir vil tilby den nødvendige transparens og minst inngripende tilnærming.
Garvie bekymrer seg for kriseprofitering. "Det er bruk av frykt for markedsovervåkingsverktøy," sier Garvie. "Jeg advarer bare alle som vurderer å inngå disse verktøyene for å sikre at avgjørelsen ikke blir drevet av leverandøren, av selskapet, og bruker krisen til å presse gjennom unødvendige overvåkingsmekanismer."
