Svermer av AI-droner for å patruljere Europas grenser

Se for deg at du går turer gjennom skogen nær en grense. Plutselig hører du et mekanisk surr, som en gigantisk bie. To quadcopters har sett deg og svøpe inn for å se nærmere på. Antenner på begge dronene og på et nærliggende autonome bakkekjøretøy plukker opp radiofrekvensene som kommer fra mobiltelefonen i lommen. De sender signalene til en sentral server, som triangulerer din nøyaktige plassering og mater den tilbake til dronene. Robotene lukker seg inn.

Kameraer og andre sensorer på maskinene gjenkjenner deg som menneskelig og prøver å fastslå intensjonene dine. Er du en trussel? Krysser du ulovlig en grense? Har du en pistol? Er du involvert i terrorhandlinger eller organisert kriminalitet? Maskinene sender video-feeds til sin menneskelige operatør, en grensevakt på et kontor mil unna, som sjekker videoene og bestemmer at du ikke er en risiko. Grensevakten trykker på en knapp, og robotene kobler seg ut og fortsetter på patruljen sin.

Dette er ikke science fiction. EU finansierer et prosjekt for å utvikle droner pilotert av kunstig intelligens og designet for autonom patruljering av Europas grenser. Dronene vil operere i svermer, koordinere og bekrefte informasjon blant flåter av quadcopters, små fastvingede fly, bakkekjøretøyer, ubåter og båter. Utviklere av prosjektet, kjent som Roborder, sier at robotene vil kunne identifisere mennesker og uavhengig avgjøre om de representerer en trussel. Hvis de avgjør at du kan ha begått en forbrytelse, vil de varsle grensepolitiet.

President Donald Trump har brukt spekteret av kriminelle som krysser den sørlige grensen for å vekke den nasjonalistiske politiske følelsen og gi sin base base. I Europa, to år etter migrasjonskrisens høydepunkt som brakte mer enn en million mennesker til kontinentet, for det meste fra Midt-Østen og Afrika, er innvandring fortsatt en hot-button-sak, selv om antallet nyankomne har sunket. Politiske partier i hele EU vinner valg på anti-immigrant plattformer og vedta stadig mer restriktive grensepolitikk. Tekniske etikere og talsmenn for personvern bekymrer seg for at Roborder og prosjekter som det legger ut for mye rettshåndhevelsesarbeid til ikke-menneskelige aktører og lett kan bli våpenført mot mennesker i grenseområder.

"Utviklingen av disse systemene er et mørkt skritt inn i moralsk farlig territorium," sa Noel Sharkey, emeritus-professor i robotikk og kunstig intelligens ved Sheffield University i Storbritannia og en av grunnleggerne av International Committee for Robot Arms Control, en nonprofit som talsmenn mot militær bruk av robotikk. Sharkey lister opp eksempler på våpnede droner som for tiden er på markedet: flygende roboter utstyrt med Tasers, pepperspray, gummikuler og andre våpen. Han advarer om implikasjonene av å kombinere den teknologien med AI-basert beslutninger og bruke den i politisk ladede grenseområder. "Det er bare et spørsmål om tid før en drone vil kunne iverksette tiltak for å stoppe folk," sa Sharkey til The Intercept.

Robords utviklere kan også være i strid med vilkårene for finansiering, i henhold til dokumenter om prosjektet innhentet gjennom EUs gjennomsiktighetsregler. Initiativet finansieres for det meste av et EU-forsknings- og innovasjonsstipend på € 8 millioner euro designet for prosjekter som utelukkende er ikke-militære, men Robords utviklere erkjenner at deler av deres foreslåtte system involverer militær teknologi eller lett kan konverteres til militær bruk.

Mye av utviklingen av Roborder er klassifisert, men The Intercept innhentet interne rapporter relatert til etiske betraktninger og bekymringer rundt programmet. Denne dokumentasjonen ble feilaktig redusert og utilsiktet frigitt i sin helhet.

I en av rapportene forsøkte Robords utviklere å adressere etiske kriterier som er knyttet til deres EU-finansiering. Utviklere vurderte om arbeidet deres kunne endres eller forbedres for å skade mennesker, og hva som kunne skje hvis teknologien eller kunnskapen som ble utviklet i prosjektet "havnet i gale hender." Disse etiske problemstillingene tas opp, skrev utviklerne, når "forskning gjør bruk av av klassifisert informasjon, materiale eller teknikker; farlige eller begrensede materialer [;] og hvis spesifikke resultater av forskningen kan utgjøre en fare for deltakerne eller for samfunnet som helhet. "

Robords utviklere hevdet at disse etiske bekymringene ikke gjaldt arbeidet deres, og oppga at deres eneste mål var å utvikle og teste den nye teknologien, og at den ikke ville bli solgt eller overført utenfor EU i løpet av prosjektets livssyklus. Men i intervjuer med The Intercept, erkjente prosjektutviklere at teknologien deres kunne omplasseres og selges, også utenfor Europa, etter at den europeiske prosjektsyklusen er ferdig, noe som forventes å skje neste år.

Utover Roborder-prosjektet antyder etikkrapportene som er levert til EU-kommisjonen et større spørsmål: Når det gjelder ny teknologi med potensial til å bli brukt mot utsatte mennesker på steder med få menneskerettighetsbeskyttelse, som bestemmer hva vi skal og ikke skal utvikle ?

Roborder vant sin finansieringsstipend i 2017 og har som mål å utvikle en salgbar prototype - "en sverm av robotikk for å støtte grenseovervåking" - innen midten av 2020. Utviklerne håper å bygge og utstyre en samling luft-, sjø- og landdroner som kan kombineres og sendes ut på grensepatruljeoppdrag, og skanne etter "trusler" autonomt basert på informasjon levert av menneskelige operatører, sa Stefanos Vrochidis, Roborders prosjektleder .

Dronene vil bruke optiske, infrarøde og termiske kameraer; radar; og radiofrekvenssensorer for å bestemme trusler langs grensen. Mobiltelefonfrekvenser vil bli brukt til å trekke ut plasseringen av mennesker som er mistenkt for kriminell aktivitet, og kameraer vil identifisere mennesker, våpen, kjøretøy og andre gjenstander. "Hovedmålet er å ha så mange sensorer i feltet som mulig for å hjelpe patruljepersonell," sa Kostas Ioannidis, Robords tekniske leder.

Les hele historien her ...