Fryktens øyne

Et av de heftigste virkemidlene kinesiske myndigheter rår over i kampen mot korona-viruset, er kameraer. Hundretusenvis av kameraer. De fôrer datamaskiner med bilder som analyseres med kunstig intelligens. Datamaskinene finner ut om folk har feber.

Kina er fremst på kloden innenfor «digital identitet». Mange steder kan innbyggerne ta penger ut av banken, betale på restauranter og sjekke inn på flyplasser bare ved å vise fjeset. Med hver nye app kreves et nytt bilde som havner i databasene, som slik bygges opp dag for dag. Ved hjelp av disse kan bilder fra vi­deo­ka­me­ra­ene som sitter på lyktestolper, bygninger eller taket på busser brukes til å identifisere hvem som går hvor og hvilke personer de møter.

Slik kan smittevernmyndighetene spore opp folk som har vært i nærheten av smittede, på et tog for eksempel. Folk som har vært i områder med virus, blir sporet opp på samme måte. Og kinesere som har gitt blaffen i portforbud og vært ute en liten tur, blir senere hentet hjemme og arrestert.

Islamister og fascister

Men det er ikke smittebegrensning som er påskuddet for etablering av verdens kanskje mest sofistikerte og omfattende overvåkningssystem. Det er frykt for langt større bråkmakere enn virus.

London er den byen i verden − etter Beijing − som har flest overvåkningskameraer, ifølge Financial Times. Truslene kommer fra islamister og fascister, IRA og geriljagrupper knyttet til krigene i Irak og Afghanistan, samt hooligans, folk som kommer på fotballkamper for å lage bråk. Der har det lenge vært brukt systemer som kan identifisere 500 000 ansikter i sekundet. Ligger du i basen, er sjansen stor for at du blir stoppet på gaten.

I januar ble det klart at politiet installerer ansiktsgjenkjennelse i forlengelsen av Londons videokameraer.

Forklaringen er at det er nødvendig for å stoppe kriminelle og kjente pedofile. Engelskmenn har vært vant til overvåkning lenge. De aksepterer overvåkningen av 420 000 samordnede kameraer med et skuldertrekk. Turister likeså.

Også Frankrike og Tyskland kommer luntende etter. Der overvåkes allerede jernbanestasjoner og trafikknutepunkter på jakt etter uromomenter og terrorister.

Det store spørsmålet er om du aldri har vært tryggere − eller om du aldri har levd farligere.

Dobbel bruk

Mye kommer an på hvordan ansiktet ditt er skapt fra naturens side. Og hvordan datamaskiner leser ansiktstrekkene dine og andre kjennetegn ved kroppen din. Og om du ligner på én eller flere som noen tror har skumle planer og onde hensikter.

− Ved hjelp av kunstig intelligens lages en matematisk reproduksjon av ditt fjes. Det handler om avstanden mellom øynene, vinkelen mellom nese og munn, pluss høyde fra panne til hake, sier Raphael de Cormis, utviklingssjef i Thales, et av verdens største selskaper innen teknologi til fly, forsvar og romfart.

«Jeg elsker biometri», blinker det på veggene i demo-hallen bak Cormis. Kunstig intelligens (AI) er en fellesnevner og nøkkelen til forretningsområdet «Digital identitet og sikkerhet». Ansiktsgjenkjennelse er det som revolusjonerer bransjen akkurat nå.

− Teknologien brukes på to måter. Den ene er å bekrefte at du er den du utgir deg for å være. Den andre er å identifisere hvert individ i større menneskegrupper ved å matche dem mot en database. Faren er ikke teknologien, men hvordan den blir brukt, sier Cormis.

Han forteller at teknologien for ansiktsgjenkjennelse har eksistert i lang tid.

– Men det er først de siste fem årene bruken har økt, hovedsakelig ved å bruke fjeset til å låse opp mobilen.

Utfordringen for overvåkningssystemene er at de må prosessere innkomne bilder og koble mot databasene i et høyt tempo. Det gir rom for feil som kan bli nokså ubehagelige og kanskje skjebnesvangre.

Store penger i frykt

Frankrike er blant landene i Europa som har vært hardest rammet av terror i moderne tid. I januar 2015 ble satiremagasinet Charlie Hebdo og et supermarked i Paris angrepet av islamske terrorister. 17 mennesker døde.

Ti måneder senere ble 130 mennesker skutt og drept i et koordinert terrorangrep i Paris. 14. juli 2016 – på selveste nasjonaldagen – klatret en ekstremist opp i en lastebil og dundret inn i en feststemt folkemengde i Nice. 87 liv gikk tapt, 458 mennesker ble skadet.

I dag er Nice – med 350 000 fastboende og 12 millioner ankomster på flyplassen – den mest overvåkede byen i landet. 2666 videokameraer var montert i gatene ved siste opptelling, og nå prøver man ut frivillig ansiktsgjenkjenning både på byens karneval og en videregående skole.

− Markedet er i kraftig vekst, smiler Cormis.

Han viser frem en uavhengig rapport som viser at markedet for ansiktsgjenkjennelse ventes å bli fordoblet over fem år – fra 32 milliarder kroner i 2019 til 70 milliarder kroner i 2024. Ikke rart det er høy stemning i Thales-leieren.

Leser følelser

Det er mye som holdes hemmelig når Thales åpner dørene for å gi et lite innblikk i deres teknologi. Men en sikkerhetssentral i Mexico City viser de gjerne frem. Der trengs det sterk lut for å bekjempe vold og kriminalitet, det vet alle. Sikkerhetssentralen er et opplegg Thales prøver å selge, et alternativ til nødhjelpsnumre som 112 og 911.

På skjermen kan man se et fotballstadion, med flagg der hvor det er størst sjanse for at det kan skje noe. Dermed kan politiet patruljere akkurat der. I tillegg til ansiktsgjenkjennelse i overvåkningssystemet, kan publikum selv sende inn bilder og varsle politi og ambulanser. Systemet kobles også opp mot sosiale medier som Facebook. Alt som blir postet, blir fanget opp og satt i system.

− Man kan se hva slags stemning som er på et event, sier selgeren.

Med kunstig intelligens kan man lese følelser i et ansikt. Muskler i pannen og rundt øyne og munn vil jobbe på forskjellige måter avhengig av din sinnsstemning. Sint, trist, redd eller glad. Datamaskiner lærer å forstå hvordan du har det. Men er denne teknologien koblet inn i Thales ansiktsgjenkjennelse?

− Det kan bli det, sier utviklingssjef Cormis.

– Men vi konsentrerer oss om å identifisere folk.

Kardiologisk signatur

Sensorer som registrerer hjerterytme, derimot, er del av deres teknologi. En selger i demo-hallen peker ivrig på en skjerm hvor man ser hvordan hjertet dunker i brystet på en dame som blir filmet. Alle har sin unike hjerterytme, på linje med iris i øyet eller fingeravtrykket.

Nøyaktig hvordan det gjøres vil ikke Cormis ut med.

− Det handler om å beskytte vår patent og teknologi, sier han.

I fjor ble det kjent at Pentagon har utviklet en laser som kan plukke opp din «kardiologiske signatur» på 200 meters avstand. Teknikken kalles «Jetson», og måler vibrasjoner i kroppen som skyldes et bankende hjerte. Det betyr at hvis pulsen din stiger når du går forbi en politimann, kan systemet anta at han gjør deg nervøs, at du har noe å skjule. I enkelte samfunn er det nok til at du må inn til avhør.

− Friheten truet

Ansiktsgjenkjennelse kan være et nyttig verktøy for å styrke sikkerheten i sårbare samfunn. Samtidig gir det uante muligheter for selskaper og myndigheter til å spore bevegelsene til vanlige mennesker.

Kritikerne mener at det er en felle: Folk mister sin frihet, de blir redde for å gjøre noe galt. I samme slengen undergraver man demokratiet. For den som kontrollerer kameraet kontrollerer opposisjonen.

Christian Estrosi, borgermesteren i Nice, omtaler kritikerne som «støvete», de tilhører et «annet århundre». Han tilhører høyresiden av fransk politikk, og her er det ideologiske forskjeller. En undersøkelse fra 2011 viser at 100 prosent av franske byer med blått styre har videoovervåkning, mens bare 60 prosent av byene med rødt styre har det samme.

Akkurat nå innføres ansiktsgjenkjenning i systemet Alicem, som tilsvarer det norske Altinn. Alle som skal legge inn opplysninger om skatt eller trygd må samtidig legge inn et bilde av seg selv. Er det gjennom Alicem myndighetene kan identifisere hvem som er hvem?

Data-bom

Avisa The Guardian avslørte allerede i 2009 at det britiske politiet hadde arkivert bilder av fredelige demonstranter og politiske debattanter med detaljerte opplysninger om deres privatliv. I etterkant var politiet nødt til å fjerne 40 prosent av bildene, men det kommer fremdeles rapporter om at både overvåkning og registrering fortsetter med full kraft.

Forskere ved universitetet i Essex fant ut at London-politiets japanskproduserte system for ansiktsgjenkjenning tok feil i 80 prosent av tilfellene, og at uskyldige ble stoppet og kontrollert uten at det var noen grunn til det.

I Kina er overvåkningen og bruken av personbilder så omfattende at myndighetenes argumenter om sikkerhet stadig ofte møtes av påstander om misbruk av makt.

Ifølge The Economist finnes det i dag 170 millioner opp­taks­en­he­ter i Kina, men tallet skal øke til 500 millioner. De kommuniserer med databaser i «real time». Alarmen går når det er noe å se opp for. Da varsler folkene på sentralen sikkerhetsstyrkene, som så kan gripe inn. I tillegg er deler av politiet utstyrt med briller som forteller dem om et menneske er ettersøkt eller en «opprører» − som alle i befolkningsgruppen uigurer. En million av den muslimske minoriteten – som utgjør åtte millioner – skal være fengslet på ubestemt tid.

Hemmelighold

− Er det noen land Thales ikke selger teknologien til?

Det vil ikke utviklingssjef Cormis svare på. Han viser bare til normer og regler for personvern i EU, som regulerer hvordan man kan oppbevare og behandle personlige opplysninger. Passfoto og andre bilder er del av dette, siden det er grunnlaget for ansiktsgjenkjenning.

− Men det finnes land utenfor EU hvor man ikke har disse reg­lene. Selger dere teknologien der?

Igjen får vi ikke noe klart svar, bare en henvisning til Thales’ signatur i UN Global Compact, som er FNs initiativ for bærekraftig næringsliv. Bedrifter fra 161 land, der iblant Kina, har skrevet under.

Med dette vil Thales fortelle at de står for ansvarlig bruk av teknologi og følger nøye med på hvordan den blir brukt. Vi Menn får dog et konkret svar når vi spør hvordan systemet kan kjenne igjen et ansikt:

Cormis vil ikke kommenterer kunders bruk av teknologi, men sier:

– Det er ikke lov å bygge og krysse databaser ved å koble biometriske data fra en app.

− Hva med Instagram og Facebook, kan man bruke deres data?

− Nei, svarer han kontant.

Men mulighetene er der.

Artikkelen ble opprinnelig publisert i Vi Menn nr 13 2020