Julius Rodh Bilgrav: Hvor overvågning engang var en fjern orwelliansk dystopi, er ansigtsgenkendelse nu – også i vestlige demokratier – en bestanddel af vores offentlige rum

07.04.2021

Ansigtsgenkendelse har fundet anvendelse i mobiltelefoner, overvågningskameraer og tilsyneladende harmløse mobil-apps. Teknologien beskrives – ligesom meget andet overvågningsteknologi – som behjælpelig og tryghedsskabende af dens fortalere, mens den fremstilles som en orwelliansk dystopi af dens kritikere. En række eksempler viser, at der er behov for at diskutere, hvordan vi ønsker, at teknologien fremover skal bruges.

Kommentar f Julius Rodh Bilgrav

For nylig har magtfulde aktører som IBM, Microsoft og Amazon taget afstand fra ansigtsgenkendelsesteknologi for så vidt, at de hverken vil forske i, udvikle eller udbyde softwaren. Det sker bl.a., fordi de vurderer, at den er for unøjagtig.

Nærmere bestemt har den en tendens til at fejlbedømme ansigter af ikke-hvide. En undersøgelse fra M.I.T. Media Lab viser således, at teknologiens præcision hænger tæt sammen med personens etnicitet og køn. Når personen på billedet er en hvid mand, så er softwaren korrekt i 99 pct. af tilfældene, men jo mørkere personen er, desto flere fejl opstår der. For kvinder med mørk hud er softwaren næsten 35 pct. mere usikker end blandt hvide mænd.

Disse usikkerhedsmarginer har vist sig at være problematiske, når teknologien har skullet bruges som grundlag for arrestationer og som bevismateriale i retssager. Der har allerede været tilfælde af uretmæssige anholdelser pga. softwaren. Fx blev en afroamerikansk mand i december tilbageholdt i mere end 10 dage for en forbrydelse, han ikke havde begået, og det skyldtes et forkert ansigtsgenkendelsesmatch i politiets register.

En trussel mod menneskerettighederne
Det er ikke kun ansigtsgenkendelsesteknologiens svagheder, som giver anledning til kritik. Der stilles også spørgsmålstegn ved teknologien, fordi den anses for at kunne udgøre en trussel imod menneskerettighederne. Den kinesiske techgigant Huawei er fx i mediernes søgelys, fordi den har afprøvet ansigtsgenkendelsesteknologi til at overvåge medlemmer af det forfulgte kinesiske mindretal Uighurerne. I det hele taget er teknologien bredt anvendt i Kina, bl.a. via brug af overvågningskameraer, der kobles op på live ansigtsgenkendelse. Som et id-kort kan borgerne i flere kinesiske byer betale for dagligvarer eller metroen ved at vise deres ansigter.

 

Terrorangrebet den 11. september 2001 er en særlig vigtig begivenhed for den overvågning, der i dag foregår i de vestlige demokratier
_______

 

Systemet er kombineret med Kinas udskældte sociale pointsystem, hvor borgerne bedømmes ud fra deres adfærd. Kører man over for rødt, så mister man point. Donorer man blod, så optjener man point. Systemet har vidtrækkende konsekvenser, fx muligheden for at optage lån eller få adgang til universiteter.

Og det hele muliggøres vha. Kinas masseovervågningssystem Skynet, der tragikomisk deler navn med det onde computernetværk fra filmen Terminator. Systemet er estimeret til at råde over 626 millioner overvågningskameraer og kan finde frem til alt fra, hvem man mødes med, og hvilke steder man besøger, til hvad man bruger sine penge på. Vi kender allerede tendensen fra tracking af vores onlineadfærd, men med ansigtsgenkendelse foregår denne tracking også offline.

Der er forskel på demokratier og autoritære regimer
Selvom overvågningsteknologien langt fra kun er et styringsredskab for autoritære regimer, bør det overvejes, om det giver mening at sidestille den type overvågning, der eksisterer i demokratiske stater som Danmark med den, der foregår i autokratier som Kina og Rusland. Årsagen er, at man i Kina og Rusland ikke tager samme hensyn til retsprincipper og frihedsrettigheder som i demokratierne.

Terrorangrebet den 11. september 2001 er en særlig vigtig begivenhed for den overvågning, der i dag foregår i de vestlige demokratier. Som følge af terrorangrebet blev overvågningsapparatet betydeligt udvidet i både USA og resten af vesten, og befolkningens opfattelse af overvågning rykkede sig ligeledes. Statslig overvågning gik fra at blive associeret med DDR’s Stasi og en fjern orwelliansk dystopi til at blive opfattet som et nødvendigt middel i kampen mod terrortruslen. Det var i samme periode, at ansigtsgenkendelse blev udbredt ved grænsekontrol.

 

Imidlertid har det vist sig, at deres teknologi også er et værktøj for den ekstreme alt-right bevægelse i USA, der har været med til at finansiere firmaet og nu bruger dets teknologi til at spore og registrere politiske modstandere
_______

 

Teknologien er siden i stigende grad blevet en del af overvågningen af det offentlige rum, fx på amerikanske skoler i Denver, hvor ansigtsgenkendelse nu bruges til at foregribe skoleskyderi. Eller i hænderne på den kontroversielle amerikanske virksomhed Clearview AI, der har indsamlet over tre milliarder billeder af privatpersoner på blandt andet Facebook, og brugt dem til at udvikle et værktøj, som myndighederne kan bruge til at opspore kriminelle.

Imidlertid har det vist sig, at deres teknologi også er et værktøj for den ekstreme alt-right bevægelse i USA, der har været med til at finansiere firmaet og nu bruger dets teknologi til at spore og registrere politiske modstandere. Sandsynligheden for, at du lige nu også er i den database, er relativt høj.

Mulighederne for at misbruge Clearview AI’s teknologi og usikkerheden om dens træfsikkerhed har medvirket, at den i stigende grad har mødt modstand i demokratiske lande. Udfordringen er, at der ikke eksisterer lovgivning om, hvem der må bruge teknologien. Der er således ingen naturlig grænse mellem politiets adgang og almindelige virksomheders, og det har medført, at lovgiverne i flere store amerikanske byer såsom San Francisco og Oakland har indført forbud mod brug af ansigtsgenkendelsesteknologien, fordi de vurderer, at den er for usikker og truer borgernes frihedsrettigheder.

Et splittet Danmark
I Danmark er justitsminister Nick Hækkerup imidlertid lun på ansigtsgenkendelses-teknologien som led i sin ’tryghed- og sikkerhedspakke’. Ideen får både støtte fra Venstre, Konservative, Dansk Folkeparti og Nye Borgerlige og fra politiet, hvor teknologien øjensynlig vækker begejstring.

I 2018 kom vicepolitiinspektør Niels Denny Sørensen med en udtalelse til Ekstra Bladet om, at politiet havde indført ansigtsgenkendelsesteknologien, men det viste sig, at teknologien ikke var godkendt af politikerne, så det blev efterfølgende afvist af tidl. justitsminister Søren Pape. Et år senere krævede politiet så øgede beføjelser til overvågning med ansigtsgenkendelse i det offentlige rum.

 

Institut for Menneskerettigheder (…) anbefaler, at regeringen venter med at indføre ansigtsgenkendelse til kriminalitetsbekæmpelse, indtil man kender de menneskeretlige konsekvenser
_______

 

Ønsker om øgede muligheder for at bruge teknologien bliver imidlertid mødt af ønsker om strammere regulering blandt andre. Sidste år stillede Alternativet et beslutningsforslag om at: „forbyde offentlige myndigheders anvendelse af ansigtsgenkendelsesteknologi i det offentlige rum‟.

I 2018 kom SF på sin side med et Udspil om Dataetik og Dataregulering, hvor de foreslog, at der oprettes et dataetisk råd, og at man sikrer regulering og demokratisk styring: „Så vi undgår det [ansigtsgenkendelse] ender som ren overvågnings- og sensorteknologi i det offentlige rum‟. Her er de på linje med Institut for Menneskerettigheder, der anbefaler, at regeringen venter med at indføre ansigtsgenkendelse til kriminalitetsbekæmpelse, indtil man kender de menneskeretlige konsekvenser for bl.a. retten til privatliv, retten til beskyttelse af personoplysninger samt forsamlingsfriheden.

Den danske befolkning synes ligesom politiske aktører og offentlige meningsdannere splittet i spørgsmålet om ansigtsteknologi. Ifølge en analyse fra KMD er vi i Danmark overordnet set positive. Men analysen viser også, at mange er bekymrede for, hvor billeder og videoer opbevares, og hvem der anvender teknologien. Der synes således at være et behov for at diskutere, hvordan vi ønsker, at den fremover skal bruges.

Overvågning og tryghed 
På den ene side kan ansigtsgenkendelsesteknologien måske skabe mere tryghed. Mordet på den 33-årige engelske Sarah Everard har for nylig sat gang i en bevægelse under hashtagget #textmewhenyougethome og en debat om den utryghed, som mange kvinder oplever ved at bevæge sig rundt i nattelivet alene. Det har fået Mette Frederiksen og Nick Hækkerup til at udtale, at de ser mere overvågning som vejen til tryghed for kvinder. „Det må man tro, at nogen lader sig påvirke af. Bevidstheden om, at hvis man foretager sig sådan noget i de her zoner, så vil man blive retsforfulgt‟, sagde justitsministeren for nylig til P1 Morgen.

 

Eva Smith: „Jeg synes, det er vigtigt at være opmærksom på, at overvågning kan hjælpe til at opklare forbrydelser, men ikke til at forhindre forbrydelser (…)‟
_______

 

Det er imidlertid også værd at overveje, om overvågning reelt set kan øge sikkerheden og dermed skabe øget tryghed. I en mailkorrespondance med dr.jur. og professor emeritus Eva Smith, svarer hun: „Jeg synes, det er vigtigt at være opmærksom på, at overvågning kan hjælpe til at opklare forbrydelser, men ikke til at forhindre forbrydelser. Der sidder jo ikke nogen bag kameraet, der kommer dig til hjælp.‟ Og uddyber: „En person, der planlægger et overfald, vil nok sikre sig, at der ikke er kameraer i nærheden – og selv hvis vi plastrer hele byen til med kameraer vil en voldtægtsmand kunne maskere sig‟.

Derudover er ansigtsgenkendelse og øget overvågning ifølge juraprofessoren generelt problematisk: „Vi kan jo se, hvordan det er gået i Hongkong, hvor fredelige demonstranter er blevet fængslet. Jeg synes, det er en ubehagelig tanke, at mennesker, der ikke foretager sig noget som helst ulovligt bliver overvåget. Du kan jo have mange grunde til ikke at forklare, hvorfor du befinder dig på et bestemt sted på et bestemt tidspunkt‟.

Hvis der er tvivl om, hvorvidt ansigtsovervågning kan skabe øget sikkerhed og tryghed, og overvågning desuden udfordrer vores retssikkerhed og frihed, bliver det følgende spørgsmål centralt: Må forhåbninger om øget tryghed og bekvemmelighed ske på bekostning af retssikkerhed og frihed?

Eva Smith var i 16 år formand for Det Kriminalpræventive Råd, og hun er kendt som en skarp vogter af retssikkerheden, så spørgsmålet taget i betragtning, får hun lov til at få det sidste ord i sagen:  Ifølge Smith kan der “ikke opstilles en formel over forholdet mellem sikkerhed og retssikkerhed. Men vurderingen bør foretages, hver gang man under påberåbelse af borgernes sikkerhed indskrænker borgernes frihed og retssikkerhed.‟ ■

 

Ifølge Smith kan der “ikke opstilles en formel over forholdet mellem sikkerhed og retssikkerhed. Men vurderingen bør foretages, hver gang man under påberåbelse af borgernes sikkerhed indskrænker borgernes frihed og retssikkerhed
_______

Apropos denne artikel:

Lars Struwe: Vance lægger vægten på sikkerhed og frygten for Kina. Om vi kan lide det eller ej – og han har ret

Hvem er vi, hvis vi ikke er venner med amerikanerne? Mikkel Vedby med Jarl Cordua i Lille Land, Hvorhen

Can Dündar: Tyrkiet er på vej mod et fuldt diktatur. Erdoğan ved nemlig, at Europa er villig til at ofre dets værdier for sikkerhed

Grace Blakeley: Der er brug for en genopbygning af den massepolitik, der tillader almindelige mennesker at øve indflydelse på vores økonomiske og politiske institutioner 

Flemming Splidsboel i RÆSONs kommende trykte nummer: Hvad vi mister, hvis Ukraine taber

Øjvind Hesselager: Sådan mistede vi Grønland