Mikkel Vinther i RÆSON SØNDAG: Elon Musks kaotiske overtagelse af Twitter viser, at den digitale verden har brug for en nødvendig retsreform

19.11.2022

Musks overtagelse af Twitter viser, hvor stor magt de sociale platforme har over retstilstanden i den digitale verdens offentlige rum – og hvor skrøbelig den retstilstand er. Over natten er der blevet justeret på, hvilken adfærd der accepteres på Twitter, og det må verdenssamfundet så indrette sig efter. Derfor må vi formulere en vision for et nationalt digitalt retsvæsen.

I serien RÆSON SØNDAG skriver et hold af iagttagere om de ting, der burde være på toppen af dagsordenen.




Af Mikkel Vinther i RÆSON SØNDAG

Det er påfaldende, at den digitale verdens konflikter ikke fylder mere i vores nationale retssystem. Vi bruger mere og mere af vores tid, opmærksomhed og energi i digitale fællesskaber, og derfor burde den logiske følge være, at konflikterne følger med. Men det gør de tilsyneladende ikke.

Antallet af strafferetlige anmeldelser er næsten halveret siden 1995, og antallet af civile retssager har været stødt faldende over de sidste 10 år. Samtidig er antallet af sager om kriminalitet begået på internettet stabilt i perioden 2018-2021. Der er ikke lavet en omfattende undersøgelse af, hvorfor antallet af retssager og anmeldelser er faldet så drastisk, og svaret er formentlig mangefacetteret. Men jeg forestiller mig, at en del af de kriminelle forhold og konflikter mellem borgere nu foregår i den digitale verden, og at retssystemet derfor aldrig hører herom.

Den digitale verden er en ny arena for kriminalitet og konflikt. Så hvorfor fylder de ikke mere i vores retssystem?

1. De private virksomheder udøver retssystemets opgaver

Meta, virksomheden bag Facebook, Instagram og Messenger, har over en årrække bygget sit eget retssystem. Indholdsmoderationen sker i første led ved algoritmisk vurdering af, om indholdet overtræder brugerbetingelserne. Finder algoritmen eksempelvis indholdet for pornografisk, slettes det automatisk, og påklages denne vurdering af brugeren, ryger det til menneskelig moderatorvurdering. Særligt principielle sager kan tages op af Metas eget Tilsynsråd, der består af en række håndplukkede journalister, forskere og politikere. Meta har således opbygget en slags første, anden og tredje instans i deres eget retssystem, som kan sammenlignes med de danske domstoles opbygning.

Metas algoritmer spotter løbende hadtale, trusler og kriminalitet i hver en krog af deres platforme, og fungerer her som en automatiseret politipatrulje. De er effektive og fungerer som Metas ’udøvende magt’. Eksempelvis tillader Facebook ikke hadefuld retorik på deres platform, som de definerer som ”direkte angreb på folk […] ud fra det, vi kalder for beskyttede karakteristika: race, etnicitet, national oprindelse, religiøst tilhørsforhold, kaste, seksuel orientering, køn, kønsidentitet og alvorlig sygdom.” Facebooks definition minder meget om den danske straffelovsparagraf om hadefulde ytringer mod bestemte grupper, jf. straffeloven § 266 b. Facebook ”skred ind overfor” 96,4 mio. stykker indhold, der indeholdt hadefuld retorik, i 2021^[1], hvoraf Facebook selv har fundet 96,7 pct. af opslagene. Resten er anmeldt af brugerne. Tallet angiver Facebooks globale indsats, og uddyber ikke tallene for Danmark.

 

Twitter er netop blevet overtaget af Elon Musk, der har fyret halvdelen af medarbejderne – herunder hele menneskerettighedsteamet. Det har fået FN’s højkommissær for menneskerettigheder til at indskærpe overfor Musk
_______

 

I et andet hjørne af den digitale verden findes Twitter. De har et mindre omfangsrigt ’retssystem’ end Meta, men udøver den samme moderation og kriminalitetsbekæmpelse. Twitter er netop blevet overtaget af Elon Musk, der har fyret halvdelen af medarbejderne – herunder hele menneskerettighedsteamet. Det har fået FN’s højkommissær for menneskerettigheder, Volker Türk, til at skrive et åbent brev til Musk, hvor han udtrykker sin ”concern and apprehension about our digital public square and Twitter’s role in it”. Her indskærper han, at Twitter skal huske sit ansvar for at opretholde en platform, der respekterer grundlæggende rettigheder. Musks overtagelse af Twitter viser, hvor stor magt de sociale platforme har over retstilstanden i den digitale verdens offentlige rum – og hvor skrøbelig den retstilstand er. Over natten er der blevet justeret på, hvilken adfærd der accepteres, og hvilken, der ikke gør, hvorfor Kanye West og Donald Trump er blevet inviteret tilbage på platformen. Pludselig er retstilstanden en anden, og det må verdenssamfundet så indrette sig efter.

Vi må erkende, at vi i Danmark således har udliciteret en del af retsvæsnet til private, globale virksomheder. Og det giver en række problemer. Musks fyring af menneskerettighedsteamet hos Twitter varsler en retning, hvor Twitter ikke længere gider betale regningen for at sikre verdens digitale retfærdighed. Det forstår jeg egentlig godt. At drive et retssystem er omkostningsfuldt. Og hvor længe giver det økonomisk mening for Meta at være hele verdens digitale retssystem? Ved at overlade opgaven til virksomhederne har vi accepteret den præmis, at de til hver en tid kan ændre på deres betingelser eller helt droppe opgaven med at sikre kriminalitetsbekæmpelse. Et andet problem er, at platformene fjerner danske opslag, der ikke nødvendigvis bliver retsforfulgt i Danmark. Hvis trusler, hadtale og kriminalitet bliver fjernet som ulovligt indhold, så præsenteres domstolene ikke for konflikten og så bliver gerningspersonerne aldrig retsforfulgt og sanktioneret.

2. Borgernes konfliktforståelse i den digitale verden er utrænet

Den anden årsag til at den digitale verdens konflikter ikke fylder i vores nationale retssystem er, at konfliktforståelse er en kompetence, der skal trænes. Lige nu er min tese, at der forekommer mange forskellige typer digitale konflikter, der bare ikke forstås som en retlig konflikt, der bør løses i retssystemet.

For at forstå hvorfor, må vi tage udgangspunkt i, at konflikter ud fra en skandinavisk, kriminologisk forståelse er en social konstruktion.[2] Det vil sige, at handlinger bliver tillagt forskellig værdi afhængigt af, hvilken social ramme de bliver betragtet ud fra. En konflikt bliver altså først til en konflikt, når en borger, der udsættes for en krænkelse, opfatter det som sådan. Herefter skal borgeren kunne bebrejde en anden for skylden for krænkelsen, og der skal stilles et krav om afhjælpning eller reaktion.

Vi skal lære at identificere en digital konflikt, før vi kan anmelde det. Et kriminalitetsområde, hvor den træning allerede sker, er på området for digitale sexkrænkelser, hvor de sidste års solide fokus har gjort at mange kan identificere et uønsket dickpic eller hacking af privat, intimt materiale som en retlig konflikt. Her ved mange, at man bør rette kontakt til politiet, som så kan hjælpe dig. Eksemplet viser, at vi sagtens kan træne konfliktidentifikationen, hvis civilsamfund, uddannelsessystem og retsvæsen arbejder sammen.

Vi er kun lige begyndt at forstå, hvordan uretfærdighed, diskrimination og kriminalitet ser ud i den digitale verden. I foråret forsøgte vi i Kritik Digital at sætte fokus på tech-giganternes brug af indholdsmoderationsværktøjet shadowbanning. Når en platform som Instagram opdager indhold eller en konto, der overskrider eller nærmer sig at overskride platformens indholdsregler, så har de to muligheder: Enten kan de slette indholdet, eller også kan de skrue ned for indholdets rækkevidde. Sidstnævnte handling kalder aktivister for shadowbanning.

For at sætte fokus herpå skrev vi en kronik, hvor vi havde samlet en buket af NGO’er, virksomheder og politikere, der alle havde oplevet at få begrænset deres rækkevidde på deres opslag uden forklaring på hvorfor. Det interessante ved en sådan sag er, at det er næsten umuligt at vide med sikkerhed, om du bliver udsat for shadowbanning. Du får det ikke at vide af platformene. Og så er det besværligt at spotte den digitale konflikt og føre en oplevelse af uretfærdighed til en klagemyndighed. Således er det private politisk i den digitale verden. Vi ved kun, hvilke urimeligheder der sker, hvis folk der oplever dem, råber højt herom. Derfor spiller civilsamfund, dagblade og akademia en central rolle i at forstå den digitale verdens konfliktlandskab.

 

Vi skal lære at identificere en digital konflikt, før vi kan anmelde det
_______

 

Det manglende digitale retssystem skaber ”hjemløs” digital uretfærdighed

Som højskolelærer og leder af borgerretsbevægelsen Kritik Digital har jeg mødt en række mennesker, der har oplevet ”hjemløs” digital uretfærdighed. Jeg kalder dem hjemløse her, fordi det er uklart, hvor konflikterne skal rettes hen, og hvem der eventuelt ville kunne afhjælpe dem.

Shadowbanning er et eksempel herpå. En af de forurettede, jeg har mødt, er sexlegetøjbutikken Peech, der af flere omgange har fået fjernet indhold, har oplevet at indhold slet ikke fik nogen rækkevidde, og at deres profil i perioder er blevet gjort utilgængelig ved søgning. Samtidig følte de sig helt magtesløse overfor Meta, der hverken fortalte hvorfor opslagene overskred retningslinjerne, eller hvor længe sanktionen skulle stå på. Peech forsøger at drive en ganske lovlig forretning i Danmark, og mister omsætning for hver dag, deres indsats ikke når den tiltænkte rækkevidde. Hvem går Peech til? Hvem afhjælper den her konflikt?

På samme måde har vi mødt personer, der har fået deres Facebook-profil eller -side hacket. Facebook og Instagram har ingen kundeservice, så her er ingen hjælp at hente – medmindre man selvfølgelig er en stor kanon i offentligheden, hvor Facebooks danske medarbejdere gerne hjælper. Hvem går helt almindelige borgere til her? Skal man forsøge sig med Digitaliseringsstyrelsen eller Dataetisk Råd? Jeg tror ikke, der er megen hjælp at hente her.

Nu spørger du måske: Er de ovenstående eksempler overhovedet ulovlige eller nærmere en konflikt mellem to private parter? Ærligt talt, så ved jeg det faktisk ikke. Sagerne er jo netop aldrig blevet prøvet ved domstolene, og det er problematisk. Når private virksomheder udgør vores retssystem, så fremgår deres afgørelser og konkrete vurderinger heller ikke for offentligheden til fremtidig brug. Hvor går grænsen mellem nøgenhed og pornografi, som er den linje, Peech skal ramme, på Instagram? Hvis det var en dansk domstol, der havde truffet afgørelsen, ville resultatet være offentligt tilgængeligt, og således ville den digitale verdens retsorden stå tydeligere frem afgørelse for afgørelse.

Vision for den digitale verdens retsvæsen

Mange oplever den digitale verden som et parallelt retssystem, hvor du som borger enten ikke kan få hjælp eller bedre kan få hjælp af Meta end af staten. Og den tilstand risikerer at true tilliden og opbakningen til vores retssamfund. Mere og mere af vores liv rykker online. Vores samfund, vores adfærd, vores konflikter. Derfor må retsvæsnet følge med, hvis de ikke vil udhule deres position og væsentlighed over tid og blive irrelevante for den borger, der har brug for hjælp i den digitale verdens kriminalitet og konflikter. Så hvad gør vi?

For det første må vi træne os op til at kunne identificere en digital konflikt og herefter indsamle alle de private oplevelser af uretfærdighed i den digitale verden. Enkeltpersoner må få øje på egne uretfærdigheder, og det kræver en stærk uddannelsesindsats. Dit feed er ultrapersonliggjort, og det giver platformene magt til subtil undertrykkelse, hvilket vi som borgere må være opmærksomme på. Her har vi brug for uddannelsesinstitutionerne, civilsamfundet og akademia.

For det andet må vi skabe et digitalt retssystem. Vi må formulere en vision for vores fælles digitale retsvæsen, der kan sikre lige behandling for samme kriminalitet i den digitale verden. Et digitalt retssystem vil indeholde både en digital særdomstol, en reel digital politikreds og en digital retshjælp.

1. En digital særdomstol skal tage stilling til spørgsmål om indholdsmoderation og digital kriminalitet, som en bruger oplever på internettets platforme. Her skal der være tale om et originalt offentlig-privat samarbejde med platformene, hvor staten tager ansvar for den digitale verdens retssystem og betale regningen herfor. Oplever en borger i Danmark, at et opslag tages ned eller begrænses i rækkevidde, så kan platformens afgørelse appelleres til straksdomstolen, der hurtigt kan vurdere om debatindlægget eller annoncen bør komme tilbage på platformen igen.

2. En digital politikreds kan patruljere, vejlede og modtage anmeldelser bredt i den digitale verden. Politiet har med oprettelsen af Onlinepatruljen i april 2022 iværksat et projekt med potentiale til at blive en banebrydende ny politiservice. Men indsatsen er på prøve og drives kun af ti medarbejdere, der skal dække hele Danmark på både en håndfuld sociale medier og en række gaming-sider, så ressourcerne er spredt tyndt ud. Desuden modtager patruljen heller ikke anmeldelser, der stadig går til den forurettedes hjempoliti, hvilket er uhensigtsmæssigt i en digital verden, der er ligeglad med kommunegrænser.

3. En digital retshjælp kan understøtte borgernes træning i digital konfliktforståelse og rådgive borgere, der oplever hjemløs digital uretfærdighed. Desuden kan de spotte kriminelle tendenser, og gøre civilsamfund, politi og retsvæsen opmærksomme på nye kriminalitetstyper og lignende.

Disse nye digitale institutioner skal samarbejde med de traditionelle institutioner, men samtidig sikre sig særlig sagkundskab og forståelse af den digitale verdens algoritmer, datafodspor og mørke afkroge. Institutionerne skal bygges og bo i Danmark. Udgifterne skal afholdes af staten, og ja, det koster penge. Det gør retfærdighed. Det kræver også et hidtil uset offentligt-privat samarbejde mellem den danske stat og de sociale platformene. Hvis vi som samfund tager ejerskab over den digitale verdens uretfærdighed, overlader vi den ikke længere til de private virksomheder, hvorfor vi ikke længere vil være lige så påvirkelige af at en platform ændrer på sin algoritme, på ejerforholdet eller lignende. Et digitalt retsvæsen skal desuden udvikles langtidsholdbart, så det næste TikTok ikke skal være regelfrit land i det første år.

Vejen til min reformvision er brolagt med komplekse, globale problemstillinger om eksempelvis grænsen for ”det danske internet”, om det danske retsvæsen bør blande sig i forholdet mellem borger og platform, eller om det overhovedet kan lade sig gøre i samspil med vores internationale forpligtelser. Men Musks køb af Twitter understreger skrøbeligheden af den digitale verdens retstilstand. Den skrøbelighed vil altid eksistere, så længe vi overlader retsopgaven til private virksomheder. Det er på tide, vi tager ejerskab over den digitale verdens konflikter og kriminalitet og betaler regningen for retfærdighed. ■

 

Mere og mere af vores liv rykker online. Vores samfund, vores adfærd, vores konflikter. Derfor må retsvæsnet følge med, hvis de ikke vil udhule deres position og væsentlighed over tid og blive irrelevante for den borger, der har brug for hjælp i den digitale verdens kriminalitet og konflikter
_______

 

[1] Meta Transparency Center: Hadefuld retorik

[2] Olesen, A. (2022). Kriminalitet og straf. I O. Hammerslev, & M. R. Madsen (red.), Retssociologi: Klassiske og moderne perspektiver (2. udg., s. 837). Hans Reitzels Forlag.

Mikkel Vinther (f. 1993) er leder af Kritik Digital, en borgerrettighedsbevægelse i den digitale verden. Han læser jura på Københavns Universitet, og har tidligere været højskolelærer på Krogerup Højskole og tilknyttet forsker på Center for Information og Boblestudier på Københavns Universitet.

Apropos denne artikel:

På vej i april: Det nye trykte nummer. Tegn abonnement idag og få bladet med posten inden udgivelsen: Fortsat blot 250 kr./året, 200 for studerende+pensionister

Malthe Dahl: Kan Le Pens parti omsætte vreden til vælgere – eller har Trump givet højrestøtterne kolde fødder?

Geopol med Mikkel Vedby og Lars Struwe: Anti-trumpisme er vestlige politikeres nye trumfkort

Per Øhrgaard: Når dannelsen går tabt, bliver demokrati til populisme

Tidligere arrangementer i 2025

Svend Roed Nielsen: Vi er ikke forsvarsløse mod Trumps handelskrig. Tværtimod – EU har et stærkt kort på hånden