12.01.2021

Danske politikere vil regulere sociale medier med inspiration fra tysk lovgivning, som det ifølge statsminister Mette Frederiksen ”er naturligt at se på, om vi kan overføre (…) til Danmark”. Men i mange tilfælde søger lande inspiration fra loven uden egentlig at forstå, hvad den indeholder, advarer lektor Heidi Tworek, som peger på risikoen for, at loven vil øge techgiganternes magt. Den tyske forsker Amélie Heldt er bekymret for, at loven kan skade ytringsfriheden.

Af Ida Elmdal Thagesen

Konspirationsteorier, terrorpropaganda, hadefulde ytringer, trusler, misinformation og børnepornografi er blot lidt af det, man kan støde på, når man logger på sin Facebook-profil eller klikker på en Youtube-video. I dag afgør de amerikanske techgiganter, hvilket indhold, der fjernes. Det efterlader danske lovgivere med et vigtigt spørgsmål: Hvordan genvindes kontrollen?

Mens EU Kommissionen med præsentationen af ”Digital Services Act” i starten af december gav et foreløbigt bud på en fælleseuropæisk strategi, har 11 danske aktører, fx Børns Vilkår og Digitalt Ansvar, samt en lang række danske politikere fra begge sider af det politiske spektrum, heriblandt statsminister Mette Frederiksen, talt for at udvikle en dansk opskrift for, hvordan vi kan få de amerikanske virksomheder til at følge dansk lovgivning, når de opererer på dansk grund.

Spørger man fx Radikale Venstres retsordfører Kristian Hegaard, er han klar på ”hvad som helst” for at minimere skaderne af ulovlige delinger af billeder. Derfor nedsatte regeringen tidligere i år en arbejdsgruppe med det formål at belyse ”alle relevante vinkler” af, hvordan sociale medier bør reguleres. I løbet af januar måned vil regeringen fremlægge deres bud.

Men hvordan fører danske lovgivere denne mission ud i livet uden på bedste vis? Uden fx at skade ytringsfriheden? Hvordan udvikles en lov, som sikrer, at pornografiske billeder fjernes, uden at det går ud over de naturlige nøgenbilleder? At terrorprogaganda skelnes fra krigszonedokumentation? Hvem skal vurdere, om man må skrive på Facebook, at mundbind ikke virker mod corona? Og hvad er bedst: at fjerne lidt for få opslag lidt for langsomt eller at fjerne lidt for mange opslag lidt for hurtigt?

 

Som SF’s retsordfører Karina Lorenzen udtrykte det, er erfaringerne fra Tyskland ”jo, at det rent faktisk virker,” hvorfor hun og partifællen Jacob Mark allerede tilbage i februar fremlagde et beslutningsforslag, som var tydeligt inspireret af NetzDG
_______

 

Disse spørgsmål er ikke blot svære at tage stilling til for de amerikanske techgiganter, som udfordres af problemstillingens globale kompleksitet, Youtubes beslutning om at skærme danske børn mod Onkel Rejes lakridspibe på Youtube var i sommer også et godt eksempel på, at holdninger varierer på tværs af kulturer.

Dertil kommer, at en nyligt offentliggjort undersøgelse fra MEGAFON viste, at der selv indenfor de danske landegrænser eksisterer et hav af gråzoner: Selvom et lille flertal (56 pct.) sætter ytringsfriheden højest ift. sociale medier, når de spørges til den generelt, viser undersøgelsen samtidig, at danskerne er enormt splittede i spørgsmål om, hvad de sociale medier bør forpligtes til at fjerne af indhold. Fx mener 47 pct. (29 pct. danske kvinder og 66 pct. danske mænd), at det helt klart skal være lovligt at poste et billede af en halvnøgen kvinde i en seksualiseret kontekst (se nedenstående figur) – mens 38 pct. enten er i tvivl eller synes det skal være ulovligt.



Danske aktører: ”Det virker jo i Tyskland”
I erkendelsen af, at spørgsmålet er ”en kompleks problemstilling, der kalder på grundige overvejelser,” søger de danske politikere inspiration fra vores tyske naboer. I kølvandet på flygtningekrisen i 2015 blev der set en stigning i lovstridige hadytringer på digitale fora i Tyskland, hvilket førte til en ny lov – den såkaldte ”Netzdurchsetzunggeset” (Network Enforcement Act/NetzDG). Siden den trådte i kraft i januar 2018, har den inspireret mere end 25 lande til at følge trop.

Det bør Danmark også gøre, mener DF, SF, RV og 11 andre aktører, som blandt andre tæller Ask Hesby Krogh, næstformand i Digitalt Ansvar, Sten Schaumburg-Müller, juraprofessor på Syddansk Universitet, og Johanne Schmidt-Nielsen, generalsekretær i Red Barnet. For som SF’s retsordfører Karina Lorenzen udtrykte det, er erfaringerne fra Tyskland ”jo, at det rent faktisk virker,” hvorfor hun og partifællen Jacob Mark allerede tilbage i februar fremlagde et beslutningsforslag, som var tydeligt inspireret af NetzDG. Til en folketingssamling besluttede de tilstedeværende ordførere dog at afvente konklusionerne fra den nedsatte arbejdsgruppe.

Det, som ifølge Karina Lorenzen ”rent faktisk virker”, er netop kampen for at genvinde digital kontrol på eget territorium, hvilket er NetzDG’s primære formål: Loven søger at holde platforme med mere end 2 millioner brugere lokaliseret i Tyskland ansvarlige for 22 forbud, som allerede før NetzDG eksisterede i den tyske strafferet. Det gælder alt fra fx ”distribution af børnepornografi”, ”fornærmelser” over til ”injurier”. I beslutningsforslaget fra SF blev det tilsvarende foreslået, at medieplatformene skal holdes ansvarlige for 10 punkter, som allerede eksisterer i den danske straffelov, herunder trusler, opfordringer til terror og afpresning.

Et kerneaspekt af NetzDG er tidsfristen, som forpligter medieplatformene til at slette ”åbenlyst ulovligt indhold” inden for 24 timer og ”lovstridigt indhold” inden for 7 dage. Da Karina Lorenzen til folketingssamlingen argumenterede for, at det er ” …hurtigheden af at stoppe de her delinger, der er afgørende” viste både DF, Kristian Hegaard (RV), Brit Bager (V) og Socialdemokratiets retsordfører Jeppe Bruus åbenhed over for indførelsen af dette: ”Det kan for min skyld også godt ende med, at vi får nogle tidsfrister,” erklærede Jeppe Bruus dengang, mens Kristian Hegaard istemte, at ja, det skal både ”gå hurtigere, og der skal tages mere ned (…)”.

Ikke blot ideen om mere effektiv eksekvering har inspireret danske aktører. Leves der ikke op til 24-timers kravet, indeholder NetzDG mulighed for at uddele bøder til platformene på op til 50 millioner euro (ca. 372 mio. danske kroner). Formår de amerikanske techgiganter fx ikke at fjerne indhold, der er i strid med den danske straffelovs paragraf §235 og §264d (love mod at sprede seksuelt materiale med børn og nøgenbilleder delt uden samtykke) bør de ifølge Peter Skaarup (DF) straffes med bøder, ”der virkelig siger spar to.”

 

Så selvom en af de positive effekter af NetzDG ifølge Tworek på den ene side er, at platformene nu er mere konsistente i forhold til, hvad de fjerner, har NetzDG på den anden side øget de private platformes magt
_______

 

Hvordan ”virker” NetzDG egentlig?
Men har Karina Lorenzen egentlig ret i, at ”den tyske lov virker”? Hvis ja, hvordan virker den? Det spørgsmål har RÆSON stillet til to forskere, som har beskæftiget sig indgående med området: Heidi Twoerk, lektor ved University of British Columbia og medforfatter til blandt andet An Analysis of Germany’s NetzDG Law (2019), samt Amélie P. Heldt fra Leibniz Institut für Medienforschung i Hambrug, som blandt andet har udgivet Reading between the lines and the numbers: an analysis of the first NetzDG reports (2019). Og det er et vigtigt spørgsmål at stille, siger Heidi Twoerk som det første, da RÆSON interviewer hende, for ”i mange tilfælde søger lande inspiration fra NetzDG uden egentlig at forstå, hvad loven indeholder.”

Manglende forståelse for i hvert fald NetzDG’s virkninger er måske naturligt nok, for ifølge Heldt såvel som Tworek er der mange ting, vi ikke kan sige med sikkerhed endnu. Dog har et par ting ændret sig, siden loven blev indført. Begge forskere peger på, at platformene har øget deres opmærksomhed på problematisk indhold. Derudover peger de på, at platformene har ansat flere moderatorer i Tyskland. Fx har Facebook ansat mere end 1.000 menneskelige moderatorer på tysk grund, hvilket efter sigende svarer til cirka en sjettedel af Facebooks indholdsmoderatere på verdensplan. Mange danske aktører bruger netop dette som argument for, at lignende tiltag bør indføres i Danmark.

Tworek mener, at disse effekter kan tilskrives bødestrukturen i loven: “Indførelsen af de store bøder viste os, hvad der egentlig får virksomheder til at ændre sig – de fandt pludselig ud af, at de godt kunne gøre ting, de før sagde, at de ikke kunne.” Heldt er dog en smule mere kritisk og påpeger: ”Selvom vi både ved, at platformene er mere opmærksomme på deres retningslinjer på området, at de ansætter flere mennesker til at regulere indholdet, at de fjerner mere indhold, og at de gør det hurtigere, så ved vi reelt ikke, om dette skyldes lovgivningen eller det generelle fokus på hadytringer, der opstod i forbindelse med flygtningekrisen”.

Tworek: NetzDG ”virker” ved at give mere magt til techvirksomhederne
Ud over at det ifølge Heldt er svært at bestemme årsagen til ændringerne, peger begge forskere på, at en bruger heller ikke kan vide, på hvilken baggrund et givent opslag fjernes: ”Vi ved ikke, om det er på grund af platformenes egne retningslinjer, eller om det er på grund af NetzDG,” påpeger Tworek. Med andre ord: Det er svært at vide, om billedet med bare bryster fra den sidste ferie på Mallorca er blevet fjernet, fordi Facebook selv har vurderet, at det er upassende, eller om det fjernes med henvisning til en paragraf i tysk lovgivning. Ifølge Heldt og Tworek er svaret dog oftest, at indhold fjernes med hjemmel i platformenes egne retningslinjer.

Så selvom en af de positive effekter af NetzDG ifølge Tworek på den ene side er, at platformene nu er mere konsistente i forhold til, hvad de fjerner, har NetzDG på den anden side øget de private platformes magt. Dette skyldes den ”privatiserede retshåndhævelse”, som det netop kaldes, når platformene håndhæver egne ”love” (retningslinjerne): “Det ser vi helt klart tegn på,” siger Tworek. ”Det er ret ironisk, at formålet med loven var at bringe jurisdiktion tilbage til Tyskland, men i virkeligheden har platformene nu mere magt, fordi det i sidste ende er dem, der tager beslutningerne.”

Allerede før NetzDG håndhævede platformene ikke blot egne love – de agerede på en og samme tid udøvende, dømmende og lovgivende magt. For nylig problematiserede IBM’s dataetiker Kim Esherich dette fænomen med følgende beskrivelse: Facebooks grundlov er retningslinjerne, den dømmende magt er de 30.000 medarbejdere, som fortolker reglerne, og den udøvende magt er de samme medarbejdere, der dernæst dømmer efter deres fortolkninger (dog i fællesskab med brugerne, som angiver hinanden).

NetzDG kan på den bagrund siges at have givet mere magt til virksomheder, som i forvejen havde rigtig meget af den.

At techgiganterne kan risikere at få mere magt, er netop Enhedslistens Rosa Lunds begrundelse for, at hun vil gøre politiet bedre rustet til at operere i det digitale landskab: ”… jeg er meget bekymret for, at de (techgiganterne) selv skal stå for at fjerne det her indhold (…) Så lad os hellere opprioritere politiets ressourcer på det her område (…)”.

 

„Spørgsmålet er meget politiseret. Nogle politiske partier vil fx påpege, at der helt sikkert er eksempler på overregulering‟
– Heidi Tworek
_______

 

Heldt: NetzDG ”virker” som en svækkelse af ytringsfriheden
Mens Tworek advarer mod den privatiserede retshåndhævelse, er Heldt især bekymret for, at øget regulering af sociale medier vil true ytringsfriheden. Dette er også den primære årsag til, NetzDG har mødt massiv kritik fra en lang række menneskerettighedsforkæmpere, fx Reporters without Borders og den danske tænketank Justitia. Sidstnævnte kalder loven ”en online prototype for global censur”.

Fx har Justitias direktør, Jacob Mchangama, kritiseret 24-timers reglen med henvisning til, at det i 2019 i gennemsnit tog den danske anklagemyndighed 455 dage fra en anmeldelse om overtrædelse af racismeparagraffen blev givet, indtil havde truffet afgørelse om der skulle rejses tiltale. Med andre ord: Det er tidskrævende at afgøre, hvornår en ytring er ulovlig.

Heldt er da også generelt ”meget kritisk overfor loven”, som hun kalder en censurlov (”censorship-law”). Hun sætter i modsætning til de danske aktører spørgsmålstegn ved, hvorvidt det er hensigtsmæssigt at straffe platformene med store bøder: ”For det første gør lovens bødestruktur platformene mere tilbøjelige til at fjerne mere indhold. Den øger nemlig risikoen for over-blokering (”over-blocking”): at platformene sletter indhold uden indholdsmæssig årsag, fordi der er incitament til at fjerne det hurtigt frem for først at undersøge indholdet”.

Hun nævner også risikoen for såkaldte chilling-effekter (”chilling effects”): ”For det andet er der risiko for, at folk har en tendens til at begrænse, hvad de skriver, når de frygter at blive retsforfulgt,” siger hun. Tworek er mere skeptisk: ”Selvom vi ved, at chilling-effekter er reelle i en amerikansk-canadisk kontekst, har vi ikke set et tilsvarende tysk studie,” tilføjer hun.

Ytringsfrihedsforkæmpere har ikke blot talt om risiko for overblokering og chilling-effekter, men også om bekymring for overregulering: at platformene tilpasser deres retningslinjer til den skrappeste lov i verden for at undgå omkostningerne ved at skulle tilpasse retningslinjerne til hvert enkelt lands love.

Om dette siger Tworek: “Det er generelt svært at sige, om bekymringerne for ytringsfriheden har vist sig at holde stik, for i den tyske kontekst har vi ikke indsigt i, hvilke grænsetilfælde der fjernes af platformene selv. Spørgsmålet er meget politiseret. Nogle politiske partier vil fx påpege, at der helt sikkert er eksempler på overregulering. Men de få eksempler, der ofte fremhæves, er bare anekdoter,” forklarer hun.

Hertil skal lægges, at bliver diskussionen politiseret, kan det øge risikoen for, at brugere søger mod andre, uregulerede platforme. Dette sås blandt andet i forbindelse med det amerikanske valg, da Facebook og Twitter gik til kamp mod misinformation, mens den selvproklamerede ”free-speech” app Parler, som også kaldes et ”safe space” for højreorienterede, i perioder fik tusinder af nye amerikanske brugere pr. minut.

 

[S]elvom NetzDG indeholder et krav om at platformene skal offentliggøre halvårlige rapporter om, hvordan indholdet reguleres, forklarer Tworek, at de kun ”giver begrænset viden, fx giver de ikke indblik i dataset og algoritmer‟
_______

 

„Vi har brug for mere viden om, hvordan NetzDG ”virker”‟
Både Helt og Tworek peger på et behov for mere viden. ”Der brug for forklaringer på, hvorfor det pågældende indhold blev fjernet, ikke bare hvad der fjernes, samt en ret til at appellere mod det fjernede indhold,” mener Heldt. Også en betænkning fra Ytringsfrihedskommisionen fokuserer på behovet for mere transparens. For selvom NetzDG indeholder et krav om at platformene skal offentliggøre halvårlige rapporter om, hvordan indholdet reguleres, forklarer Tworek, at de kun ”giver begrænset viden, fx giver de ikke indblik i dataset og algoritmer. Og dette er til en vis grad forståeligt, for så kunne en terrorist fx lære præcis, hvilke ord, der er ulovlige og undgå disse”.

Tworek har et løsningsforslag: ”Én mulighed kunne være at skabe differentierede adgangslag til dataset og algoritmer, som forskere og civilsamfundet kan bruge til at se, hvordan algoritmerne fungerer. Tænk på det som svarende til skatteregistre og sundhedsoplysninger – nogle mennesker kan få indblik under visse betingelser”.

Hun giver også to andre, mere generelle anbefalinger. Den første imødegår problematikken vedrørende privatiseret retshåndhævelse: ”Man kan oprette såkaldte e-domstole, som kan tage stilling til, hvorvidt indholdet er lovligt eller ej, og sikre, at som en sidste udvej kan brugeres appel gå til en domstol frem for til de private virksomheder. Et helt tredje forslag er at oprette udvalg for sociale medier (”social media councils”) med det formål at samle aktører og fx give grupper, der oftest udsættes for fx hadefuld tale en plads ved bordet. ■

 

Ytringsfrihedsforkæmpere har ikke blot talt om risiko for overblokering og chilling-effekter, men også om bekymring for overregulering: at platformene tilpasser deres retningslinjer til den skrappeste lov i verden for at undgå omkostningerne ved at skulle tilpasse retningslinjerne til hvert enkelt lands love
_______

Apropos denne artikel:

På vej i april: Det nye trykte nummer. Tegn abonnement idag og få bladet med posten inden udgivelsen: Fortsat blot 250 kr./året, 200 for studerende+pensionister

Malthe Dahl: Kan Le Pens parti omsætte vreden til vælgere – eller har Trump givet højrestøtterne kolde fødder?

Geopol med Mikkel Vedby og Lars Struwe: Anti-trumpisme er vestlige politikeres nye trumfkort

Per Øhrgaard: Når dannelsen går tabt, bliver demokrati til populisme

Tidligere arrangementer i 2025

Svend Roed Nielsen: Vi er ikke forsvarsløse mod Trumps handelskrig. Tværtimod – EU har et stærkt kort på hånden