07.11.2019

Hvad er de største dilemmaer inden for tech de kommende år? Det ville være nærliggende at svare: kunstig intelligens, algoritmer, humanoide robotter, Internet of Things og transhumanisme. Men svaret er: børn.

Af Mie Oehlenschläger og Katrine K. Pedersen

Vores folkevalgte politikere står i de kommende år – og allerede i dag – over for alvorlige og komplekse dilemmaer relateret til udviklingen af teknologi og kunstig intelligens. Det primære dilemma er: Hvem vil deres lovgivning gøre til tabere, og hvem vil den gøre til vindere i kølvandet på virksomhedernes dataindsamling og udvikling?

Lad os én gang for alle slå fast: Den herskende debat om, hvorvidt statslige reguleringer vil begrænse de frie markedskræfter, er en illusion. Tech-industrien ér reguleret – men lovene og regulativerne, som de er konstrueret i dag, tilgodeser i høj grad de store tech-virksomheders provenu. Disse firmaer har i mange år hævdet en ret til selvregulering, og de ligger i læ af, at de leverer transnationale produkter til individer, der hver især er underlagt national lovgivning.

Dette går særligt ud over de grupper i samfundet, som vi har forpligtet os på at yde ekstra beskyttelse – herunder børn. I FN’s Børnekonvention står der: “I alle foranstaltninger vedrørende børn, hvad enten disse udøves af offentlige eller private institutioner for social velfærd, domstole, forvaltningsmyndigheder eller lovgivende organer, skal barnets tarv komme i første række”. Når de største lobbyafdelinger i EU og Washington er tech-virksomhedernes, er det ikke svært at gisne om, hvem der har definitionsretten på “barnets tarv”.

 

Børn er for alvor blevet et marked. Og det giver virkelig god mening i et forretningsperspektiv, bl.a. fordi en ud af tre internetbrugere globalt set er børn
_______

 

Barndommen er blevet hijacket af tech-industrien
Virksomheder som Facebook, Google, Amazon og ByteDance, der står bag TikTok og tusinder af andre apps, er i dag en stor del af vores børns liv. Men som den dansk-franske jurist Dan Shefet siger: ”Hvis du producerer noget i den fysiske verden, er alle enige om, at du er ansvarlig for den skade, produktet eventuelt forvolder […] Det kaldes ’produktansvar’. Og ved du hvad? Det eksisterer ikke i den virtuelle verden. ’Produktansvar’ eksisterer ikke for digitale produkter”. Samtidig er digitale produkters overvågning og adfærdsdesign blevet en fast følgesvend fra vugge til grav.

Børn er for alvor blevet et marked. Og det giver virkelig god mening i et forretningsperspektiv, bl.a. fordi en ud af tre internetbrugere globalt set er børn. Ifølge UNICEF kan proportionen være endnu højere i lande i det globale syd. I 2018 var mere end 40 pct. af den samlede gruppe af nye internetbrugere globalt set børn – de er dermed det hurtigst voksende onlinesegment. Men at børn bliver betragtet som et meget lukrativt marked, der skal kapitaliseres på, giver ikke mening, hvis afsættet er barnets tarv.

Politikerne står i det alvorlige dilemma, at hensyn til virksomheder og barnets tarv ofte er modstridende. De kan ikke nødvendigvis tjene begge på samme tid. Kommercielle digitale platforme har ikke barnets bedste interesse som formål. Shoshana Zuboff, tidligere Harvard-professor, skriver således i sin nyeste bog: ”Denne nye form for informationskapitalisme sigter efter at forudsige og ændre menneskelig adfærd som et middel til at skabe profit og kontrol af markedet” (egen oversættelse).

Børn benytter de fleste af deres vågne timer i selskab med kunstig intelligens, der forudsiger og påvirker deres adfærd. Digitale platforme er ikke neutrale ’medier’, der uden egeninteresse medierer viden fra barn til barn eller fra vidensplatform til barn. Det er og bliver kommercielle platforme med specifikke interesser, der ikke nødvendigvis drager omsorg for barnet. Deres umiddelbare formål er at forudsige og modificere adfærd, og det primære formål er at tjene penge til aktionærerne.

 

Men hvornår bliver en rettighed noget, man ikke kan takke nej til – og dermed et imperativ, et påbud, en form for tvang?
_______

 

Virksomhederne bag de platforme og tjenester, som børn anvender, forholder sig ikke til, hvad det vil sige at være menneske og borger i et demokrati, eller hvordan de som virksomheder via deres produkter påvirker børns kognitive evner og psykiske velbefindende. Medieforskere, psykologer, læger og andre faggrupper forsøger videnskabeligt at undersøge og måle, hvad konsekvenserne af digitale produkter er for børn.

Men der er en meget høj grad af kompleksitet, og det kan være vanskeligt med 100 pct. sikkerhed at påvise kausale sammenhænge, når kompleksiteten er høj. Men som den britiske neuroforsker Elisabeth Greenfield formulerer det: “Absence of evidence is not evidence of absence”. Derfor er vi – når det drejer sig om børn – forpligtede til at udvise en ekstra høj grad af påpasselighed og beskyttelse.
Inden for medicinsk forskning er det op til de kommercielle producenter at bevise, at deres produkter ikke skader brugerne. Burde producenterne af teknologiske produkter og software ikke underlægges de samme krav? Tech-giganter har selv givet udtryk for, at de benytter borgere som ’testpersoner’ for deres nyudviklede software. Og én ting er, at voksne bliver gjort til testpersoner uden reelt samtykke – men hvad når det er børnene?

Fem eksempler på aktuelle dilemmaer
Så hvad er det for nogle akutte og komplicerede dilemmaer, som vores folkevalgte politikere bliver nødt til at finde løsninger på? Nogle af de vigtigste er:

1. Digitalisering og adgang til de såkaldte informationssamfundstjenester (en eufemisme for ’kommercielle platforme, der lever af at høste data fra børn og kapitalisere på deres fremtidige adfærd’) er blevet en ’rettighed’ for børn. Men hvornår bliver en rettighed noget, man ikke kan takke nej til – og dermed et imperativ, et påbud, en form for tvang?

Kommercielle platforme er af staten blevet givet status som vital informations- og infrastruktur for børn. Det kommer bl.a. til udtryk i Databeskyttelsesloven, hvor Justitsministeriet skriver: ”Børn i Danmark er i høj grad medievante. Adgang til information via søgemaskiner og deltagelse i online aktiviteter har stor samfundsmæssig og social betydning for børn og unge. Aktiviteter i denne sammenhæng er med til at skabe og fastholde kontakt med kammerater, deltage i forskellige diskussionsfora, søge information til skolearbejde, spille spil, se film og lytte til musik. En høj aldersgrænse for, hvornår et barn gyldigt kan give samtykke til behandling af personoplysninger, kan føre til, at børn og unge udelukkes fra informationssamfundstjenester, hvis forældremyndighedsindehaveren ikke vil give samtykke til behandling af personoplysninger”. Men skillelinjen mellem en rettighed og et tvangsmæssigt imperativ er hårfin. Hvad med børns rettighed til at være analog og nyde frihed fra internettet – fra en kommerciel onlinetilværelse, der reducerer dem til dataobjekter?

 

Når børn på digitale platforme kommenterer, tagger, liker osv., leverer de gratis arbejdskraft ved at forbedre og teste såkaldte ’smart-solutions’, digitale medier eller nye apps
_______

 

2. Børn er blevet mikroarbejdere for tech-industrien, men anerkendes ikke som sådan. Rekrutteringen af børn som bidragere til den ulønnede, digitale arbejdsstyrke starter tidligt. Ifølge den franske sociolog Antonio Casilli er produktionen af den kunstige intelligens, der anvendes i de apps, børn benytter hver dag, en ny form for arbejde. Når børn på digitale platforme kommenterer, tagger, liker osv., leverer de gratis arbejdskraft ved at forbedre og teste såkaldte ’smart-solutions’, digitale medier eller nye apps.

Begrebet ’digital arbejdskraft’ er spirende og kræver præcise og bedre definitioner. Der er et stigende antal forskere, der beskæftiger sig med dette begreb, og det bliver i den nære fremtid et emne, som politikerne er nødt til at forholde sig til. På grund af digitaliseringsimperativet er børn for længst blevet de facto-arbejdere i en ny type økonomi, hvor de ikke modtager formaliserede rettigheder eller løn, og hvor arbejdsgiverne i dag ikke bliver holdt politisk ansvarlige.

3. Internettets apps er transnationale, men dele af Straffeloven er national. Ome.TV er et website, om hvilket DR i november 2018 skrev: ”Flere skoler advarer nu mod en populær app, hvor børn helt ned til 12 år uforvarende kan få en direkte videoforbindelse til voksne, der er nøgne, onanerer eller i ekstreme tilfælde udfører overgreb på børn”. Når børn i Danmark – også børn, som er yngre end 12 år – uforvarende bliver ofre for eksempelvis blufærdighedskrænkelser online, som det er tilfældet med ome.TV, kan det være vanskeligt og måske umuligt at holde virksomheden bag dette website ansvarlig, hvis sproget på websitet (eller appen) ikke er på dansk, men fx engelsk.

Straffelovens § 9a bestemmer, at ”En lovovertrædelse, der vedrører tekst-, lyd- eller billedmateriale m.v., som ved handlinger i udlandet er gjort alment tilgængeligt her i landet gennem internettet eller et lignende system til spredning af information, anses for begået i den danske stat, hvis materialet har særlig relation her til landet”. Og ifølge professor Sten Schaumburg-Müller kan en særlig relation fx være sprog. Dette til trods for, at overgrebet er muliggjort af virksomhedens software, og dette til trods for, at appen ser ud til at være lavet med henblik på at appellere til børn. Spørgsmålet er ikke prøvet ved nogen dansk domstol, og hverken myndigheder eller lovgiver har tilsyneladende overhovedet overvejet spørgsmålet. Det er et reelt lovgivningsmæssigt dilemma – for internettet er globalt – men børns livsverden er også lokal, regional og national.

 

Der findes ingen lette svar på digitaliseringens dilemmaer. Men folkevalgte politikere er nødt til at tage stilling til, hvordan det virtuelle cyberrum skal indrettes
_______

 

4. I den analoge verden skelner vi mellem børne- og voksenliv. Skellet ophæves, når børn swiper sig vej ud i den digitale verden. YouTube, TikTok, Instagram og alle de andre kommercielle apps er som smukke byer, hvor producenterne glemte at indtænke brandmænd, politimænd og dommere. De er karakteriseret af selvregulering for såvel platforme som brugere. Men i andre sammenhænge erkender vi, at børn har brug for rammer, der matcher deres alder. Vi har vuggestuer, børnehaver og fritidshjem. Vi har aldersinddelt undervisning i skolerne, og vi har regler for, hvornår vi mener, at børns hjerne er nok udviklet til, at de kan færdes alene i trafikken på cykel og i bil. Men det er ikke blot et spørgsmål om alder, det er også et spørgsmål om, hvilke normer der gælder, og hvordan de påvirker og definerer børnekultur. Værdier former adfærd og handling, de reflekterer kultur og med til at definere et fællesskab. Og på nuværende tidspunkt er det virksomhedernes interesser, der bestemmer regler, værdier og samfundsforhold online.

5. Børneorganisationer, skoler, regeringer og overstatslige aktører er enige om, at ’digital dannelse’ er løsningen. Men hvor går grænsen for dannelse – og hvornår har vi brug for lovgivning og regulering? Tre aktuelle scenarier: Virksomheder misbruger børns data. Pædofile og radikale grupper udnytter digitale platformes algoritmer, som belønner ekstremt indhold. Danske Spil kritiseres for at anspore børn til at gamble P.t. er løsningen på scenarier som disse, at børn skal ’dannes’, at de skal lære at ’begå sig’ og ’forsvare sig’. Men dermed bliver der lagt et meget stort ansvar for selvregulering over på barnet, der færdes i apps, hvor algoritmerne belønner det ekstreme med likes og views. Det er nødvendigt at gennemtænke en løsning, der afspejler et demokratisk samfund med tanke på de svageste gruppers beskyttelse, i stedet for at lade dem i stikken.

Der findes ingen lette svar på digitaliseringens dilemmaer. Men folkevalgte politikere er nødt til at tage stilling til, hvordan det virtuelle cyberrum skal indrettes, hvem der skal bære de største byrder, hvem der har mest krav på beskyttelse, hvem reguleringen vil ramme og så videre. Det er – om man vil det eller ej – uundgåelige politiske dilemmaer.

Statens opgave er at agere på en måde, så borgerne kan have tillid
Politikerne kommer ikke uden om et opgør med myten om internettet som et sted, hvor lovgiverne ikke er velkomne. John Perry Barlow skrev i A Declaration of the Independence of Cyberspace (1996): ”Regeringer får deres legitime magt gennem de regeredes samtykke. I har hverken anmodet om eller fået vores. I kender os ikke, ej heller vores verden. Cyberspace ligger ikke inden for jeres grænser”. Politikerne må gøre op med sig selv, om de mener, at de voksentjenester og digitale platforme, der befinder sig i et samfundsmæssigt, demokratisk såvel som juridisk grænseland, virkelig er egnede for børn.

 

Mens Danmark bryster sig af at være ’digital frontrunner’ og påbyder, at ’hverdagen er digital, er børn overladt til kommercielle apps på deres smartphones, som overvåger dem, høster deres data og nudger dem til adfærd, som ingen åbenbart magter at få overblik over
_______

 

Der er interessante initiativer rundtom i verden. I Storbritannien har informationskommissær Elizabeth Denham i foråret lanceret et udkast til et lovforslag – et ’aldersvarende kodeks for design’, der nu skal forelægges i parlamentet. Dette kodeks pålægger udbydere af tjenester – virksomhederne – at tage ansvar for at sikre, at deres tjenester er tilpasset barnets alder. Det gælder udbydere af informationssamfundstjenester (ISS) og alle, der leverer onlineprodukter eller -tjenester (herunder apps, programmer, websteder, spil og tilsluttede legetøj eller enheder med eller uden en skærm), som behandler personlige data og sandsynligvis får adgang til børn i England. Men det gælder ikke kun for tjenester rettet mod børn, det gælder også, hvis børn sandsynligvis bruger tjenesten. Det gælder inden for Storbritannien, men derudover gælder det også for onlineservicer, som har base uden for unionen under forudsætning af en række forhold.

Modellen giver ikke alle svar og er bestemt ikke hele løsningen, men det er et bud på, hvordan internettet kan optimeres til at matche den primære brugergruppe, som er mindreårige, hvor virksomhederne bliver tvunget til at tage ansvar for deres produkter.

Mens Danmark bryster sig af at være ’digital frontrunner’ og påbyder, at ’hverdagen er digital, er børn overladt til kommercielle apps på deres smartphones, som overvåger dem, høster deres data og nudger [påvirker latent, red.] dem til adfærd, som ingen åbenbart magter at få overblik over. Den danske stat har kastet børnene for ulvene og skal nu tage stilling til: Hvordan sikrer vi, at barnets bedste interesser bliver varetaget?

Her skal politikerne gøre sig klart, at det er et spørgsmål om tillid. Et eksempel på dette er Facebooks aktuelle planer om at kryptere sin Messenger-app, som rigtig mange børn bruger. På den ene side vil kryptering af beskederne sikre børns ret til privatliv – fra Facebook og fra staten, fordi ingen af dem vil kunne læse med i beskederne. Men på den anden side advarer børneorganisationer i Storbritannien kraftigt mod denne kryptering, fordi det vil give frit spil for voksne med dårlige hensigter over for børn – fx højreradikale, pædofile osv., der kan henvende sig til børn og ikke blive holdt juridisk til ansvar af embedspersoner (der ikke har adgang til det, de voksne med dårlige hensigter skriver til børnene).

Hvis staten skal have adgang til børns kommunikation, skal borgerne kunne have en meget høj grad af tillid til, at staten ikke misbruger denne adgang. Hvis staten skal have adgang og regulere, skal borgerne kunne have fuld tillid til staten. Og hver gang aktører inden for kommuner, regioner eller stat misbruger borgernes data eller foretager unødig masseovervågning af borgerne, så skader det den grundlæggende tillid til, at statslig lovgivning kan være det gode svar. Når først arvesølvet er solgt ud, kan prisen for at købe det tilbage være for høj. ■

 

Når først arvesølvet er solgt ud, kan prisen for at købe det tilbage være for høj
_______

Apropos denne artikel:

På vej i april: Det nye trykte nummer. Tegn abonnement idag og få bladet med posten inden udgivelsen: Fortsat blot 250 kr./året, 200 for studerende+pensionister

Malthe Dahl: Kan Le Pens parti omsætte vreden til vælgere – eller har Trump givet højrestøtterne kolde fødder?

Geopol med Mikkel Vedby og Lars Struwe: Anti-trumpisme er vestlige politikeres nye trumfkort

Per Øhrgaard: Når dannelsen går tabt, bliver demokrati til populisme

Tidligere arrangementer i 2025

Svend Roed Nielsen: Vi er ikke forsvarsløse mod Trumps handelskrig. Tværtimod – EU har et stærkt kort på hånden