03.06.2024

“Gen Z-visionen for verden anerkender, at AI er kommet for at blive – og således skal udnyttes og tøjles på et og samme tidspunkt.”

Opinion af Vincent F. Hendricks

MMXXIV er året hvor omved halvdelen af jordens befolkning ifølge en opgørelse fra Time Magazine går til valg. I Bangladesh over Bhutan til Belarus, fra Uzbekistan til USA, et valg allerede afholdt i Rusland og et forestående i Rwanda, i Tuvalu og Den Europæiske Union, går folk til valgurnerne i demokratiske stater eller unioner, i hybridregimer eller helt frem til mere eller mindre erklærede autokratiske ditto.

Mange i generation Z står foran deres første valghandling. Erman imidlertid uvidende om, hvad MMXXIV betyder, vil en forespørgsel til en af de foretrukne informationsværktøjer for generationen født mellem 1997-2012, ChatGPT, smidigt, effektivt og forhåbentlig pålideligt lade det forstå, at MMXXIV er romertallet for 2024. Og præcis i det herrens valgår 2024 er nogle af de største globale bekymringer, at netop generativ AI kan være med til at skævvride valghandlinger, udbrede misinformation, kontrollere kritisk (demokratisk) infrastruktur og forstærke korpokratisk overherredømme, undergrave videnskaben og dens institutioner, forestå fake news og bullshit, udøve massiv social-psykologisk påvirkning, puste til allerede eksisterende polariseringstendenser og identitetspolitisk uro, udøve adfærdsmanipulation, orkestrere deep-fakes-kampagner på sociale platforme, shorte politiske aktiver der er uden tvivl er godt for deres opmærksomhedsøkonomiske forretningsmodeller, men samtidig slet for afbalancerede valghandlinger med henblik på robuste som repræsentative parlamentariske forsamlinger.

Disse AI-relaterede udfordringer er dele af generation Z mere end godt bekendt med, og lancerede for nylig initiativet og hertil hørende underskriftindsamling AI 2030: Our generations platform for global AI action by 2030. Et ganske detaljeret og tindrende visionært bud på, hvordan udviklingen af generativ AI skal tøjles for at sikre tillid, relationer, rettigheder, økonomi, fred og samarbejde i 2030. Initiativet er startet af Encode Justice i april 2024, en gruppe unge alle under 25, der tæller alt fra vindere af den prestigefyldte datalogipris, Turing Award, ansatte i akademia, privatansatte konsulenter, forfattere, fagfolk, græsrødder og som samarbejder med andre store dele af civilsamfundet og det politiske system – også dem over 25 år. 

 

Det fremtidige arbejdsmarked og hertilhørende indkomstfordeling står foran en bastant omkalfatring med AI’s potentiale
_______

 

Sandhed, sikkerhed og samarbejde

Manifestet bebuder en buket af initiativer, der involverer såvel det offentlige som det private og i øvrigt appellerer til et intimt samarbejde mellem stater og virksomheder for initiativernes realisering. I alt fem opfordringer til handling annonceres, der i al væsentlighed beløber sig til:

Tillidsopbygning og relationspleje. Med afsæt i, at 2024 er det største valgår i verdenshistorien er det mere afgørende end nogensinde, at borgere kan foretage deres valg på et sandfærdigt og pålideligt grundlag, hvor AI bliver oplysningens tjener frem for en propagandamaskine, der ved hjælp af svært afkodelig lyd- og billedemanipulation skævvrider vælgeres beslutningsgrundlag og undergraver tilliden til presse og offentlighed. Som det hedder sig i manifestet: “2024 is only the canary in the coal mine: if AI continues to hijack reality, our generation’s trust in information and institutions could soon collapse.” Hvis tilliden eroderer, vokser alt fra ensomhed til mentale problemer, hvor mistilliden vil få unge til at søge til chatbots og AI-apps når det gælder alt fra personlig rådgivning, omverdenskontakt eller underholdning: “We want to live in a world where people enjoy meaningful relationships with other people — not one where that role is passed onto machines.”

For at opbygge tillid til information og institutioner samt relationer mellem mennesker foreslår Gen Z-underskriverne blandt andet, at regeringer installerer checks-and-balances-mekanismer for AI-genereret politisk markedsføring, sikrer ytringsfrihed og retten til anonymitet og privatliv, mens virksomheder skal identificere og begrænse udbredelsen af deep-fake indhold, markere når der interageres med mennesker frem for antropomorfisk AI og i øvrigt tilbyde brugere ejerskab over deres personlige data. Håndhævelse af sådanne eventuelle regler på området skal tilfalde supranationale organer på globalt niveau som FN uden, at det specificeres i detaljer. I fælleskab skal det offentlige og private ligeledes investere massivt i interdisciplinær forskning, der stimulerer tillid og sanddruelighed, for nutidens teknologien alene har vist sig ikke alene at kunne udgøre en passende modgift til voksende misinformation, mistillid og mistrivsel.    

Beskyttelse af (friheds)-rettigheder. Med den opmærksomhedsøkonomiske forretningsmodel suppleret med overvågningskapitalismens ideologi, kan AI umærkeligt gå hen og blive det foretrukne middel til rating af menneskers kreditværdighed som brugere, borgere, vælgere, patienter, forsikringstagere etc. givet køn, race, religion, socialklasse og en række andre identitetsmarkører ud fra den overordnede devise om, at “al data er kreditinformation” og således være en central instrumentel faktor i etableringen af (sociale) kreditsystemer i både liberale demokratier og i autoritære regimer som det dokumenteres af Harvard-professor Shoshana Zuboff i hendes øjenåbende bog Overvågningskapitalismens tidsalder fra 2019. Den overvågningskapitalistiske ideologi har ingen politisk farve. Den kan tilgåes fra hvilket som helst ideologisk standpunkt – fra stalinisme til liberalisme. Systematisk undergraver den under alle omstændigheder autonomi, myndighed og individuelle (friheds-)rettigheder med henblik på kontrol.

For at imødegå denne form for kontrol af internettets brugere – før bedre kendt som samfundets borgere – skal regeringer tilvejebringe offentlige tilgængelige vurderinger af rettighedspåvirkende AI-systemer og sammen med det private foretage konstant monitorering af potentielt rettighedspåvirkende AI-systemer og kunne intervenere hurtigt som smidigt, når det er påkrævet. Hertil kommer, at der skal tilføres flere midler til forskning og udvikling, fra det offentlige som fra det private, der kan afsløre rettighedspåvirkende biases og uretmæssig forskelsbehandling mellem mennesker. AI-genereret biases kan være ganske afgørende for hvordan mennesker klassificeres, rates og behandles, hvorefter grundlæggende frihedsrettigheder kan blive tilkendt eller frakendt som funktion af eventuel AI-genereret biases. I bedste fald kan det medføre vilkårlighed og i værste fald være demokratiundergravende i manglende frihed og lighed for nogle demografier, der underlægges AI-biasgenereret forskelsbehandling.  

Økonomisk fremtidssikring. Det fremtidige arbejdsmarked og hertilhørende indkomstfordeling står også foran en bastant omkalfatring med AI’s potentiale. Gen Z er dels bange for at blive overflødiggjort på et arbejdsmarked, hvor flere og flere opgaver overlades til AI, og dels bekymrede for, at AI-systemer kan være med til at forstærke Matthæus-princippet i indkomstfordelingen, som siger, at de rige bliver rigere, mens de fattige får et spark bagi, med mastodontisk koncentration af markedskræfterne og monopoldannelse til følge.

For at afbøde en sådan vinderen-tager-det-hele-økonomi-ved-AIs-hjælp udstikker manifestet handlingsanvisninger til stater, i hvilke der skal omdirigeres midler til forskning og udvikling af AI-applikationer, som forstærker frem for supplerer, menneskelige evner og potentiale over tid gennem AI-baerede turtorsystemer – og løsninger, der stimulerer menneskelig kreativitet, kognition og helbred. Det ville være ønskværdigt her med mere præcision, men manifestet indeholder ikke yderligere i dets nuværende form. På overstatsligt niveau skal rige lande gå sammen om en fond, der skal stimulere talent- og udviklingsprogrammer med særlig opmærksomhed på det globale syd, så også denne del af verden kan være aktører i, og få glæde af, en økonomisk bæredygtig AI-udvikling når det gælder såvel arbejdsmarked som indkomstfordeling. Manifestet foreslår ligefrem statslige, eller overstatslige omfordelingsinterventioner, hvis skævheden vedbliver givet negative feedback-loops, der favoriserer det mere bemidlede nationer eller unioner. 

Forbud mod autonome våbensystemer. Der appelleres til et forbud mod fuldt AI-automatiserede våbensystemer, idet de kan underminerer krigens love, der hviler på principper om menneskets værdighed og proportionalitet i gengældelsesaktioner. Dertil kommer, at autonome våbensystemer kan hackes og udnyttes, udvise uforudsigelig adfærd og på anden vis være defekte, hvilket kan resultere i civile tab og bidrage til den i forvejen ustabile situation i militære konflikter. Således skal regeringer rundt om i verden bestræbe sig på at ratificere en aftale, der forbyder udviklingen, produktionen og indsættelsen af autonome våbensystemer med forbillede i allerede indgåede konventioner som “Convention on Certain Conventional Weapons” og “Biological and Toxin Weapons Convention”, der er forhandlet på plads inden for det seneste århundrede. I krydsfeltet mellem offentlige og private aktører skal der investeres i AI-systemer, der kan bidrage fredsbevarelse og konfliktløsning uden, at det præciseres, hvilke systermer, der er i tankerne.

Samarbejde. Slutteligt betoner manifestet samarbejde – mellem det offentlige og det private på både nationalt og internationalt plan: “As with climate change and nuclear nonproliferation, we need international coordination to govern AI.” Argumentet er det klassiske: Hvis aktører eller stater forsøger at maksimere egennytten for sig selv, kan man komme til at stå dårligere individuelt, end havde man valgt at samarbejde med andre. Det er budskabet i spilteoriens formulering af fangernes dilemma. For at kunne nedlægge et større bytte sammen, kræver det, at jægerne samarbejder og således afgiver individuel suverænitet med henblik på kollektiv tillid og koordinering som forudsætning for nedlæggelsen af det større byttedyr. Det er budskabet i FNs 17. verdensmål, der på mange måder er det mest visionære, men oftest det mest oversete – “Partnerskaber for handling”. Skal man indfri de øvrige 16 verdensmål skal man på offentlig-privat hjortejagt nationalt som globalt.

Således foreslår AI 2030: Our generations platform for global AI action by 2030 slutteligt, at regeringer kollektivt skal etablere et agentur, som skal minimere farerne ved AI, sætte markedsstandarderne, begrænse udbredelsen af de mest faretruende AI-muligheder og overvåge de globale bevægelser af de største computerresourcer og hardware-installationer. Med dette agentur skal ligeledes følge et globalt institut for AI-sikkerhed skåret efter en skabelon a la CERN, European Organization for Nuclear Research – en sammenslutning af europæiske lande, der koordinerer udforskningen af atomenergi og ligeledes gør sig i policy-making-forslag på videnskabeligt infomeret grundlag. Afslutningsvist skal regeringer verden over gå sammen om at sikre en mere lige fordeling af AI-ressourcerne mellem dem, der har og dem, som ikke har.

 

Den mulige verden, i hvilken manifestet lader sig realisere, fordrer kolossale systemiske forandringer, og formentlig også nogen der vil gøre ganske ondt om ikke andet økonomisk
_______

 

Gen Z-vision for en verden med AI  

Gen Z-visionen for verden anerkender, at AI er kommet for at blive – og således skal udnyttes og tøjles på et og samme tidspunkt. Manifestet er formuleret med udgangspunkt i den erkendelse, at AI kommer til udgøre global kritisk infrastruktur inden længe og bliver en central teknologi for verdens globale udfordringer. Det ville have været ønskværdigt om AI 2030 forholdt sig til, og interagerede med, andre organisationers globale dagsordner herunder indfrielsen af FN’s 17. verdensmål, World Economic Forums udfordringer til verden og OECD’s charter for også her at understrege præcis det samarbejde, og den internationale koordinering, som manifestet selv proklamerer.

Betænk blot, at en række af FNs 17. verdensmål cirkulerer om vand og vandforsyning. AI og informationsteknologi er storforbruger af vand til køling af datacentre, cloud-løsninger, bitcoin-transaktioner. Vand er allerede en knap ressource, og den bliver ikke mindre knap i en fremtid, hvor AI kommer til at udgøre kritisk infrastruktur – præcis som vand allerede er det. Vand og AI kommer i fremtiden til at indgå i et komplekst cycklisk system, der bliver afhængige af hverandre … og … ikke at forglemme, er vand samtidig en forudsætning for menneskets overlevelsesmuligheder på planeten. Jagten på knappe ressourcer har for menneskeheden alle dage givet anledning til gråd og tænders gnislen, så der er også her lagt I kakkelovnen til konflikt. En konflikt, der kun kan løses ved samarbejde på tværs af lande, unioner og private som offentlige organisationer.

Den mulige verden, i hvilken manifestet lader sig realisere, fordrer kolossale systemiske forandringer, og formentlig også nogen der vil gøre ganske ondt om ikke andet økonomisk. At installere de nødvendige checks-and-balances-funktioner vil i sig selv være ganske bekostelige og læg hertil, at den rige verden kommer til at skulle afgive såvel priveligier som pekuniære midler for at få den fattige del af verden med på AI-eventyret. Den tunge ende vender som oftest nedad og det gør den ligeledes her, hvor introduktionen af nye teknologier har det med at favorisere dem, der i forvejen har – og hvis ikke initiativer som ovenstående realiseres vil det formentlig fortsætte sådan, også på det fremtidige AI-område.

Om end manifestet er holdt i ganske generelle vendinger og vidtløftige initiativerklæringer, udmærker den sig ved at have blik for det mikroskopiske som det makriskopiske, det individuelle som det kollektive, det offentlige som det private, det statistiske som det dynamiske frem mod 2030. Hvor EU’s lovpakke på AI-området – EU AI Act – der netop er blevet vedtaget, i sagens natur er noget mere detaljeret og fokuseret, da den udgør decideret lovgivning på baggrund af hvilke retssager ville skulle kunne føres, deler AI 2030 og EU AI Act både risikovurderinger, transparenskrav og en del handlingsanvisninger.

Men AI 2030 er en vision for en fremtid med AI, der bestemt har noget for sig. Den er formuleret af Generation Z, men ikke forbeholdt Generation Z. Det skal den unge generation ihukomme sig i deres øvrige kritik af det bestående og generationerne før dem – for manifestet er vel tiltænkt os alle: WWII- og efterkrigsgenerationen, Boomers I-II, Generation X, Millennials, Generation Z og Generation Alpha – kort sagt, alle os, der lever netop nu og hinsides MMXXIV. ■

 

Den rige verden kommer til at skulle afgive såvel privilegier som pekuniære midler for at få den fattige del af verden med på AI-eventyret
_______

 

Vincent F. Hendricks (f.1970) dr.phil., ph.d., er professor i formel filosofi ved Københavns Universitet. Han er forfatter til en række bøger, herunder blandt andet Spræng boblen, Fake News, Kæmp for Kloden, Os og dem, Vend Verden, Sandhedsministeriet og NOK OM MIG og er en afholdt foredragsholder.

ILLUSTRATION: Eget pressefoto

Apropos denne artikel:

Niels Bjerre-Poulsen: Forestiller minoritetsvælgerne sig, at Trump ikke mener det, han siger, bogstaveligt?

Ugen med RÆSON med Lykke Friis, Vincent Hendricks og Alberte Bové Rud – Musk og Trumps parløb, tysk regeringskaos og USA's nye venner i Europa

Geopol med Mikkel Vedby og Lars Struwe: Nu skal vi forberede os på Donald Trumps verden

Vincent F. Hendricks & Mikkel Møller-Sørensen i RÆSONs kommende nummer: Elon Musk har sigtet efter stjernerne og nået sin destination – verdensherredømmet

Dorthe Bach Nyemann: Trump er ikke bange for at tegne nye grænser på kortet – og det kan blive en realitet i både Ukraine og Mellemøsten

Helle Malmvig: Jeg tror, at Netanyahu vil intensivere krigen i Gaza og Libanon - og så give Trump sejren, når han indsættes til januar