18.01.2020

”Vi har haft enorm gavn og nytte af de teknologier og den innovation, de har været med til at opfinde: Google, Netflix, Street View, elektriske biler osv. Vi mangler bare at anerkende statens rolle i at skabe et miljø for entreprenørskab, for innovation og for vækst. Vi har markedsgjort og privatiseret mange funktioner, som i virkeligheden burde høre under staten.”

Interview af David Rischel

RÆSON: Hvordan er kunstig intelligens central for Google, Facebook og Amazon?
AZHAR: En virksomhed som Google anser sig selv for at være drevet af kunstig intelligens. Kunstig intelligens [AI, red.] handler for disse firmaer grundlæggende om forudsigelser – outputs fra et intelligent system, der kan evaluere sit omgivende miljø.

For at skabe bedre forudsigelser har du brug for data. Jo mere data, jo bedre er dine forudsigelser. Jo bedre forudsigelser, jo bedre produkter. Og jo flere der bruger dine produkter, jo mere data. Jeg kalder denne cyklus for ’det fastlåste AI-loop’, der giver virksomhederne større og større forretningsmæssige fordele.

Der er enormt mange interessante ting at bemærke her.

For det første: Det fastlåste loop er en netværkseffekt [dvs.: styrkes med mængden af data, red.]. Og derfor bliver det sværere og sværere for nye virksomheder at komme ind på markedet. Hvordan kan du som virksomhed være billigere end Facebooks gratis produkt – et socialt netværk?

For det andet: I takt med at virksomhederne indsamler mere og mere data, bliver de i stand til at udvikle nye markeder, som andre ikke vil være i stand til at få øje på.

For det tredje: Virksomhederne erhverver deres data tidligt. Fx gik Google tidligt i gang med at digitalisere alle verdens bøger. Her blev de nødt til at udvikle forskellige former for optisk tegngenkendelse, en form for AI [optisk tegngenkendelse konverterer håndskrevet eller printet tekst til digital tekst, red.]. På samme måde: Lang tid før der var selvkørende biler, gik Google i gang med at skabe Google Maps og Google Street View – teknologier og kapaciteter, som viser sig at være strategiske fordele i dag, et årti senere. Dette opstår i en virksomhedskultur, hvor du forstår, at din kerneydelse er et AI-system.

For det fjerde: Disse virksomheder er i stand til at overføre ekspertise, kompetencer og dataknowhow fra et domæne til et andet og fra et produktudviklingshold til et andet. Fx: Når du logger på en af dine Google-konti, bliver du bedt om at udfylde en CAPTCHA, som skal teste, om du er et menneske eller en robot. Mange af de CAPTCHAs viser dig nu en række gadebilleder [hvor du fx skal fortælle testen, hvilke gadebilleder der indeholder et gadeskilt, og hvilke der ikke gør, red.]. På den måde træner du en model for selvkørende bilers evne til at genkende deres omgivelser. Og Googles moderselskab, Alphabet, er i gang med at udvikle selvkørende biler.

Alle disse tendenser peger på en fundamentalt anderledes måde at organisere os selv på. Tag Uber – en langt mindre virksomhed med en markedsværdi på 100 mia. dollars. Deres tidligere CEO Travis Kalanick har sandsynligvis haft en løn, som er mange gange større end en almindelig Uber-chaufførs hen over de sidste fire-fem år [ca. 50.000 gange større, red.]. Og det er sandsynligvis også tilfældet for en lang række andre startup-virksomheder. Så vi er tydeligvis på vej imod et stadie, hvor omfanget af den slags afkast er klart anderledes fra, hvad der var tilfældet for en industriel kapitalist.

 

Gennem de sidste 25 år er adgangen til de tjenesteydelser, vi har ret til som borgere, i stigende grad blevet medieret af [Google, Facebook osv.], andre private virksomheder og af markedet
_______

 

RÆSON: Kan vi sammenligne disse udviklinger inden for AI med fx fremkomsten af dampmaskinen?
AZHAR: Jeg tror, at den sammenligning er rigtig, og vi kan sammenligne med fx elektriciteten, jernbanen, kanaludgravninger m.v. Vi har tidligere set, at nye teknologier skaber nye institutionelle og regeringsmæssige konfigurationer. I takt med at jernbanerne spredte sig over Europa i det 19. århundrede, skabtes en lang række nationalstater, og en lang række bystater og kongedømmer svandt bort. Jernbanen muliggjorde bedre kommunikation samt mere effektiv centralisering og kontrol.

Men man løber ind i den ’kopernikanske fejlslutning’ her: Vi kan simpelthen ikke tro på, at vi ikke lever i universets centrum. Den store science fiction-forfatter Douglas Adams formulerede det på fantastisk vis: ”Jeg har fundet på et sæt af regler, der beskriver vores reaktion på teknologi. Al teknologi, der eksisterer i verden, når du bliver født, er normalt, ordinært og en del af den måde, verden fungerer på. Alt, der opfindes, når du er mellem 15 og 35 år, er nyt og spændende og revolutionerende, og du kan sandsynligvis få en karriere i det. Alt, der bliver opfundet, efter du er 35, er imod tingenes naturlige orden”. De allerfleste mennesker, der har en eller anden form for magt, lever i den sidste kategori.

RÆSON: Et af det steder, hvor disse virksomheder er anderledes, er, hvor tæt de er på os. ExxonMobil var en af verdens største virksomheder for 15 år siden, men som forbrugere har vi ikke nær så mange interaktioner med Exxon som med Facebook, Google eller Amazon. Og det lader til at relatere sig til måden, hvorpå de her firmaer anvender kunstig intelligens. Hvad betyder det for forholdet mellem virksomhed og forbruger?
AZHAR: Der har eksisteret institutioner, som var intimt involverede i, hvordan deres medlemmer skulle opføre sig. Du behøver blot se på religiøse institutioner. Forskellige religioner har bestemt, hvordan folk skulle gifte sig, hvordan folk skulle opdrage deres børn, hvad de skulle tro på. Så vi kender godt til institutioner, som påtog sig retten til at intervenere i folks liv på mange forskellige punkter. Vi har også tidligere set virksomheder gøre det samme i mindre skala: Der har eksisteret firmabyer og firmasundhedsprogrammer. Men du har ret i, at der er sket en udvikling i den magt og den forbundethed, som Google, Facebook osv. har over os. Gennem de sidste 25 år er adgangen til de tjenesteydelser, vi har ret til som borgere, i stigende grad blevet medieret af disse teknologivirksomheder, andre private virksomheder og af markedet.

 

Hvis et oliefirma besluttede sig for at komme bly i olien, så ville staten være magtfuld nok til at stoppe dem. Det er ikke altid tilfældet med Zuckerberg og Facebook
_______

 

RÆSON: Professor David Runciman har sagt, at Mark Zuckerberg kan anses for at være mere magtfuld end en romersk kejser. Han har ikke magt over liv eller død, men han er indehaver af en utrolig stor magt, der udgår fra hans kontrol over information, hvor information flyder hen, og hvordan information ser ud. Er du enig?
AZHAR: Direktørerne for de store tech-firmaer er langt mere magtfulde end nogen direktør eller CEO, vi tidligere har set. Mark Zuckerberg kontrollerer Facebooks bestyrelse, aktionærerne og derfor alting i Facebook. Han er ikke som en typisk CEO. Hvis ExxonMobil besluttede sig for at hæve olieprisen, så ville det udelukkende gå ud over dem selv. Hvis et oliefirma besluttede sig for at komme bly i olien, så ville staten være magtfuld nok til at stoppe dem. Det er ikke altid tilfældet med Zuckerberg og Facebook. Men derudover vil jeg sige, at det ikke kun handler om Zuckerberg eller om den magt, han har – det handler også om den enorme ubalance mellem den magt, de her direktører har, og deres evne til at forstå den fulde effekt af den magt.

Derudover er der de tekniske udfordringer, der følger med sådan en magt. Selv hvis du er en ’venlig’ udgave af Facebook, hvis man da kan forestille sig det, er spørgsmålene stadig enormt besværlige. Hvad skal du gøre ved fake news? Hvad skal du gøre med diskriminerende opslag? Hvad skal reglerne være?

Derudover mangler man den rigtige virksomhedskultur i Facebook – man mangler simpelthen intentionen om at gøre noget ved de her problemer. Det ligger ikke dybt i Facebooks eller Googles ansættelsespolitik, og ledelsen synes også at være ligeglad. Så der er virkelig mange lag af problemer, der vikles ind i hinanden. Facebook plejer at gemme sig bag den undskyldning, at de her problemer er virkelig svære at gøre noget ved. Men det er at lade dem slippe alt for let, for der er oplagte valg, de kunne tage, for at tackle de her problemer.

RÆSON: Lad mig gå tilbage til noget, du sagde før: At vores institutioner bliver nødt til at forandre sig. Hvis det er tilfældet, hvordan skal det så ske?
AZHAR: Det overordnede svar er, at vores institutioner bliver nødt til at tilpasse sig, og at det kommer til at ske gennem et brud – som for den katolske kirke efter reformationen – eller igennem en dyb evolutionær proces. Og det står ikke klart for mig, om det kommer til at føre til mere centralisering eller decentralisering, for teknologien skubber i begge retninger. På den ene side bliver vi bedre og bedre til at gøre ting lokalt: at producere lokalt, at levere lokalt – fx kan en del bæredygtig energiproduktion klares på lokalt niveau, især når det kommer til opbevaring, og det peger imod decentralisering. På den anden side ser vi ting som klimaforandringer, cybersikkerhed og cyberresiliens [cyberresiliens refererer til et systems modstandskraft over for et fjendtligt cyberangreb, red]. Mest grundlæggende ser vi, at teknologien tenderer i retning af at kunne tracke alting hele tiden (hvis det da ikke allerede er sket). Og det er en kæmpe fordel, hvis du ønsker at centralisere. Hvordan disse forskellige spændinger kommer til at spille sig ud mod hinanden, kommer til at afhænge af konteksten i det enkelte land, den enkelte nation, det enkelte samfund.

RÆSON: Man kan anlægge et ret pessimistisk syn på de her udviklingstendenser. Stort set al udvikling og forskning inden for kunstig intelligens sker to steder: i enorme teknologifirmaer i USA og i en autoritær stat, Kina, hvor forskningen ofte har et militært fokus. Er der en risiko for, at demokratiet bliver klemt mellem disse to modpoler?
AZHAR: Jeg har talt med en lang række eksperter, som investerer i Kina, eller som er involveret i reguleringen af teknologi i Kina. Og de snakker alle som en om en tekno-utilitarisme. Det betyder: Hvis det virker, så bruger vi det – og hvis det holder op med at virke, så stopper vi med at bruge det, eller vi regulerer det. Og derfor køber jeg ikke det her ret simple narrativ om, at det handler om disse forfærdelige autoritære stater over for vores helt utrolig fantastiske liberale demokratier.

Jeg bryder mig ikke om Facebook. Jeg bryder mig ikke om deres produkter og den måde, de opererer på, og jeg mener ikke, at de har en positiv nettoeffekt i offentligheden. Men jeg tror simpelthen ikke på, at grunden til, at vores liberale demokratier er i krise, kun har at gøre med Facebook og ikke har noget at gøre med et 50 år langt projekt, som har handlet om at minimere staten og vores kollektive, ikkemarkedsbaserede institutioner. Det er en udvikling, som har handlet om at reducere arbejdskraftens forhandlingsstyrke, om ikke at have investeret nok i uddannelse og om at være ude af stand til at reagere positivt og konstruktivt på demografiske forandringer.

 

Hvis du har sociale netværk som Facebook, hvor det er muligt for nyheder at blive spredt enormt hurtigt, så bliver du nødt til at gøre din befolkning modstandsdygtig gennem forskellige taktikker, primært kritisk tænkning og et højt uddannelsesniveau
_______

 

RÆSON: Der er et spørgsmål, som handler om, hvorvidt disse teknologivirksomheder truer demokratiet. Men der er også et andet, som handler om, hvorvidt kunstig intelligens er kompatibel med demokratiet. Hvis vi tager Facebook som eksempel igen: Jeg har meget svært ved at forestille mig, at det skulle kunne regeres demokratisk. For mig lader det til, at den hastighed, hvorved de har brug for at opdatere deres produkt, er inkompatibel med demokratiet.
AZHAR: Da telegrafen blev opfundet i det 19. århundrede, skabte det en hel masse problemer på aktiemarkedet, fordi aktiehandlere pludselig kunne kommunikere om markedssignaler på tværs af landet. Det skabte enorme muligheder for arbitrage [arbitrage er et fagøkonomisk udtryk, som henviser til muligheden for at handle et ensartet produkt på forskellige markeder, så man kan tjene differencen mellem det ene og det andet marked, red.]. Det skabte et behov for at skabe ensartede regler, og det gjorde man så.

På samme måde er der en lang række ting, man kan gøre i dag. Og de skal ske hurtigt. For det første: Hvis du har sociale netværk som Facebook, hvor det er muligt for nyheder at blive spredt enormt hurtigt, så bliver du nødt til at gøre din befolkning modstandsdygtig gennem forskellige taktikker, primært kritisk tænkning og et højt uddannelsesniveau. For det andet skal man ansvarliggøre de her netværk. Vi har ikke snakket om YouTube, men jeg mener det er en ekstremt problematisk platform. Jeg spiser ikke oksekød, kylling osv., men hvis jeg begynder at kigge på videoer om etiske fødevarevalg på YouTube, så er jeg ikke mange klik fra at blive anbefalet ekstremt ubehagelige slagtningsvideoer, som er blevet lagt op af dyrerettighedsaktivister. Så vi kan snakke om disse systemers organisering på samme måde, som vi snakkede om historiske systemers organisering.

Samtidig er der et tidsmæssigt problem, som handler om, hvordan de benytter sig af denne ekstreme magt, de har, og om monopoldannelse. Så ultimativt kræves der nye institutioner her.

Til sidst vil jeg gerne understrege, at hvis vi går 20 eller 25 år tilbage, så var der også evidens for disse tendenser dengang, altså selv før fx Google blev skabt. Vi skal bestemt snakke om Facebook og Google – det er vigtige diskussioner. MEN: De dybereliggende processer har været synlige i et godt stykke tid. Og det betyder, at vi gik galt i byen for ti år siden. Vi burde have reageret dengang, ikke nu. Og vi fejlede dengang pga. en fejlagtig tro på, at økonomisk vækst kun opstår som følge af innovation skabt af en særlig slags individ. Et individ, som havde behov for nogle bestemte omstændigheder for at kunne trives. De omstændigheder krævede, at vi ikke stillede nogle irriterende spørgsmål til, hvad de gjorde, og således tillod vi denne teknologiindustri at vokse sig stor og ureguleret.

Jeg vil gerne understrege, at jeg slet ikke mener, at vi skal sætte en stopper for de individer. Vi har haft enorm gavn og nytte af de teknologier og den innovation, de har været med til at opfinde: Google, Netflix, Street View, elektriske biler osv. Vi mangler bare at anerkende statens rolle i at skabe et miljø for entreprenørskab, for innovation og for vækst. Vi har markedsgjort og privatiseret mange funktioner, som i virkeligheden burde høre under staten. ■

 

Jeg bryder mig ikke om Facebook. Jeg bryder mig ikke om deres produkter og den måde, de opererer på, og jeg mener ikke, at de har en positiv nettoeffekt i offentligheden. Men jeg tror simpelthen ikke på, at grunden til, at vores liberale demokratier er i krise, kun har at gøre med Facebook
_______

Apropos denne artikel:

Lars Struwe: Vance lægger vægten på sikkerhed og frygten for Kina. Om vi kan lide det eller ej – og han har ret

Hvem er vi, hvis vi ikke er venner med amerikanerne? Mikkel Vedby med Jarl Cordua i Lille Land, Hvorhen

Can Dündar: Tyrkiet er på vej mod et fuldt diktatur. Erdoğan ved nemlig, at Europa er villig til at ofre dets værdier for sikkerhed

Grace Blakeley: Der er brug for en genopbygning af den massepolitik, der tillader almindelige mennesker at øve indflydelse på vores økonomiske og politiske institutioner 

Flemming Splidsboel i RÆSONs kommende trykte nummer: Hvad vi mister, hvis Ukraine taber

Øjvind Hesselager: Sådan mistede vi Grønland