29.05.2017

Udviklingen går kun i én retning: Myndigheder og virksomheder får bedre og bedre muligheder for at udnytte persondata og manipulere vælgere, borgere og brugere. Allerede nu anvendes vores personlige data til subtil manipulation og adfærdskontrol. Forskere efterlyser større åbenhed om, hvordan eksempelvis psykologisk profilering og identifikation af Facebook-brugeres humør kan udnyttes kommercielt og i valgkampagner.

Kommentar af Dan Mygind

For 11 år siden skrev jeg i dette magasin artiklen ”Amerika under overvågning”. Artiklen handlede om, hvordan USA var i gang med at etablere verdenshistoriens største overvågningssamfund. Reaktionerne fra mange læsere var dengang, at det var en lidt paranoid artikel iklædt sølvpapirshat. I dag er ingen i tvivl om, at vi lever i et samfund, hvor opsamling af data om vores digitale og analoge liv foregår i en grad, som er uset i verdenshistorien.

Hvad mange i dag nok ikke ved er, at de indsamlede bjerge af data kan anvendes til en detaljeret kortlægning af enkeltpersoners politiske overbevisning, intelligens, religiøse tilhørsforhold, psykologiske karakteristika – kort sagt en kortlægning af folks personlighed. Tilsvarende er der heller ikke så mange der ved, at den detaljerede profilering af enkeltpersoner kan anvendes til at manipulere med folks sindsstemning, holdninger og adfærd. Udviklingen fra overvågningssamfund til manipulationssamfund er i fuld gang.

Jeg har nyligt talt med en række forskere fra Cambridge Universitets psykometriske afdeling i forbindelse med research til en række artikler om digital profilering og meningspåvirkning. Forskerne er pionerer inden for udvikling af datamodeller og systemer, der anvender data fra sociale medier som Facebook og Twitter til at identificere brugernes seksuelle orientering, politiske overbevisning, religiøse overbevisning, intelligens og psykologiske karaktertræk.

Forskerne ønsker, at de potentielle samfundsmæssige konsekvenser af deres forskning, herunder anvendelsen af profileringssystemer, bliver diskuteret i offentligheden. Forskningsresultaterne kan nemlig få gennemgribende indflydelse på vores samfund. Michal Kosinski, en af forskningspionererne, betegner sin forskning som ”creepy”, og han mener bestemt ikke, at regeringer og virksomheder skal have lov til at bruge den slags metoder til at profilere og manipulere med folk i det skjulte. Men det er allerede sket.

Hvad mange i dag nok ikke ved er, at de indsamlede bjerge af data kan anvendes til en detaljeret kortlægning af enkeltpersoners politiske overbevisning, intelligens, religiøse tilhørsforhold, psykologiske karakteristika – kort sagt en kortlægning af folks personlighed.
_______

 

Humørpåvirkning via Facebook
Metoderne og teknologierne er allerede afprøvet ad flere omgange, og resultaterne har været gode – eller måske snarere dårlige, afhængigt af øjnene, der ser. Eksempelvis udførte Facebook tilbage i januar 2012 et eksperiment, hvor tæt på 700.000 brugeres humør og sindsstemning blev manipuleret ved hjælp af Facebooks news feed. Listen af statusopdateringer, billeder og beskeder, du ser, når du logger på Facebook, blev manipuleret af forskerne. En gruppe af Facebook-brugere fik vist indhold med overvægt af glæde og positive ord, mens en anden gruppe fik vist indhold med mere triste og negative ord. Efter en uge kunne forskerne konkludere, at Facebook-brugere, der blev udsat for det positive indhold, selv begyndte at kreere positivt indhold. Omvendt manipulerede det triste indhold den anden gruppe til selv at poste mere negativt og trist indhold.

Eksperimentet var interessant, for det viste, hvor nemt det er at påvirke folk, uden at de selv er klar over det. Offentligheden fik først kendskab til eksperimentet i juni 2014, da forskerne publicerede deres forskning i det prestigefyldte amerikanske Proceedings of the National Academy of Sciences. Eksperimentet skabte en voldsom debat, men desværre kom debatten nærmest udelukkende til at handle om det moralsk forkastelige i, at Facebook – uden brugernes samtykke – havde givet forskerne lov til at udføre eksperimentet. Det er selvfølgelig et vigtigt spørgsmål, men den principielt langt vigtigere diskussion om, hvor nemt det er at manipulere med store befolkningsgrupper via et socialt medie, gik tabt i fortørnelsen over Facebook.

Siden da har Facebook været stille vedrørende den slags eksperimenter. Betyder det, at verdens største sociale netværk er stoppet med den slags eksperimenter? Nej.

Avisen The Australian kunne 1. maj berette om, hvordan Facebook kan følge med i teenageres humørsvingninger. Oplysningerne stammer fra en lækket 23-siders rapport fra Facebook stemplet ”Confidential: Internal Only”. Rapporten beskriver, hvordan Facebook kan holde øje med brugernes statusopdateringer, billeder, interaktioner og internetaktivitet i realtid og deraf udlede, hvornår folk føler sig stressede, fortabte, nervøse, dumme, ubrugelige og som fiaskoer. Informationerne om de unges humør er baseret på ”interne Facebook data”, der ”ikke er offentligt tilgængelige”. Andre virksomheder kan dog få adgang til informationen, hvis de underskriver en fortrolighedsaftale, som forbyder dem at fortælle om det offentligt.

I en kommentar til afsløringen skriver Facebook følgende: ”Facebook tilbyder ikke værktøjer, der gør det muligt at ramme folk baseret på deres følelsesmæssige tilstand”. Facebook udpeger derimod gerne brugerne, og så kan annoncørerne målrette deres annoncer til de udpegede brugere med egne værktøjer.

Manipulation med fake news og censur
Med den slags Facebook-eksperimenter in mente bør vi ikke være overraskede over fænomenet fake news. Hvis du kan identificere folks sindsstemning og endda manipulere dem ved hjælp af positive eller negative historier, er der mange regeringer, virksomheder og organisationer, der er villige til sprede historier, som med det rette indhold kan manipulere med folk – hvad enten historierne er sande eller ej.

Den 27. april offentliggjorde Facebook rapporten ”Information Operations and Facebook”. Den måske lidt kedelige titel står i skærende kontrast til rapportens dramatiske erkendelse: Facebook bliver nødt til at bekæmpe fake news og information operations, der i efterretningstjenester og militære kredse også kendes som psykologiske operationer eller psy-ops.

”Vi har været nødt til at udvide vores sikkerhedsfokus fra traditionel misbrug som account hacking, malware, spam og finansielle fupnumre til at inkludere mere subtile og lumske former for misbrug, inklusive forsøg på at manipulere den offentlige diskurs og bedrage folk”, skriver rapportens forfattere.

Facebook står over for en kæmpe opgave med at afpatruljere indholdet fra 2 milliarder brugere. 21. maj kunne den britiske avis The Guardian afsløre, hvilke regler Facebooks moderatorer skal følge, når det gælder om at luge ud i racistiske, voldelige, pornografiske og seksuelt nedgørende statusopdateringer og billeder. Det er en svær balancegang for de 4500 moderatorer, der ifølge de lækkede dokumenter ofte kun har 10 sekunder til etiske overvejelser om, hvorvidt indhold skal fjernes. Fjernes for meget, vil der være anklager om censur. Fjernes for lidt, vil der være anklager om manglende kontrol med anstødeligt indhold.

Kombinationen af fake news/misinformation/propaganda og detaljerede personprofiler er det næste logiske skridt. Facebooks eksperiment fra 2012 blev udført, uden at forskerne havde nærmere kendskab til testpersonerne. Hvad nu hvis forskerne havde et indgående kendskab til hver enkelt testdeltager: en personprofil komplet med politisk tilhørsforhold, religiøs overbevisning, seksuel orientering, intelligensniveau samt en detaljeret psykologisk profil?

Forskerne fra Cambridge Universitets psykometriske enhed har vist, at en sådan personprofil kan skabes på baggrund af Facebook- og Twitter-data. Forskerne anvender den internationalt anerkendte OCEAN-model, der kategoriserer folk ud fra, hvor åbne, samvittighedsfulde, udadvendte, omgængelige og psykisk skrøbelige de er. Hvor meget nemmere ville det være for forskerne at manipulere et enkelt individ, som de har en detaljeret personprofil på?

Steve Bannon, Trumps chefstrateg og stifteren af det Trump-loyale nyhedssite Breitbart, har lovprist det system, som Cambridge Analytica har været med til at opbygge: “Jeg ville ikke være kommet ombord, selv ikke for Trump, hvis jeg ikke havde vidst, at de byggede denne massive Facebook- og datamaskine. Facebook drev Breitbart til et kæmpepublikum. Vi kender dets styrke”.
_______

 

Trumps valgsejr
Svaret på dette spørgsmål er nok: En hel del nemmere. Det er i hvert fald budskabet fra det britiske data science-firma Cambridge Analytica, der arbejdede sammen med Trumps valgkampagnestab. Som mange andre analyseselskaber anvender Cambridge Analytica datamodeller, der baserer sig på traditionelle demografiske, geografiske og økonomiske data om de amerikanske vælgere. Cambridge Analytica har dog en unik, ekstra parameter at spille på: psykografiske data, dvs. psykologiske karaktertræk baseret på OCEAN-modellen, som er udledt af data fra Facebook og andre datakilder.

”Psykografi er en forståelse af din personlighed. Det er din personlighed, som driver din adfærd og det er naturligvis din adfærd, som påvirker dit valg”. Det fortalte Cambridge Analyticas CEO Alexander Nix den 19. september 2016 på Concordia Summit-konferencen, der tæller regeringsledere og topchefer fra multinationale selskaber blandt deltagerne. I præsentationen forklarede Nix, hvordan en valgkampagne kan tilpasse budskaber til bestemte personprofiler, så budskabet får den ønskede effekt.

I denne forbindelse er det værd at bemærke, at Steve Bannon, Trumps chefstrateg og stifteren af det Trump-loyale nyhedssite Breitbart, har lovprist det system, som Cambridge Analytica har været med til at opbygge: “Jeg ville ikke være kommet ombord, selv ikke for Trump, hvis jeg ikke havde vidst, at de byggede denne massive Facebook- og datamaskine. Facebook drev Breitbart til et kæmpepublikum. Vi kender dets styrke”.

Efterretningstjenester og private firmaer
Muligheden for personprofilering er selvfølgelig også noget, som statslige efterretningstjenester og private efterretningsvirksomheder er interesserede i. Takket være Edward Snowdens afsløringer ved vi eksempelvis, hvordan britiske Joint Threat Research and Intelligence Group (JTRIG) anvender psykologisk profilering baseret på blandt andet sociale medier som beskrevet i et tophemmeligt dokument: ”Psykologisk profilering kan hjælpe med at identificere et individs personlige karakteristika (eksempelvis kognitive processer, adfærd og vaner), som er egnede til at forme og forudsige hans/hendes adfærd”. Profileringen foretages ved hjælp af offentligt tilgængelige data og efterretningsdata. De indsamlede data for en person sammenlignes med datamønstre for andre personer, hvis personkarakteristika er kendt. Er der et stort sammenfald, er antagelsen, at den undersøgte person sandsynligvis besidder de samme personkarakteristika.

I 2011 fik offentligheden et sjældent indblik i arbejdsmetoderne hos private firmaer, der driver efterretningsvirksomhed for store virksomheder og organisationer. Hacktivistgruppen Anonymous lækkede emails og dokumenter fra det private sikkerhedsfirma HBGary. Det lækkede materiale dokumenterede bl.a., at HBGary i samarbejde med firmaerne Palantir Technologies og Berico Technologies planlagde at miskreditere journalister som Glenn Greenwald og aktivister, der var kritiske over for US Chamber of Commerce, samt WikiLeaks, som havde lovet at publicere dokumenter om Bank of America. Efterretningsvirksomhederne havde planer om at sprede ”disinformation” samt at anvende ”sociale medier til at profilere og identificere risikofyldt adfærd blandt ansatte”.

Digital profilering har været her længe, men skal håndteres nu
Det handler ikke kun om sociale medier som Facebook. Google har f.eks. gennem lang tid haft mulighed for profilering ved hjælp af dine søgeresultater. Under min research stødte jeg endda på et forskningsnotat med titlen ”Inferring demographic attributes of anonymous Internet users”, helt tilbage fra 1999.

Personprofileringen har med andre ord eksisteret i mange år, og den forsvinder ikke. Tværtimod. Indenfor IT-verdenen foregår en voldsom udvikling indenfor Big Data, Machine Learning og Artificial Intelligence. Det er en udvikling, der i stigende grad gør det muligt at udlede detaljerede personlige karakteristika fra vores data. Forskerne ser det som en mulighed for, at services og produkter kan tilrettes den enkeltes personlighed og behov, men understreger dog, at alle bør være opmærksomme på, at det foregår nu og at det kan misbruges. De foreslår, at enkeltpersoner får fuld indsigt og kontrol over personprofilerne som diverse myndigheder, virksomheder og organisationer har om os. Det ville være et første skridt. Disruptionråd og politikere, lytter I?

Dan Mygind (f. 1967) er journalist, datalog og forfatter. Hans nye bog ’Verdensfortællerne’ er inspireret af virkelige begivenheder og beskæftiger sig med digital profilering og bevidsthedsmanipulation via traditionelle medier, sociale medier, internet-censur og overvågningsdata.

FOTO: Niall Carson/PA Photos/ritzau