22.02.2019

”Hvor end du finder lande med et autoritært styre, er en større del af deres redskaber imod hjemlig opposition ved at blive til koordinerede onlineoperationer – og så snart man har dem oppe at køre, er det meget nemt at vende skytset mod udenlandske mål.”

Dette er tredje del af en miniserie om russisk propaganda og misinformation. Tidligere med Keir Giles og Jānis Sārts.

Interview af Christiern Santos Rasmussen

RÆSON: Hvilke muligheder har den digitale revolution medført for misinformationskampagnerne?
NIMMO: Der har altid været misinformation. Det er lige så gammelt, som man kan huske. Hver gang vi har set en revolution inden for kommunikation, har det altid været efterfulgt af en misinformationsrevolution. Trykkepressen, der først blev hyldet som en fantastisk opfindelse til at sprede viden til hele Europa, blev hurtigt brugt som propagandavåben i de religiøse krige, og selv Martin Luther kaldte dem for sit belejringsvåben.

Den nuværende kommunikationsrevolution introducerede to nye hovedudviklinger. Det drejer sig om en forøgelse af både internettets hastighed og tilgængeligheden af redskaber (fx software) til produktion af materiale. Sidstnævnte har gjort det meget enkelt for enhver med adgang til en computer hurtigt at producere falsk materiale, som ser meget overbevisende ud, og takket være internettet og særligt sociale medier er det meget nemt at sprede det. Så selvom den digitale revolution tillod oprigtige mennesker at dele sand information på en helt ny måde, så er misinformationen altså bagsiden af samme revolution.

RÆSON: De sociale og digitale medier har skabt en infrastruktur, så man kan navigere i denne overflod af information, og det misbrugte ondsindede aktører fx i det amerikanske præsidentvalg 2016. Hvordan kan man se, at platformene har ændret sin tankegang, og virkede de tiltag, som skulle forhindre, at situationen i 2016 gentog sig i midtvejsvalget 2018?
NIMMO: I starten så var det virkelig nemt for de ondsindede aktører at skabe falske profiler på disse platforme og bagefter skabe og forstærke falske historier. Men nu er platformene virkelig begyndt at vågne op og ser, hvordan de bliver misbrugt, og de har optrappet deres indsats overfor misinformation og disinformation (hvor disinformation er den bevidste spredning af falsk information, og misinformation blot er uforvarende spredning af misvisende information). Natten før det amerikanske midtvejsvalg udsendte Facebook en offentlig besked, hvor de informerede om, at man havde modtaget en advarsel fra FBI dagen før, om potentielle fjendtlige udenlandske påvirkningskampagner på deres platform, og at man allerede havde suspenderet pågældende profiler. Tænk på tidsrammen: Facebook får en advarsel fra FBI en søndag, og om mandagen er profilerne fjernet, og de har udsendt en udtalelse. Det ville ikke være sket i 2016.

Men et midtvejsvalg er meget anderledes end et præsidentvalg, så man kan ikke rigtig sammenligne de to. Så vidt vi kan se, var der bestemt meget mindre af udenlandsk koordineret ikke-autentisk adfærd ved midtvejsvalget sammenlignet med 2016. De russiske påvirkningskampagner har mistet tusindvis af sine højprofilerede aktiver over de sidste to år med fjernelsen af alle de kendte og vigtige profiler fra 2016. Så de er nødt til at genopbygge deres kapaciteter og den seneste udrensning af falske profiler, som sandsynligvis var russisk drevne, var stadig i de tidlige stadier og ved at kultivere sine publikummer.

Men selvom at vi ikke så 2016 gentage sig, delvist pga. de sociale medier, politiet og open source-miljøets arbejde, så skal vi ikke være alt for skråsikre, for den virkelige bekymring er præsidentvalget i 2020. I maj 2014 besluttede de russiske troldefarme at gå efter præsidentvalget i november 2016 og gav altså sig selv 2,5 år til at oparbejde et publikum og en indflydelsessfære. Så hvis de var i gang med at skabe profiler i midten af 2018, så var det nok ikke for at gå efter midtvejsvalget, men for at sigte mod præsidentvalget i 2020. Man kommer nemt til at tænke i minutter, timer og dage, når man taler om sociale medier og internettet, men de her påvirkningsoperationer bliver altså planlagt over flere år.

 

Man kommer nemt til at tænke i minutter, timer og dage, når man taler om sociale medier og internettet, men de her påvirkningsoperationer bliver altså planlagt over flere år
_______

 

RÆSON: Når denne genopbygning forud for 2020 finder sted, bliver redskaberne så mere sofistikerede?
NIMMO: Alle de aktører, vi har set, er blevet mere sofistikerede; mest af alt fordi de digitale forsvar er blevet mere aktive og sofistikerede. Sidste år fandt jeg et kommercielt botnet, dvs. et netværk af automatiserede falske profiler, der på sit højeste inkluderede ca. 75.000 twitter-profiler. Mens botnettet primært lejede sine bots ud for at forstærke materiale, dvs. like og re-tweete opslag for penge, havde hver profil et profilbillede af en pige i bikini og beskrivelsen “Hey drenge, kom og se mere af mig på det her link”. Et link, der førte til en betalingshjemmeside for porno registreret i Rusland. Så det var altså at få folk ind på den hjemmeside, som var botnettets ultimative mål.

Det interessante var dog måden, hvorpå dette botnet var opbygget. Deres operatør havde tænkt over at mixe invitationerne til hjemmesiden og bikini-billederne med opslag, der brugte rigtigt og naturligt sprog, ved at skrive en algoritme, der automatisk tog citater fra Jane Austens “Fornuft og Følelse” og slog dem op som et tweet. Så mellem bikini-billederne og invitationerne så det altså ud som om, de her profiler citerede Jane Austin. Når man ser på det her gennem menneskelige øjne, så skriger det, at noget er galt. Men Twitters algoritme ser kun tekst-opslag, foto-opslag og normale links – hvilket er normal menneskelig adfærd på internettet. Derfor fjernede algoritmen dem ikke. Det er en ret sofistikeret måde at undgå at blive opdaget, hvilket ingen havde gjort to år siden. Dengang var de umådeligt primitive i måden, de opererede på, og havde overhovedet ingen form for beskyttelse af operationen. En af de mest kendte russisk kontrollerede Twitterprofiler, der hed TennesseeGOP@TEN_GOP, og som udgav sig for at være den uofficielle Twitterprofil for det republikanske parti i Tennessee, var registreret på et russisk telefonnummer og betalte for sine digitale reklamer med rubler.

Fra de seneste fjernelser af profiler kan vi se, at dem bag botnettene er blevet meget mere forsigtige. De slår mindre originalt indhold op – ofte fordi de ikke skriver så godt engelsk – men bruger i stedet memes og kopierer fra andre sider. Det gør dem sværere at fange, men det betyder også, at det bliver sværere for dem at kultivere et publikum. Hvis du kun deler andres indhold, tiltrækker du ikke nær så mange følgere, som hvis du tilbød originalt indhold med din egen stemme. Det vil selvfølgelig påvirke genopbygningsprocessen forud for 2020 valget og kræver mere af operatørerne. Så vi ser nu et hjerne-kapløb om, hvem af troldene eller platformene der er klogest.

RÆSON: Vi fokuserer ofte på Facebook og Twitter, men der er mange andre platforme. Har der været aktivitet ifm. misinformation på dem, og hvordan har de så reageret?
NIMMO: Absolut. Der har været en heftig aktivitet på Instagram, og jeg tror, at Instagram vil blive en mere vigtig platform for disinformationsoperationerne, fordi det passer perfekt med deres strategi om at dele memes. Reddit gjorde noget ret interessant ved at identificere flere hundrede russiske troldefarmes profiler på deres platform, som de blokerede for troldene. Men man lod dem være tilgængelige, så at andre kunne se, hvordan de virker, hvilket hjælper os i open source-miljøet med at samle data.

De her operationer har tidligere benyttet en række forskellige platforme. Fx i september 2014, hvor en russisk disinformationsoperation spredte en falsk historie om en eksploderet kemikaliefabrik i Louisiana. Her kaprede man det lokale mobiltelefoniske system, oprettede sider på Facebook, Twitter og Wikipedia, mens man uploadede videoer på YouTube – hvilket også er en platform, der er kilde til stor bekymring. De havde sågar skrevet en historie på CNN’s hjemmeside for crowdsourced journalistik. Det vil kun være logisk, at trolde også er på andre sociale medier såsom 4chan eller 8chan, og der har særligt været bekymringer for spredningen af disinformation, på krypterede end-to-end beskedtjenester såsom WhatsApp.

 

Vladimir Putin og hans regime ikke er det samme som hele Ruslands befolkning. Det er en lille og meget moralsk og demokratisk mistænkelig klike ovenpå et meget stort og forskelligartet land
_______

 

RÆSON: De russiske påvirkningskampagner spreder ofte narrativer for at manipulere sit publikums opfattelse af omverdenen. Hvordan gør de det, og hvad bør vi være opmærksomme på, når vi skal undgå at blive manipuleret?
NIMMO: Man kan ofte forudse den russiske kampagne ved at bruge det, jeg kalder de fire D’er, som er dismiss (affeje), distort (forvrænge), distract (distrahere) og dismay (afskrække).

Når de affejer, vil de fornærme og modsige enhver kritik og dem, der tilvejebringer beviserne i en given sag. Bellingcat, der har gjort et fantastisk stykke arbejde med at eksponere russisk aktivitet i Ukraine, bliver med jævne mellemrum affejet af den russiske stat for at fabrikere beviser og være russofober. Men det gøres, uden den russiske stat kan komme med konkrete beviser.

Forvrængning af fakta: Efter MH-17 blev skudt ned over Ukraine, fremlagde det russiske forsvarsministerium satellitbilleder, som det påstod, viste ukrainske anti-luftværnsmissiler tæt på området, hvor flyet styrtede ned. Det var den russiske stats hovedbevis på, at nedskydningen var Ukraines værk, men senere beviste en omfattende undersøgelse, at disse billeder var blevet photoshoppet.

De distraherer: Hver gang russerne anklages for noget, så anklager de anklageren for at gøre det samme eller noget tilsvarende. Da fire officerer fra den russiske militære efterretningstjeneste (GRU) blev arresteret i Holland for at forsøge at hacke sig ind i de hollandske myndigheder, der håndterer kemiske våben, var en af reaktionerne fra den russiske stat at sige, at briterne og amerikanerne også hacker folk. Så her handler det om både at lave en falsk moralsk sammenligning og skifte emne og fokus.

Endelig vil de afskrække ved at komme med frygtelige trusler og sige, at forsætter man med at gøre et eller andet, vil det have forfærdelige følger, ofte atomkrig. Da Danmark offentligt overvejede om at bidrage med en fregat til NATO’s missilskjold for et par år siden, truede den russiske ambassadør i et interview i Jyllands-Posten med, at det ville medføre, at Danmark kom på listen over nukleare mål.

Samtidig skal vi huske på, at Vladimir Putin og hans regime ikke er det samme som hele Ruslands befolkning. Det er en lille og meget moralsk og demokratisk mistænkelig klike ovenpå et meget stort og forskelligartet land. Så når vi taler om “russerne”, bliver man nødt til at specificere, hvilke russere vi taler om: regimet eller folket?

RÆSON: Selvom den russiske stat er den største aktør indenfor disinformation, er de langt fra de eneste, som en analyse af iranske kampagner fra Digital Forensic Lab viser. Hvordan adskiller disse andre aktører sig?
NIMMO: Den russiske er den største, mest kendte, sofistikerede disinformationskampagne og er primært baseret på at bruge sociale medier og falske profiler på dem til at tiltrække rigtige brugere for at kunne fodre dem med polariserende narrativer. Den iranske kampagne var mere baseret på hjemmesider, som gengav og delte den iranske regerings propaganda og selv materiale fra ayatollahens egen hjemmeside. De brugte primært sociale medier til at lede folk til de her hjemmesider, og en tredjedel af alle deres opslag forsøgte at tiltrække folk til en specifik gruppe af hjemmesider. Men i den seneste fjernelse af iranske profiler for nogle måneder siden så vi, at de er begyndt at bevæge sig væk fra denne strategi og i højere grad forsøger at nå mennesker på sociale medier, hvilket tyder på, at de har lært af de russiske trolde.

Men det, vi generelt ser, er, at flere og flere lande bruger online misinformationsteknikker til at kontrollere deres egne befolkninger. Vi skal huske, at de her redskaber blev udviklet af den russiske stat i 2013 til at angribe oppositionen, og da de redskaber var skabt, vendte man dem mod udenlandske fjender. Det er kendt, at der i steder som Filippinerne, Indien og Myanmar er forskellige typer af misinformationsoperationer og med tiden vil man også se anvendeligheden af disse redskaber i udlandet. Det klassiske eksempel er Saudi-Arabien, der er blevet linket til en koordineret online intimideringskampagne af regimekritikere. Da Jamal Khashoggi blev myrdet, så vi en bølge af pro-saudisk trolling, der også gik efter vestlige analytikere, og vi så titusindvis af bots, der blev aktiveret for at forstærke saudiske beskeder, primært på arabisk men også på engelsk.

Hvor end du finder lande med et autoritært styre, er en større del af deres redskaber imod hjemlig opposition ved at blive til koordinerede onlineoperationer, og så snart man har dem oppe at køre, er det meget nemt at vende skytset mod udenlandske mål.

RÆSON: Mange rapporter peger på, at Danmark og Norden er særligt modstandsdygtige mod russisk disinformationsteknikker. Internt har de nordiske lande gennem de senere år fået en politisk skillelinje om indvandring og integration. Kan det udnyttes af disse disinformationsaktører – og ikke kun Rusland?
NIMMO: Den russiske strategi har altid været at udnytte eksisterende sociale og politiske gnidninger og ikke kun etniske opdelinger. I Baltikum var det særligt nemt at mobilisere den russiske diaspora, som føler, at den bliver behandlet som andenrangsborgere. I USA spillede man begge sider af politiske emner ud mod hinanden. Ved San Bernardino-skyderiet i Californien i december 2015 delte nogle af de russisk kontrollerede profiler pro-våben-kommentarer og -materiale, samtidig med at andre gjorde det samme for anti-våbensiden. Lignende eksempler kan findes ifm. Black Lives Matter-bevægelsen. Det mest skræmmende eksempel er fra 21. maj 2016, hvor de organiserede to events i Houston, Texas, hvor den ene var en demonstration mod et Islamisk Kulturcenter og den anden var en moddemonstration. Mindst en af de russisk kontrollerede profiler opfordrede folk til at medbringe våben, hvilket de altså gjorde. Så her har vi et eksempel, hvor russiske trolde i Sankt Petersborg forsøger at få bevæbnede amerikanere til at stå ansigt til ansigt i Houstons gader.

 

Når det kommer til indvandring, elsker den internationale ekstreme højrefløj at skabe problemer med muslimer. Så det behøver ikke at være russerne eller saudierne og iranerne
_______

 

Når en regering skal løse det her problem, er det vigtigt, at man spørger: “Hvilke samfundsgrupper kan blive et mål, og er disse grupper virkelige protestgrupper?”. Hver stat bliver nødt til at finde samfundsgrupper med oprigtige problemer med regeringen og finde ud, af hvordan de så løses. Efterlades bestemte store problemer uløste, så vil disse grupper være en åben invitation til enhver påvirkningskampagne. I forhold til Europa og Danmark skal vi være opmærksomme på anonyme, aggressive og hyper-radikale profiler, der siger “Alle muslimer er onde! Lad os lynche dem!”, og særligt hvis andre samtidig siger ”Nu kommer de og dræber os! Find jeres våben!”. Faren er nemlig, at begge disse debatter kan blive ledt af udenlandske trolde. Men når det kommer til indvandring, elsker den internationale ekstreme højrefløj at skabe problemer med muslimer. Så det behøver ikke at være russerne eller saudierne og iranerne – som også er en del af det her billede – men det kan også bare være udenlandske højre-ekstreme aktivister.

RÆSON: En række politiske tiltag formuleres nu med henblik på at stoppe misinformationskampagnerne. Hvad er vigtigt at have med i disse overvejelser?
NIMMO: Der bliver nødt til at være en systematisk diskussion om, hvordan man realistisk og hurtigt kan håndtere det her problem, uden det indskrænker ytringsfriheden. Det er en enormt svær diskussion, og det er også derfor, at vi skal begynde nu, fordi hvis vi først starter den på valgdagen, så kommer vi ingen vegne.

Det vigtigste, man skal huske på, er, at internettet er rigtigt hurtigt, og loven er rigtig langsom. Det franske lovforslag fra februar sidste år om fake news sagde, at hvis der cirkulerede påviselig falsk information på nettet, fik en dommer 48 timer til at afgøre, om platformene skulle fjerne det. 48 timer er et nanosekund i det juridiske system, men hvis det er en meget viral historie, har du ikke 48 timer, men 48 minutter – maks.

De eneste, der har en chance for at stoppe det her materiale, er platformene, og det bekymrer mig, at vi lige nu ser mange lovgivere, som kun klandrer, truer og kalder platformene for en demokratisk trussel, uden at forstå det mest basale af hvad der foregår. En af de mest basale sondringer i disinformation er forskellen mellem en bot og en trold: En trold er en person foran en computer og en bot er en algoritme, der gør alt automatisk. De fleste politikere aner ikke, hvad forskellen er, og tror, alt er trolde. Når du kombinerer det niveau af ignorance med den aggressive retorik, er det virkelig ikke konstruktivt.

Jeg vil rigtig gerne se en stor tværeuropæisk krisehåndteringsøvelse et par måneder før Europa-Parlamentsvalget, hvor platforme er inkluderet på højeste niveau, og hvor der i øvelsen indgår et blitzangreb af disinformationskampagner, der angriber valget. Så tvinger du regeringer, organisationer og platformene til at samarbejde. Hvad vi har set indtil videre, især i de sidste seks måneder, er, at platformene har forsøgt at gøre det her på egen hånd, hvilket bare ikke er nok.

Politikkerne bliver nødt til at finde på en løsning, der er tilpasset internettets virkelighed og hastighed, men også øve sig og have en standardprocedure for, hvordan man i fællesskab skal reagere på det her problem.

RÆSON: Én ting er, hvad platforme og regeringer kan gøre. Men målet for disinformationsaktørerne er almindelige mennesker, der ikke har adgang til de samme ressourcer. Hvilke redskaber har de?
NIMMO: Det er nemlig rigtigt, og de bedste redskaber er altid dine øjne og din hjerne. Det vigtigste er at forstå, hvordan disse operationer fungerer, og så selv lede efter sporene. I dag handler det mere om mentaliteten, og det vigtigste er ikke at gå i panik men se, hvad du kan deducere fra det, du kigger på. De basale redskaber er ret nemme at lære.

Hvis du ser en overskrift, der gør dig vred eller bange, så skal du først tænke over, hvem der forsøger at skræmme eller gøre dig vred og hvorfor? Ofte er det bare folk, der vil have klik, men det kan også være en påvirkningskampagne.

Når man skal holde øje med bots er det enkleste redskab de tre A’er:
Aktivitet – hvor ofte slår den her profil noget op? 1-2 gange om dagen eller 100-200 gange om dagen? Anonymitet – led efter tegn på, at det er et rigtigt menneske bag profilen. Tilbyder de troværdig information om sig selv? Er det anonyme opslag? Amplification (forstærkelse) – hvad lægger de op? Er det kun re-tweets, delinger eller overskrifter fra andre hjemmesider, og så videre?

Hvis du har en profil med 300 tweets om dagen, ingen personlig information, og de sidste 600 posts er retweets fra andre profiler, så er det sandsynligvis en bot, du kigger på.

Den her form for folkeuddannelse er der mere og mere brug for. Ikke kun på grund af misinformation. Der er næsten en form for almen accepteret viden blandt forældre, at det er mere sikkert for børn at gå ned ad en farlig gade om natten, end det er, at de sidder alene på internettet, fordi internettet er den mest farlige gade i verden, hvis du går ned af den forkerte ”sidegade” eller uploader et billede. Så der er en kæmpe appetit for at lære børn at være sikre på nettet. Men det gælder også voksne. Det er ækvivalenten af at være street-safe, og for alles og vores egen skyld skal vi lære at være web-safe. ■

 

Hvis du ser en overskrift, der gør dig vred eller bange, så skal du først tænke over, hvem der forsøger at skræmme eller gøre dig vred og hvorfor? Ofte er det bare folk, der vil have klik, men det kan også være en påvirkningskampagne
_______

Apropos denne artikel:

Peter Danholt: Trump har brudt vores internationale system ned og indvarslet en ny æra. Den slags er faktisk helt naturligt – og måske endda håbefuldt

Geopol med Mikkel Vedby og Lars Struwe: Kan Europa overhovedet købe amerikanske våben længere?

Peter Lautrup-Larsen: Trump er fanget af sin egen retorik. Derfor er det op til Mette Frederiksen og landsstyrets nye formand at vise vejen frem for Grønland

Ulrik Pram Gad om 'Sneskredsvalget' i Grønland: Jeg vil være forbeholden med at kalde det en jordskredssejr. Et jordskred plejer at starte ét sted og slutte et andet. Det, man ser her, er en polarisering

Alexander With: Selvstændighed, Rigsfællesskabet eller USA? Fremtiden byder på både muligheder og farer for Grønland

Jens Worning om våbenhvileaftalen med Ukraine: Kreml er tavs for nu, men spørgsmålet presser sig på: Hvem styrer USA’s udenrigspolitik?