Het nieuws in het kort: Russische Twittertrollen hebben in 2016 en 2017 minstens 940 Nederlandstalige tweets verstuurd. De trollen probeerden anti-islamhashtags trending te maken en mengden zich in Nederlandse ‘culture wars’. Geert Wilders en zijn PVV konden op steun rekenen van de Russische trollen. De accounts, geïdentificeerd na onderzoek van Twitter, riepen meerdere keren op om op de PVV te stemmen in aanloop naar de Tweede Kamerverkiezingen. Dat blijkt uit onderzoek van NRC naar ruim 200.000 tweets van de trollen. Het onderzoek dekt daarmee niet alle tweets van de 3.841 Russische Twittertrollen, omdat Twitter al hun accounts en tweets verwijderde. Het sociale medium zegt mee te werken met onderzoeken van de autoriteiten, maar gaat verder niet in op vragen van NRC over de activiteit van de trollen. Minister van Binnenlandse Zaken Kajsa Ollongren (D66) waarschuwde vorig jaar voor Russische beïnvloeding, maar kreeg kritiek omdat ze niet met concrete voorbeelden kwam. “Ongewenste buitenlandse inmenging raakt het fundament van de Nederlandse democratische rechtsorde en onze open samenleving en is dus volstrekt onwenselijk”, laat Ollongren via haar woordvoerder weten.

„Pfff dit vindt ik verschrikkelijk”. Het is 22 maart 2016, de dag van de terreuraanslagen in Brussel. Het is kwart over elf in de ochtend, ruim drie uur nadat de eerste bom in de vertrekhal van de Brusselse luchthaven Zaventem afging, als @harrymagician_ deze tweet verstuurt. Inclusief spelfout.

Omdat Twitter zijn account heeft verwijderd, is er over de twitteraar, die zich lijkt voor te doen als een Harry Potter-fan, niet meer terug te vinden dan de naam die bij het account hoort, Harry Johnson, en de omschrijving in zijn Twitterbiografie: „Harry – you’re a great wizard, you know”.

Een paar uur later wordt exact hetzelfde zinnetje, met drie f’en en dt-fout, nog een keer getwitterd. En dan nog drie keer. De nieuwe accounts voegen er telkens hashtags aan toe die de islam in een kwaad daglicht stellen. Ene Jude Lambert, een Trump-supporter, voegt aan de verzuchting toe: „#IslamIsTheProblem”. Anderen plakken er „#IslamKills” achter.

Over het onderzoek Lees de onderzoeksverantwoording in dit uitklapmenu Wat was de impact van de Russische Twittertrollen op Nederland? Al hun tweets werden verwijderd door Twitter, maar toch zwerven restanten rond op het internet. NRC combineerde twee datasets om zo de activiteiten van een deel van de Russische trollen in Nederland te reconstrueren. Het Amerikaanse Congres publiceerde de namen 3.841 accounts van Russische trollen, geïdentificeerd na onderzoek van Twitter en Facebook. Op basis van die lijst konden onderzoekers een deel van hun tweets terughalen. Hoe kwam deze lijst tot stand? Amerikaanse inlichtingendiensten concludeerden in januari 2017 dat het Kremlin een grootschalige beïnvloedingscampagne rond de presidentsverkiezingen van 2016 op touw had gezet, waarna president Obama een onderzoek gelastte. Als onderdeel van dat onderzoek bracht Facebook in september 2017 naar buiten een link te hebben gevonden tussen een groot aantal met roebels betaalde politieke advertenties en het Internet Research Agency, een inmiddels beruchte trollenfabriek in Sint-Petersburg. 22 van deze Facebookpagina’s hadden corresponderende Twitteraccounts, blijkt uit een verslag van Twitter aan het Amerikaanse Congres. Op basis van die accounts kon Twitter vervolgens een netwerk van IRA-trollen identificeren. Twitter keek niet alleen naar coördinatie tussen de accounts, maar ook naar verschillende criteria die de locatie van een Twitteraar verraden, zoals of een account in Rusland is gemaakt, of de gebruiker een Russische telecomprovider of Russisch emailadres gebruikte toen het account werd aangemaakt en of er ooit is ingelogd op het account via een Russisch ip-adres. Veel namen op de lijst met nepaccounts zijn ook via andere bronnen, zoals (Russische) onderzoeksjournalisten en klokkenluiders, geïdentificeerd als IRA-trollen. Eén zeer actief account, dat ook veel in het Nederlands twitterde, onttrekt zich overigens volledig aan de retoriek over islamisering en doet niet mee aan gecoördineerde acties rond de aanslagen in Brussel. EnTatjanaMax - naar eigen zeggen een Scandinavische reisblogger die ook over politiek en de Europese Unie schrijft - retweet maar liefst 101 keer het ministerie van Buitenlandse Zaken. Ook retweet deze ‘Tatjana Maksimova’ aan de lopende band Europese koningshuizen en overheidsbronnen uit binnen- en buitenland. Ze lijkt in alles de antithese van de opruiende internettrol die met radicale berichten verdeeldheid probeert te zaaien. Maksimova feliciteert hoogwaardigheidsbekleders bij verkiezingen en bedankt bijvoorbeeld de Italiaanse premier Matteo Renzi in het Italiaans “voor alles” na zijn verkiezingsnederlaag in december 2016. Haar Engelstalige tweets zijn wel zonder uitzondering pro-Rusland en pro-Trump, maar het is niet uitgesloten dat Tatjana Maksimova helemaal niet op de lijst van Twitter thuishoort. Ten minste één van de door Twitter bestempelde trollenaccounts is weer actief geworden. Een Twitteraccount van de Amerikaan Robbert Delaware stond op de lijst, maar hij wist zich succesvol bij Twitter te legitimeren en kreeg zijn account terug. Op een nieuwe versie van de lijst met Twittertrollen, die in juni geactualiseerd werd door het Amerikaanse Congres, komt zijn account dan ook niet meer voor. Ook veertien ander accounts zijn door een “verbeterde methodologie” van Twitter van de lijst gehaald. De Amerikaan Robbert Delaware vertelt aan NRC dat hij “erg pissig” was toen hij op 17 oktober plots niet meer in kon loggen op zijn Twitteraccount.

Er wordt die dag massaal getwitterd over de aanslagen, waarbij 35 doden vielen. Maar sommige Twitteraars zijn niet wie zij zeggen te zijn. Zeker 1.100 berichten worden verstuurd door accounts die zich voordoen als veelal patriottistische Amerikanen, maar in werkelijkheid bestuurd worden door Russische internettrollen, zo zegt Twitter. Trollen zijn internetgebruikers die, vaak onder een valse naam, berichten plaatsen om nieuws te manipuleren en verdeeldheid te zaaien.

De nepaccounts versturen de dag van de aanslag ook ruim 130 Nederlandstalige berichten. Dat is opmerkelijk, omdat ze zo hun gefabriceerde identiteit als patriottistische Amerikanen kunnen verraden. Ze werken volgens Twitter voor het Internet Research Agency (IRA), een ‘trollenfabriek’ in Sint-Petersburg. In een non-descript kantoorgebouw in een buitenwijk van de stad worden honderden, veelal jonge, Russen betaald om het debat op sociale media te manipuleren.

Vijf van de zes Twitteraccounts die op die dag „Pfff dit vindt ik verschrikkelijk” de wereld in sturen, maken deel uit van het Russische trollennetwerk. Het op het eerste oog onschuldige zinnetje verraadt veel over hun werkwijze. Een uur voordat Harry Johnson als eerste trol de zin naar zijn volgers zendt, plaatst een ander profiel namelijk exact dezelfde tweet, inclusief de fouten. Dat kan geen toeval zijn. Dit profiel is niet verwijderd door Twitter, en het heeft verder geen interactie met de trollen. De kans is dus groot dat het niet bij het netwerk van Russische trollen hoort en dat de Russen het zinnetje hebben gekopieerd.

Zo werkt een trol in een Russische propagandafabriek. Journalist Ljoedmila Savtsjoek werkte twee maanden undercover in trollenfabriek IRA.

Dat doen de Russen meer op de dag van de aanslagen. Wellicht hebben ze de vertaalfunctie van Twitter gebruikt om berichten met de juiste inhoud te selecteren. Ook zinnen als „in wa voor ne wereld leven wij??” en „#prayforbrussels tja dat moeten doen ja. Helpt … NOT” worden die dag gekopieerd. In bijna alle gevallen voorzien de trollen het Nederlandse origineel met nieuwe islamkritische hashtags, zoals #IslamKills. Dat de Russen Nederlandstalige tweets overnemen, in plaats van zelf een Nederlandstalig bericht te versturen, wijst erop dat ze het Nederlands niet machtig zijn.

De aanslagen in Brussel zijn – voor zover we nu kunnen zien – het eerste moment waarop de trollen in groten getale in het Nederlands actief worden. De trollen twitteren die dag voornamelijk in het Engels, maar plaatsen naast de Nederlandstalige tweets ook een paar berichten in het Frans en Spaans.

Russische inmenging in de VS

Dat we de gangen kunnen nagaan van een aantal accounts die werden aangestuurd door het IRA in Sint-Petersburg, heeft alles te maken met het onderzoek in de Verenigde Staten naar Russische inmenging in de presidentsverkiezingen in 2016. Onder druk van het Amerikaanse Congres hebben sociale netwerken als Facebook en Twitter hun servers onderzocht op sporen van Russische trollen.

Twitter heeft 3.841 accounts aan de trollenfabriek kunnen toeschrijven, onder meer omdat ze waren verbonden aan Facebookpagina’s die met roebels politieke advertenties hadden ingekocht. Een deel van deze accounts is ook door Russische klokkenluiders ontmaskerd. De trollenfabriek wordt volgens de Amerikaanse speciaal aanklager Robert Mueller gefinancierd en geleid door een schatrijke vertrouweling van de Russische president Poetin.

Ook na de aanslagen in Brussel hebben de trollen in het Nederlands getwitterd. Hoewel het sociale netwerk de accounts en hun tweets heeft verwijderd, kon NRC 940 in het Nederlands geschreven tweets, verstuurd door 152 aan het IRA verbonden accounts, achterhalen. De in de afgelopen twee jaar verstuurde tweets zijn het eerste bewijs dat Russische internettrollen zich in het Nederlands hebben uitgelaten op sociale media.

Voorbeelden van Russische inmenging in de publieke opinie in Nederland en België waren tot nu toe schaars. Minister Kajsa Ollongren (Binnenlandse Zaken, D66) en AIVD-hoofd Rob Bertholee waarschuwden eind vorig jaar wel voor Russische beïnvloeding in Nederland. Ze kregen kritiek omdat ze nauwelijks met voorbeelden kwamen.

De ‘islamisering’ van Europa en de existentiële bedreiging die daarvan zou uitgaan zijn het hoofdthema van de Russen, als ze in het Nederlands twitteren. De trollen proberen niet alleen islamkritische hashtags trending te maken, ze mengen zich ook in het Nederlandse vluchtelingendebat en roepen in aanloop naar de Tweede Kamerverkiezingen op om op PVV-leider Geert Wilders te stemmen.

NRC deed eerder onderzoek naar de trollen van het Internet Research Agency. Toen bleek dat ook Nederlandse media de tweets van de trollen citeerden in hun artikelen.

NRC ontdekte de Nederlandstalige tweets in twee datasets met meer dan 200.000 verwijderde tweets die werden verstuurd vanuit aan het IRA verbonden accounts. De accounts zijn ontmaskerd tijdens het parlementaire onderzoek naar Russische inmenging in de Amerikaanse presidentsverkiezing. Ze hielden zich vooral bezig met beïnvloeding van het Amerikaanse publieke debat en het is dus des te opvallender dat ze ook in het Nederlands hebben getwitterd.

De Amerikaanse Twitter-gebruiker Robbert Delaware kwam per ongeluk op de ‘trollenlijst’ met gewraakte accounts. Zes maanden zagen de VS hem aan voor een Russische trol.

De eerste dataset is openbaar en werd door de Amerikaanse nieuwszender NBC News online gezet. De tweede dataset kreeg NRC van een anonieme bron, die niet genoemd wil worden omdat Twitter het delen van opgeslagen tweets met derden niet toestaat.

De bestanden beslaan maar een gedeelte van de gehele productie van de IRA-trollen, al weten we niet precies hoeveel tweets de accounts in totaal hebben verstuurd. Afgaande op een verklaring van Twitter verstuurden de accounts mogelijk zo’n 1,5 miljoen berichten. Maar uit metadata over het aantal tot dan toe verstuurde tweets blijkt dat de trollen wel 7,5 miljoen berichten kunnen hebben verstuurd. Daar kunnen nog méér Nederlandse tweets in zitten.

We kijken dus naar een deel van een (mogelijk veel) groter geheel. Het is bovendien zeer waarschijnlijk dat er nog ándere trolaccounts actief zijn, die nog niet boven water zijn gekomen. De Amerikaanse socialemediabedrijven hebben geen onderzoek gedaan naar Russische inmenging in andere landen dan de VS en het Verenigd Koninkrijk. Daardoor weten we niet hoe ver de Russische inmenging in Nederland reikt. Het Internet Research Agency was niet alleen op Twitter actief, maar ook op Facebook, Instagram, YouTube, Tumblr en Reddit.

Culture wars

In de maanden na de aanslagen in België verplaatsen de trollen hun aandacht naar Nederland. Als ze in het Nederlands twitteren doen ze dat vanaf nu niet meer en masse over één gebeurtenis en bijna alleen nog maar in de vorm van retweets. Naast Nederlandse media als RTL en NOS, waarvan berichten over immigranten en vluchtelingen worden geretweet, zijn vooral rechtse twitteraars populair onder de trollen, zoals Geert Wilders, PVV-Kamerlid Martin Bosma, activist Joost Niemöller en de uitgesproken Telegraaf-journalist Wierd Duk.

De trollen mengen zich zo in de Nederlandse ‘culture wars’, waarin uiterst rechtse opiniemakers zich opwerpen als hoeders van een bedreigde Nederlandse identiteit en ten strijde trekken tegen progressieve ‘cultuurrelativisten’.

Vooral Wilders is populair, blijkt uit de tweets in handen van NRC. Wilders en de PVV worden ruim honderd keer genoemd door de trollen, meestal via een retweet. Eén van de succesvolste accounts die werden aangestuurd vanuit Sint-Petersburg, @Ten_gop, twittert in een periode van vier maanden in 2016 minstens 32 keer een Engelstalig citaat van de PVV-leider. Het account claimde het „onofficiële Twitteraccount van de Republikeinen in Tennessee” te zijn, had 136.000 volgers en was vooral populair in alt-right-kringen. „‘I hope Donald Trump will be the next US President. Good for America, good for Europe.’ ~ Geert Wilders”, aldus @Ten_gop in augustus 2016.

Hoofdthema’s zijn de islam en vluchtelingen, maar het gaat in de Nederlandstalige tweets ook over Zwarte Piet, Sylvana Simons, ‘deugmensen’ en ‘eurocraten’ die verantwoordelijk worden gehouden voor de ‘islamisering’ van het Westen. Overigens verspreiden de trollen ook af en toe heel alledaagse berichten, zoals de mededeling dat ze ergens pizza hebben besteld.

Twijfel zaaien

Westerse inlichtingendiensten zijn het in grote lijnen eens over het doel van het Russische trollenleger: twijfel zaaien en de tegenstander destabiliseren. De zo veroorzaakte chaos verzwakt westerse democratieën, de Europese Unie en de NAVO. De Russische nepaccounts hebben ook in Duitsland en het Verenigd Koninkrijk geprobeerd het immigratiedebat te beïnvloeden, blijkt uit Brits onderzoek.

De Nederlandse Kamerverkiezingen in 2017 waren voor zover we nu kunnen zien geen belangrijk thema voor de Russen. De Russen retweeten zeventien keer een oproep om bij de Tweede Kamerverkiezingen van maart 2017 op Wilders te stemmen, zevenmaal in het Engels, tien keer in het Nederlands.

Alles bij elkaar krijgt Wilders meer steun dan andere Nederlandse politici of partijen, maar er lijkt op basis van de ruim 200.000 door NRC onderzochte tweets geen sprake te zijn van een grootschalige campagne om hem stemmen te bezorgen, zoals het IRA volgens speciaal aanklager Mueller wel heeft geprobeerd om Trump in het Witte Huis te krijgen. Het aantal teruggevonden tweets over Wilders en de PVV is daarvoor te klein. Ook zou je bij zo’n campagne een toename van activiteit in aanloop naar de Tweede Kamerverkiezingen verwachten, maar daarvan is geen sprake.

De trollen deinzen niet terug voor het verspreiden van discriminerende tweets. Zo retweet Twittertrol Emilee Waren op 23 oktober 2016 de tekst „Spreek je uit tegen de islamisering van het Avondland, of laat je vrouw en dochters verkrachten”. De originele tweet werd verstuurd door een inmiddels geblokkeerde Nederlandse twitteraar die in zijn biografie schreef: „het enige juiste moslim beleid komt uit de loop van een vuurwapen!”. Waren, gevolgd door 1.909 twitteraars, omschrijft zichzelf overigens als „Christian, Constitutional, Capitalist, NRA, Supporting Military, Police, Wife, Mom”.

Twintig Nederlandstalige tweets van de Russische trollen Tijdens de aanslagen op Zaventem in maart 2016 probeerden de trollen via gekopieerde Nederlandstalige tweets en retweets anti-islamhashtags trending te maken. Na die tijd retweeten de trollen voornamelijk bekende of onbekende uiterst rechtse Nederlandstalige Twitteraccounts. Om de accounts oprechter over te laten komen (re)tweeten de trollen ook veel nieuwsmedia en andere alledaagse dingen, zoals pizzabestellingen, of naar welke muziek geluisterd wordt. Troll naam @ schermnaam · Tekst van de tweet Laad volgende troll tweet

Of neem het bericht van @Suikerbuikje in maart 2017: „Laat onze Nederlandse cultuur niet verpesten door #islamridders die onze spullen vernielen,ons aanvallen/ verkrachten, niet werken&onsberoven”. De Russische trol @PatriotBlake, net als Waren een zogenaamde aanhanger van de Amerikaanse National Rifle Association, retweet het bericht naar 2.167 volgers.

De ruim negenhonderd Nederlandstalige IRA-tweets hebben waarschijnlijk een bescheiden aantal Nederlanders en Belgen bereikt. Bij elkaar hadden de trollen die in het Nederlands twitterden op het moment waarop ze de tweets verstuurden bijna 250.000 volgers, waarvan een onbekend aantal Nederlanders en Belgen. Maar ze worden amper gedeeld en het aantal reacties is summier en veelal negatief.

De gecoördineerde actie om anti-islamhashtags trending te maken op de dag van de aanslagen in Brussel bevalt zeker vier Nederlandstalige twitteraars niet: is dat niet racistisch vraagt de één, „ben je wel wakker?”, vraagt een ander. Onvriendelijker kan het ook: „Hou je bek de enige probleem bent gij fucking ezel.”

De Engelstalige productie van de trollen is voor zover we kunnen nagaan niet alleen veel groter, maar ook veel succesvoller onder Nederlanders en Belgen. Deze tweets zijn niet op Nederland gericht. Ze gaan veel over de Amerikaanse verkiezingen, maar ook onderwerpen als immigratie, vluchtelingen en de islam komen aan bod. Ruim zesduizend Nederlandstalige twitteraars, gevolgd door circa 9,5 miljoen mensen, hebben bijna 30.000 Engelstalige tweets van de trollen gedeeld met hun volgers.

Vooral een groep uiterst rechtse twitteraars verspreidt de in Rusland gefabriceerde berichten fanatiek. Zo’n dertig Nederlandstalige twitteraars hebben ieder meer dan honderd keer interactie gehad met een Russische trol. @Flikfluimsnor, goed voor 147 interacties, bedankt bijvoorbeeld het Russische nepaccount @Pamela_Moore13 voor het delen van een tweet over Marine Le Pen: „Thanks for using my tweet. It’s for a good cause!”

Correctie 11-08: In het artikel stond dat de Russische trollen niet terugdeinzen voor het verspreiden van ‘racistische’ tweets, maar de genoemde voorbeelden zijn beter te omschrijven als ‘discriminerend’.

Een versie van dit artikel verscheen ook in NRC Handelsblad van 16 juli 2018