Russische Twittertrollen zijn de afgelopen twee jaar ten minste dertig keer geciteerd door belangrijke Nederlandse nieuws- en opiniesites. Ten minste vier tweets in vijf Nederlandse artikelen bevatten nep- of misleidend nieuws, verspreid door Russische trollen. Dat blijkt uit onderzoek van NRC.

Trollen zijn internetgebruikers die berichten plaatsen, bijvoorbeeld op Twitter, om nieuws te manipuleren en onrust te zaaien. Het Russische Internet Research Agency (IRA) – nauw verbonden met het Kremlin – stuurt al jaren een groot aantal van deze trollen aan. Facebook maakte eerder dit jaar bekend dat Russische trollen via politieke advertenties op het netwerk hadden geprobeerd de Amerikaanse presidentsverkiezingen te beïnvloeden. CDA-leider Sybrand Buma en minister Kajsa Ollongren (Binnenlandse Zaken, D66) waarschuwden vorige maand dat ook Nederland kwetsbaar is voor zulke desinformatiecampagnes.

Het NRC-onderzoek is gebaseerd op een lijst met accounts die volgens Twitter hebben geprobeerd vanuit het IRA de Amerikaanse verkiezingen te beïnvloeden. Dit ‘trollenleger’ was invloedrijk. Sommige accounts hadden tienduizenden, een enkeling zelfs meer dan honderdduizend volgers. Talloze buitenlandse nieuwssites, politici en beroemdheden hebben tweets van de trollen verspreid, en zo de Russische beïnvloedingscampagne een handje geholpen.

De Russen gingen geraffineerd te werk. Ze deden zich voor als nieuwsorganisaties (met namen als Today in Syria en WorldNewsPolitics), politieke partijen (de Republikeinse partij in Tennessee werd door maar liefst drie afzonderlijke accounts geïmiteerd en elk ervan is geciteerd in Nederlandse media) of geëngageerde burgers (bijna allemaal fel pro-Trump en anti-moslim). Verdeeldheid zaaien en raciale spanningen verhogen was hun voornaamste doel, blijkt uit onderzoek van het Amerikaanse Congres.

Twitter heeft de tweets verwijderd en de accounts geschorst. Maar verwijderde tweets die ooit zijn geplaatst op een internetpagina laten een spoor achter – soms alleen een Twitternaam, soms de volledige tekst. Dat maakt het mogelijk ze terug te vinden via Google.

Zender Powned citeerde van de twaalf onderzochte nieuws- en opiniesites het vaakst een Russische trol: zeven keer. Weblog GeenStijl plaatste zes berichten van trollen, de Volkskrant en nieuwssite De Dagelijkse Standaard ieder vier. NRC heeft op zijn website één keer een tweet van een Russische trol geciteerd, verstuurd door een account dat nieuws uit Syrië deelde. De tweets werden verzonden tussen september 2015 en september 2017. Begin november gaf het Congres de lijst met trol-accounts vrij. Niet duidelijk is of Rusland ook Nederlandstalige trollen aanstuurde.

Geciteerd Laad nog een troll-tweet (/30)

FoundingSon

De tweets vertellen veel over de werkwijze van de Russen. Ze zijn naar de kennelijke bedoeling onder te verdelen in drie categorieën: misleiding door het in omloop brengen van nepnieuws, beïnvloeding door Kremlin-gezinde meningen te verspreiden, en verspreiding van betrouwbaar nieuws om volgers te trekken.

Vijf onderzochte Nederlandse stukken bevatten misleidende tweets. Zo opent GeenStijl op 3 augustus 2016 een artikel met een tweet van ‘FoundingSon’, een van de namen, blijkt nu, op Twitters trollenlijst. FoundingSon doet zich voor als een Amerikaanse „conservatieve, christelijke patriot”, had bijna 42.000 volgers en plaatste regelmatig openlijk racistische tweets. Op GeenStijl beweert FoundingSon dat jongeren in Parijs een bus in brand steken terwijl ze „Allahu Akbar” roepen. De blog linkt de aanval aan een Voetnoot van Arnon Grunberg (zijn column in de Volkskrant), waarin de schrijver pleit voor gelatenheid als reactie op terroristisch geweld.

Die nacht was in Parijs inderdaad een bus in brand gestoken, maar de kreten van de jongeren op de bijbehorende video zijn onverstaanbaar en de Franse media die ooggetuigen en de politiewoordvoerder hebben gesproken, reppen met geen woord over islamitische leuzen. Een paar uur na de aanval citeert de Britse tabloid Daily Mirror een politiewoordvoerder die zegt dat er geen bewijs was dat er een religieuze leus werd geschreeuwd.

Op 10 juni schrijft GeenStijl over de anti-islamitische March against Sharia in verschillende Amerikaanse steden. Twittertrol Ten_GOP, die in dit artikel drie keer wordt geciteerd, beweert dat linkse betogers staan te lachen om de hartaanval van een rechtse activist. Het bijbehorende filmpje is terug te vinden op Twitter. Daarop zijn geen lachende linkse betogers te bekennen.

GeenStijl zegt in een reactie dat er niks mis is met de eigen berichtgeving. Op aanvullende vragen gaat het weblog niet in. Powned reageert evenmin op vragen van deze krant.

Ten_GOP vindt maar liefst acht keer zijn weg naar de berichtgeving van Nederlandse media. Het account, weten we nu, was niet het „onofficiële Twitteraccount van de Tennessee Republikeinen”, zoals het zelf claimde (GOP, afkorting van Grand Old Party, is een bijnaam van de Republikeinse partij), maar werd bestuurd vanuit Sint-Petersburg. Het had 136.000 volgers, was populair in alt-right-kringen en werd vaak geretweet door mensen uit de directe omgeving van Donald Trump. De president stuurde in september een bedankje aan Ten_GOP toen het twitterde: „We houden van u, Mr. president.”

De Russische trollen hielden van overdrijven, zo blijkt. Op de website van Powned rept een Russische trol van een carnage (bloedbad) bij linkse protesten rond de inauguratie van Trump. Het was inderdaad onrustig, er werden zelfs tweehonderd demonstranten gearresteerd, maar er viel slechts een handvol lichtgewonden. Een vergelijkbare overdrijving, ditmaal van Ten_GOP staat op De Dagelijkse Standaard (DDS). Het account spreekt van een „aanval” van linkse betogers op de politie. DDS neemt de tweet in twee artikelen over. Maar het bijbehorende filmpje toont betogers die vreedzaam een weg blokkeren en serpentinespray op de helmen van de oproerpolitie spuiten.

„Het is vervelend om te horen dat veel Nederlandse media in de luren gelegd zijn door trollen”, zegt hoofdredacteur Michael van der Galiën van DDS. „Het bewijst maar weer dat we bijzonder goed moeten opletten. Tegelijk valt bij ons de schade ook wel weer mee. Dat het vier keer is gebeurd, is vier keer te veel, maar het is dus ook niet zo dat de Russen het nieuws elke dag domineren.” DDS heeft de tweets verwijderd.

Bekijk hier alle geciteerde tweets: tekst loopt onder de afbeeldingen verder.

Blacneighbour

In juni 2016 schrijft de Volkskrant over een moslimagent in New York die van zijn werkgever eist dat hij een baard mag dragen vanwege zijn geloof. Bij het artikel staat een tweet waarin ene Blacneighbour voor dit arbeidsgeschil de militant klinkende term „blue-on-blue” gebruikt – een aanduiding van sneuvelen door eigen vuur. Vermoedelijk wilde Blacneighbour, die geen zwarte Amerikaanse buurman blijkt te zijn maar een Russische trol, hiermee raciale spanningen verder op scherp zetten.

„De auteur van het artikel wist natuurlijk niet dat deze Blacneighbour niet was wie hij zei”, zegt Volkskrant-hoofdredacteur Philippe Remarque. „Maar het klopt dat we in het verleden tweets bij stukken zetten om een beeld te geven van de stemming rond een zaak. Gelukkig zijn we daar inmiddels mee opgehouden, juist omdat je op Twitter nooit zeker weet wie er achter een account zit.”

Remarque zegt geschrokken te zijn van het bedrog van de Russen. „Dat ze zich zo geraffineerd hebben weten te vermommen, dat is toch wel een wake-upcall.”

Een vergelijkbaar voorbeeld van ophitsing staat begin juli 2016 op GeenStijl. Het artikel gaat over de gewelddadige arrestatie van de zwarte Alton Sterling, die daarbij om het leven kwam. GeenStijl citeert de trol Crystal Johnson, die een bij de Black Lives Matter-beweging betrokken zwarte vrouw moet voorstellen: „Stel de reactie voor als deze agent niet wordt aangeklaagd.”

FrankfurtBote

De trollen geciteerd in de Nederlandse media verspreidden ook feitelijk correct nieuws, vermoedelijk om volgers te verzamelen die ze later met nep- of misleidend nieuws konden bestoken. Het trol-account FrankfurtBote, het enige niet-Engelstalige account in ons onderzoek, omschreef zich als een verspreider van „lokale nachrichten aus Frankfurt” en twitterde elke zaterdag vrolijk ‘goedemorgen’ naar zijn volgers – die op hun beurt de hartelijke groeten terugdeden. Een van de nieuwsberichten van dit account kwam terecht in het AD.

„Vooropgesteld: je wilt niet dat zoiets gebeurt”, reageert adjunct-hoofdredacteur digitaal Rennie Rijpma van het AD. „Door de Russische nepaccounts te citeren, geef je ze een groter podium en dat is kwalijk: we moeten onze controlerende functie scherper uitoefenen.”

NRC plaatste op de website in augustus 2016 een retweet van Amerika-correspondent Guus Valk van het account TodayinSyria, dat ook op Twitters trollijst blijkt te staan. TodayinSyria meldde, correct, dat de VS Syrisch-Koerdische troepen beval zich terug te trekken tot achter de Eufraat, wat door Valk werd uitgelegd als een concessie aan Turkije.

Valk noemt het „bizar en interessant tegelijk” dat hij een trol heeft geretweet. „Het bericht dat ik retweette was een van de vele die in mijn timeline verschenen. Ik neem aan omdat een Amerikaanse journalist het retweette.”

Lees ook dit profiel van wellicht de succesvolle troll-account Jenn Abrams: online lieveling van alt-right, blijkt Russische Twitter-trol

De meeste media, waaronder NRC, controleren tweets inhoudelijk voordat ze worden geciteerd. „Een tweet is bij ons nooit de enige bron voor een verhaal”, zegt David Haakman, chef van de NRC-nieuwsdienst. „Bovenal geldt: bij twijfel niet doen. Blijkbaar is dat deze keer niet goed gegaan.”

„We checken waar we kunnen”, zegt ook adjunct-hoofdredacteur van de NOS Giselle van Cann. De NOS heeft samen met Nu.nl als enige grote nieuwsorganisatie in het onderzoek geen Russische trollen geciteerd. „We zijn er terughoudender in geworden dan voorheen, omdat mensen zich op Twitter altijd kunnen voordoen als iemand anders. Maar eerlijk is eerlijk: ook wij weten het nooit honderd procent zeker.”

Over dit artikel Hebben Nederlandse media Russische trollen geciteerd? Om die vraag te beantwoorden onderzocht NRC twaalf websites van nieuwsmedia: NRC, Volkskrant, AD, Telegraaf, de opiniesite Joop, The Post Online, Powned.tv, RTL Nieuws, De Dagelijkse Standaard, NU.nl, GeenStijl en de NOS. De berichtgeving op de sites werd doorzocht op de Twitter-namen van bekende Russische ‘trollen’. Het is niet bekend of vanuit de Russische ‘trollenfabriek’ Internet Research Agency (IRA) ook Nederlandstalige Twittertrollen worden aangestuurd. Bronnen vertelden de Russische nieuwssite RBK dat IRA 90 mensen in dienst had voor beïnvloeding van de Amerikaanse presidentsverkiezingen, terwijl de overige 160 werknemers vermoedelijk hun pijlen richtten op Rusland en de rest van de wereld. Volgens een door CNN opgevoerde bron heeft IRA rond de duizend mensen in dienst. The Guardian deed onderzoek naar tweets van trol-accounts in Engelstalige media. Zij vonden er 73 terug in 13 nieuwsmedia. De Twittertrollen die in Nederlandstalige media veel voorkomen, kwamen ook terug in dat onderzoek. Techsite Recode vond in een breder opgezet onderzoek ruim 2.800 Amerikaanse nieuwssites, waaronder die van The Washington Post en Breitbart, die één of meer trollen hebben geciteerd. NRC baseerde zijn onderzoek op een lijst van 2.752 Twitter-accounts van Russische trollen die in ieder geval actief waren tussen september en november 2016. Deze accounts waren bijvangst in een onderzoek van Facebook naar Russische beïnvloeding tijdens de Amerikaanse verkiezingscampagne. Het sociale netwerk overhandigde de lijst aan het Amerikaanse congres, dat onderzoek doet naar buitenlandse inmenging in de presidentsverkiezingen. Het Congres heeft de lijst op haar beurt openbaar gemaakt. Op een openbare hoorzitting begin november, bleek dat de meeste senatoren de tot dan toe ontmaskerde Twitter- en Facebookaccounts beschouwen als het topje van de ijsberg. De Republikeinse voorzitter van de inlichtingencommissie van de Senaat sprak de techbedrijven streng toe: „U moet beter uw best doen om het Amerikaanse volk te verdedigen.” De lijst lijkt betrouwbaar. Hoewel Twitter haar exacte onderzoeksmethode niet bekend maakt (omdat het niet wil dat trollen doorkrijgen hoe ze opsporing kunnen vermijden), weten we dat zulke onderzoeken zich meestal richten op een breed scala aan indicatoren. Er worden onder meer netwerken in kaart gebracht die elkaar op een verdachte manier retweeten, ook kunnen IP-adressen, e-mailadressen en telefoonnummers gelinkt aan een account de werkelijke identiteit of locatie van de twitteraar onthullen. We weten daarnaast, op basis van het onderzoek van het Amerikaanse Congres, dat Twitter gegevens van Facebook over Russische trol-accounts gebruikte om de accounts te identificeren. Dat kunnen bijvoorbeeld e-maildressen of betaalgegevens zijn geweest. Veel accounts op de lijst zijn ook via andere wegen ontmaskerd als Russische trollen, door bronnen binnen het IRA bijvoorbeeld. Bovendien heeft nog maar één van de 2.752 accounts zich succesvol bij Twitter weten te legitimeren. Het ging om een Amerikaan die per ongeluk in de lijst was opgenomen en wiens account weer is geactiveerd.

Een versie van dit artikel verscheen ook in NRC Handelsblad van 9 december 2017