(De Berlin) « Ne serait-il pas temps de fermer les commentaires sur Rue89 ? » Dans son message adressé à l’équipe, que nous avons publié le 8 décembre, un riverain relançait le sempiternel débat de l’utilité des commentaires sur le site. Signée Alexandre, sa lettre racontait sa courte expérience de lecteur qui s’était « aventuré à poster quelques commentaires » pendant deux semaines et en était reparti dégoûté après avoir croisé les « trolls nauséabonds » aux « commentaires débiles » qui empêchent tout dialogue.

Face à cela, Mathieu Deslandes – rédacteur en chef adjoint de Rue89 – proposait quelques pistes, telles que l’intégration d’un éthylotest ou la limitation du nombre de commentaires par riverain, pour une vingtième révision de la charte des commentaires.

Quelques semaines plus tôt, le 17 novembre, j’apprenais de bien meilleures techniques de la part de Linus Neumann, hacker berlinois et porte-parole du Chaos Computer Club.

A 19 heures, tandis que la France se préparait à vibrer à une « Marseillaise » de solidarité entonnée par les Anglais, je me trouvais à une conférence sur « les trolls et le journalisme » organisée par l’équipe berlinoise de Hack/Hackers, qui réunit tous les mois des développeurs et des journalistes intéressés par les liens entre technologie et information.



Linus Neumann à la conférence trolls et journalisme de Hack/Hackers, le 17 novembre 2015 à Berlin - Jacques Pezet/Rue89

Ce soir-là, la conférence a invité la journaliste azérie Arzu Geybulla pour témoigner du harcèlement en ligne, dont elle avait été victime et Linus Neumann pour expliquer « comment rester tranquille sur les réseaux sociaux et comment la technologie peut nous aider à nous protéger des trolls sur Internet ». La salle est remplie de journalistes, venus comme moi prendre quelques cours de troll-défense.

Bons et mauvais chasseurs

En déclarant d’emblée qu’il est lui-même un troll, Linus Neumann jette un froid dans la salle. Il faut dire qu’il passe après la journaliste azérie, qui durant tout son discours a utilisé le mot « troll » pour désigner ces personnes malveillantes, des militants du gouvernement azéri, qui lui ont pourri la vie, jusqu’à lui envoyer des menaces de mort. Comprenant ce malaise, le hacker clarifie :

« Pour moi, être un troll est une distinction et non pas une insulte. »



Bon et mauvais trolls - Jacques Pezet/Rue89

Sur son PowerPoint, s’affichent deux images, précédées de cette devise « Be a Good Troll » (sois un bon troll, en français). De la même manière qu’il y a un bon et un mauvais chasseur, il existe une différence entre le bon et le mauvais troll.

« Quand on pense au mot “troll”, on pense souvent à cette créature à droite. C’est cette bête méchante, qui se tient en embuscade dans les bas-fonds de l’Internet avec sa meute de trolls, qui vient t’attaquer, te met de mauvaise humeur et déteste les autres. Je préfère ce troll à gauche : amical, souriant, avec son air de Till l’Espiègle qui taquine les autres et les transforme en mauvais trolls, sans le devenir lui-même. Il y a donc le troll à gauche et la victime à droite. »

« Don’t Feed the Troll ! »

Linus Neumann est ce qu’on pourrait appeler un maître troll. Il a fait ses preuves en se moquant des partisans islamophobes de Pegida, le mouvement d’extrême droite anti-immigration allemand, ou des électeurs très conservateurs de la CDU aussi bien en ligne qu’en IRL (« In Real Life »), dans la vraie vie comme on dit en français.

Tel un vétéran troll, il disserte sur ces plus beaux exploits. La conférence qu’il donne ce soir-là, il l’a déjà donnée en octobre en allemand à Munich. C’est d’ailleurs pour cela que Hack/Hackers l’a sollicité. Défendant une vision ludique du troll, Linus Neumann considère que le meilleur moyen de gagner face aux trolls reste de ne pas jouer à leur jeu.

C’est le fameux « Don’t Feed the Troll », qui invite les commentateurs à ne pas répondre au vilain troll, qui crèvera d’ennui.

S’il n’existe pas vraiment d’autres moyens de gagner face au méchant troll, le hacker a tout de même identifié quelques règles, qui déclarent comme perdant le gentil troll :

tu as perdu si tu emploies plus de mots que ton adversaire ;

tu as perdu si tu dois expliquer ;

tu as perdu si tu dois te justifier ;

tu as perdu si tu t’énerves ;

tu as perdu si tu ne rigoles pas ;

tu as perdu si tu te prends au sérieux ;

tu as perdu si tu attribues des qualités ;

tu as perdu si tu menaces les autres.

Ces commandements font rire le public, qui un jour ou l’autre a réussi à ridiculiser un troll débile en commentaire. Mais les journalistes et autres directeurs techniques de médias présents dans la salle attendent encore le cours de troll-défense. C’est sur cette promesse que commence le deuxième acte de la conférence de Neumann, précédée de deux préceptes de modération :

celui qui supprime, c’est celui qui prend au sérieux ;

celui qui diabolise les « citoyens inquiets » légitimise leurs théories.

En Allemagne, on parle de « citoyens inquiets » pour désigner ces personnes qui manifestent contre l’islamisation de la société ou contre les migrants et qui sont considérées par beaucoup comme des xénophobes. En écartant la suppression de commentaires, Linus Neumann permet d’éviter toute accusation de censure et d’attaque à la liberté d’expression dont les trolls aiment se réclamer.

Bannis, mais en loucedé

En tant que maître troll et hacker, Linus Neumann a réussi à développer deux outils techniques qui respectent aussi bien l’espièglerie troll que ses principes de modération.

Partant du constat qu’à chaque fois que quelqu’un poste un propos polémique et souvent débile, il reçoit de nombreuses réponses qui le traitent de nazi ou d’autres noms et que le débat ne prend jamais fin, Linus Neumann a créé le « hellbanning », une technique de bannissement astucieuse qu’il explique ainsi :

« Le rageux qui a écrit le commentaire le voit posté sur la page, mais tous les autres visiteurs ne le voient pas. Et c’est comme ça que vous enlevez aux gens ce qu’ils veulent : des réactions. Ils écrivent tout seuls sur leur île déserte mais n’obtiennent aucune réaction. Psychologiquement, c’est le moyen le plus efficace pour décourager quelqu’un de continuer à poster. »



Le « hellbanning » consiste à isoler le troll, comme sur une île déserte - Jacques Pezet/Rue89

Une fois le troll repéré, il se retrouve donc en silencieux et grogne jusqu’à l’épuisement, sans que les lecteurs s’en rendent compte.

L’étrangleur à troll

Sa seconde technique, qu’il a appelé « the troll-throttle » (l’étrangleur à troll, en français), est sans doute l’idée la plus maligne et la plus sadique que j’ai pu voir pour lutter contre les trolls.

Elle repose sur la hantise de tout utilisateur d’Internet : les captchas, ces tests qui permettent de vérifier que vous n’êtes pas une machine.

Diplômé de psychologie, le porte-parole du Chaos Computer Club a bien compris que les vilains trolls prenaient plaisir à déverser leur bile en commentaires. C’est sur cette notion de plaisir qu’est basée le troll-throttle :

« Je me suis demandé : qu’est-ce qui gâche ma bonne humeur quand je veux commenter quelque chose sur Internet ? La réponse était les captchas. »



Les captchas, le cauchemar des trolls - Jacques Pezet/Rue89

Linus Neumann a donc développé un système qui pousse les personnes qui veulent commenter à remplir un captcha. Une fois le commentaire envoyé, son outil calcule la probabilité que le message soit celui d’un troll. Grâce à cette probabilité, et indépendamment du fait que le captcha ait été bien rempli ou non, le troll se retrouve à devoir remplir un captcha à nouveau, et ce jusqu’à épuisement. Le hacker confie que le record est de quinze tentatives avant abandon.

L’outil est automatique et évite donc toute accusation de censure arbitraire. Aussi, il génère beaucoup de frustration pour le troll, dont le modérateur saura se délecter.

Fantasme de journaliste

Pour calibrer son piège à troll, Linus Neumann a mené une étude empirique pendant deux ans, durant lesquels il a analysé plus de 116 000 commentaires postés sur le site du blogueur allemand Felix von Leitner. Il a observé la teneur en insulte, la vitesse de rédaction, l’heure, les mots employés, le niveau de langue des commentaires et ainsi pu déterminer le degré de trollerie des messages.

« J’ai reçu beaucoup de demandes de la part de rédactions de journaux allemands. »

Linus Neumann n’en dira pas plus que cette petite confidence, glissée en guise de conclusion. Les yeux des journalistes dans la salle semblent remplis de rêves.