Si la notion de « fausse nouvelle » est déjà définie par la loi sur la liberté de la presse de 1881, la « loi de fiabilité et de confiance de l’information » annoncée par Emmanuel Macron en 2018 va soi-disant obliger les plateformes numériques à plus de transparence sur les contenus sponsorisés. Toutefois, nous ne connaissons pas suffisamment bien les modes de diffusion de l’information problématique, ni les incitations économiques des grandes plateformes étrangères et des petits producteurs de faux contenus et fausses intéractions qui peuplent leurs écosystèmes. “L’Obs” a demandé à trois intellectuels (Slavoj Žižek, Emmanuel Todd et moi-même) de réfléchir à ce problème qui touche à la nature même du débat public en démocratie.

L’Obs

jeudi 1 mars 2018 – p. 91,92,93,94

Faut-il une loi sur les “fake news” ?

Par ANTONIO CASILLI

A l’heure où le gouvernement veut légiférer sur les fausses informations, le sociologue et spécialiste d’internet Antonio Casilli explique comment elles se fabriquent, et révèle les dessous d’un marché mondial.

Les colporteurs, d’après l’édition 1751 de l’« Encyclopédie », étaient « anciennement des gens de mauvaise foi qui rodoient de ville en ville, vendant & achetant de la vaisselle de cuivre, d’étain, & autres semblables marchandises ». Un peu marchands, un peu charlatans, ils vendaient du rêve sous forme de livres et de gazettes truffées d’histoires mêlant le monstrueux au prodigieux. Il serait aisé de tracer un parallèle historique entre la littérature de colportage et les fake news actuelles. L’Histoire pullule d’exemples de systèmes organisant la circulation d’informations non vérifiées. Citons les écrits apocryphes de l’Antiquité, qui entretiennent des similitudes avec les « faits alternatifs » et les théories complotistes actuelles, ou encore l’invention de la dezinformatsiya dans le « bureau spécial de désinformation » du KGB créé par Staline en 1923, et qui a servi de modèle à la production active d’ignorance et de confusion à des fins politiques. Mensonges et propagande ont toujours fait partie de la sphère publique. A première vue, les traits distinctifs des fake news ne ressortent pas de manière évidente. Même en admettant que la propagation actuelle de rumeurs et contre-vérités s’inscrive dans un cadre culturel et technologique inédit, dominé par les médias numériques, la cause de cette confusion généralisée demeure inconnue. Est-ce la possibilité que le web offre à n’importe qui de publier n’importe quoi qui ébranle la capacité des citoyens à se forger une opinion éclairée? Ou alors, comme le rappelle le chercheur Nikos Smyrnaios, serait-ce l’opinion largement partagée d’une presse soumise aux pouvoirs économiques et politiques qui pousse les publics à rechercher « une information “alternative”, pour le meilleur et pour le pire » ? Quelle qu’en soit la raison, la perte de légitimité des médias traditionnels a créé un appel d’air pour la production de fake news. Mais contrairement à ce qu’on dit souvent, leur diffusion n’est pas le fait de hordes de « colporteurs numériques » venus répandre librement leurs fausses nouvelles. C’est bien la manière dont les grandes plateformes numériques, comme Google ou Facebook, ont décidé de sélectionner l’information qui pose problème.

Les modèles économiques des médias sociaux s’appuient sur des régies publicitaires comme AdSense et AdWords de Google ou Audience Network de Facebook, qui collectent et mettent à profit les informations personnelles de leurs usagers : historiques de navigation, listes d’amis, localisation géographique, visionnages de vidéos ou « J’aime » sur des photos constituent cette fameuse data que vont monnayer les Gafam [Google, Apple, Facebook, Amazon et Microsoft]. Dès lors que les médias sociaux ont intérêt à retenir leurs abonnés le plus longtemps possible pour collecter davantage de données personnelles, ils finissent par mettre en place des incitations économiques qui favorisent les contenus sensationnalistes. Dans le jargon des annonceurs, les histoires outrancières seraient plus sticky, plus « collantes ». Les contenus doivent émouvoir et polariser les opinions pour constituer une occasion de partage, d’engagement de l’attention, d’échanges entre amis et ennemis sur les médias sociaux – qu’importe leur degré de fiction. Cet intérêt pour l’attention des internautes pousse les producteurs d’information en ligne à se débarrasser des standards éthiques et des méthodes d’autorégulation qui avaient caractérisé le journalisme d’avant internet.

La ville de Veles, en Macédoine, en donne un exemple flagrant. Sans grande perspective d’emploi dans cette cité désindustrialisée, des jeunes ont mis en ligne des sites tels que TrumpVision365.com, USConservativeToday.com, DonaldTrumpNews.co, qu’ils ont utilisés comme base pour propager sur Facebook des millions de mèmes. Ces images cocasses ou choquantes, propageant des mensonges sur les adversaires politiques du candidat républicain, ont généré des flux de revenu publicitaire qui ont permis à ces adolescents, souvent en rupture scolaire, de joindre les deux bouts. Les modèles économiques des plateformes numériques ne favorisent pas tant la militance spontanée émanant de la base d’un parti, que des campagnes de propagande et de dénigrement montées de toute pièce. Les Américains les désignent par le néologisme crowdturfing, issu du terme anglais crowd (« foule ») et de la marque de gazon artificiel AstroTurf.

Mais l’artificialité du phénomène ne réside pas là où on le croit. Car ces contenus factices ne sont généralement pas créés par des « bots » – des agents automatiques, trop vite repérés par les filtres anti-spam des plateformes et par les usagers avec lesquels ils sont censés interagir. Les propagateurs sont en réalité des faux comptes animés par des êtres humains, qui la plupart du temps n’ont que faire de l’opinion politique des images ou textes qu’ils diffusent. Les faux followers, par exemple, sont créés par des internautes qui s’abonnent volontairement à une page, une chaîne, un compte en échange d’un micropaiement. Vu que pour le reste, leurs comportements sont ceux d’usagers communs, il est difficile de les détecter. En outre, ils peuvent influencer les électeurs par leurs messages et comportements. Le crowdturfing vise à produire des vagues de trafic et de viralité de l’information qui servent à « amorcer la pompe ».

Les campagnes électorales à l’heure des grandes plateformes se basent donc sur des masses grandissantes d’influenceurs numériques qui se font passer pour des militants mais sont essentiellement motivés par l’appât du gain. Ce phénomène ne se résume pas à la production d’intox : l’interaction sociale qui accompagne les fake news est tout aussi importante que leur contenu. Il existe sur internet des plateformes de crowdturfing où l’on achète à prix cassé commentaires, partage et retweets de messages haineux ou diffamatoires. Moyennant des paiements d’à peine quelques centimes d’euro, les experts en marketing politique peuvent recruter des myriades d’ouvriers du clic pour assurer la circulation des fake news, ou les faire remonter dans le référencement des moteurs de recherche et dans les tendances émergentes des médias sociaux. Pendant la présidentielle française de 2017, le chercheur belge Nicolas Vanderbiest a pu détecter sur Twitter des réseaux d’influence nationaux (Patriosphère, Sens Commun, etc.) et internationaux (provenant des Etats-Unis, de la Russie, et même de l’Arabie saoudite), qui ont vraisemblablement acheté le travail de foules de faux militants pour mettre en avant les hashtags #MacronLeaks, #PenelopeGate, etc.

La majorité de ces ouvriers du clic opèrent depuis chez eux et sont recrutés sur des services en ligne tout à fait légitimes comme UpWork ou FreeLancer. Selon une étude de l’université de Santa Barbara, entre 70% et 95% des requêtes négociées sur certaines plateformes de microtravail (MinuteWorkers, ShortTask, MyEasyTask, MicroWorkers) consistent en la création de faux profils, faux avis, faux liens vers sites web, etc. L’origine géographique des acheteurs de clics (Etats-Unis, Canada et Royaume-Uni, mais aussi France, et Espagne) et celle des producteurs (Bangladesh, Pakistan, Népal, Indonésie, Sri Lanka, Inde, Kenya, Madagascar) reproduit des tendances globales de délocalisation de « sales boulots » vers des zones du monde où la force de travail est marquée par une forte vulnérabilité à l’exploitation. Partager des messages de haine, faire augmenter le compteur de visionnage d’une vidéo diffamatoire voire créer des profils qui s’abonnent au fil d’une personnalité de l’extrême droite xénophobe : voilà les tâches que ces travailleurs se voient proposer. Selon les révélations de Business Insider, en 2015 Donald Trump aurait acheté près de 60% des fans de sa page Facebook aux Philippines, en Malaisie et… au Mexique.

Les grands médias sociaux jouent un rôle extrêmement ambigu dans cette économie du clic. D’une part, Facebook et Google s’engagent depuis 2016 dans des remaniements réguliers de leurs algorithmes de référencement et de ciblage publicitaire afin de corriger les biais qui ont permis aux fake news de se répandre et ils s’adonnent depuis toujours à des « purges » de faux profils, voire proscrivent les utilisateurs ayant recours aux plateformes de crowdturfing. Mais, d’autre part, le réseau de Mark Zuckerberg semble fonctionner grâce à des mécanismes d’achat de visibilité qui entretiennent de nombreuses similitudes avec le fonctionnement des usines à faux clics.

Entre 2012 et 2014, des experts ont mené des expériences à partir de pages-appâts conçues pour attirer des lecteurs. Tous arrivent à la même conclusion : l’essentiel des profils ayant partagé leurs contenus ont des comportements suspects, ils sont fans de milliers de marques et de personnalités politiques disparates situées en Inde comme en Amérique du Nord. Autre conclusion de ces expériences : ces faux clics ne sont pas un détournement mais bien le résultat de la politique commerciale de Facebook Facebook ne vend pas directement du clic, mais propose à ses usagers de « booster leurs publications », voire d’en augmenter la visibilité moyennant un petit paiement. Or selon ces mêmes experts, ce visionnage vendu par Facebook provient des mêmes pays en voie de développement. C’est ainsi que le crowdturfing chassé des profils reviendrait par la fenêtre de la publicité. Cela redimensionne considérablement les prétentions d’authenticité de l’information qui circule sur ces réseaux. La distinction entre expression politique « artificielle » et « vraie conviction » devient floue. Sans vouloir entrer dans les débats philosophiques sur « ce qu’est la vérité », il nous faut admettre une chose : les fake news mettent à mal la possibilité de s’entendre sur la réalité même d’une action politique bien informée, indépendante des logiques commerciales et dans laquelle les intermédiaires politiques et culturels opéreraient de manière transparente.

Toute intervention législative sur les fake news qui manquerait de prendre en compte ces aspects serait destinée à l’échec. Au lieu de cibler exclusivement les petits dealers de mal-information, il est nécessaire de se concentrer sur leurs mandataires et sur les infrastructures techniques qui rendent possible leur action. Il faudrait par exemple établir l’obligation, pour les formations politiques, de publier un « bilan numérique » faisant état des dépenses et de la nature de leur marketing politique sur internet, de façon à les décourager d’effectuer des opérations clandestines à base de marchandage de clics. Tout comme les médias audiovisuels adoptent une règle d’égalité du temps de parole des candidats pour garantir le pluralisme, il est urgent de s’assurer que les partis politiques n’obtiennent pas subrepticement du « temps de cerveau » supplémentaire en achetant des tweets, des « like » et des contenus viraux lors des campagnes.

Mais la responsabilité informationnelle des organisations politiques doit se conjuguer avec un renouvellement des modèles économiques des médias sociaux numériques, qui ont reposé jusqu’à présent sur l’expropriation des données personnelles de leurs usagers à des fins publicitaires et sur la mise en place de longues chaînes de sous-traitance de tâches informationnelles vers des pays dits « du Sud ». C’est non seulement leur viabilité économique, mais aussi leurs admissibilités politique et éthique qui doivent être questionnées. Une dernière recommandation politique concerne alors la défense des droits des travailleurs du clic, non pas pour normaliser le système du crowdturfing mais pour s’en affranchir. Le respect des normes internationales du travail, la garantie pour ces travailleurs d’une rémunération équitable et de conditions de travail décentes – bref la possibilité de résister au chantage au travail à la micro-pièce – constituerait un levier de négociation qui leur permettrait de refuser de contribuer au système des fake news. Reconnaître le travail invisible de ces ouvriers du clic et les doter de méthodes pour se protéger et pour faire entendre leurs voix, est aussi – et avant tout – un enjeu de citoyenneté globale.