L’Américaine Sarah T. Roberts a écrit, après huit ans de recherches, « Behind The Screen » (Yale university press), un livre sur le travail des modérateurs. STELLA KALININA

C’est un métier dont on ne connaît pas encore bien les contours, et qui est pourtant au cœur du fonctionnement des grandes plates-formes du Web : les modérateurs sont chargés de les débarrasser des contenus postés par les utilisateurs (photos, vidéos, commentaires, etc.) qu’elles interdisent. Répartis dans des open spaces aux quatre coins du monde, gérés par des sous-traitants, ces milliers de petites mains examinent, tout au long de leur journée de travail, les pires contenus qui circulent sur Internet, et décident de leur sort.

La chercheuse américaine en sciences de l’information Sarah T. Roberts, enseignante à l’université de Californie (UCLA), à Los Angeles, a passé huit ans à travailler sur ce sujet, et a rencontré des dizaines de modérateurs. A partir de ce travail, elle écrit un ouvrage, Behind The Screen (Yale university press, en anglais). Nous l’avons interviewée lors de son passage à Paris pour participer à un cycle de conférences sur « le côté obscur du travail », organisé à la Gaîté-Lyrique, à Paris.

Les géants du Web (Facebook, YouTube, Twitter, etc.) sont très réticents à parler de la façon dont ils modèrent les contenus. Pourquoi ?

Quand ces entreprises ont été lancées il y a une quinzaine d’années, la dernière chose qu’elles voulaient, c’était d’avoir à prendre des décisions sur le contenu. Elles se concentraient sur les technologies, et se présentaient auprès des pouvoirs publics américains comme faisant partie de la catégorie « fournisseurs d’accès à Internet ». Cela leur a permis d’affirmer que le contenu n’était pas leur cœur de métier, et d’avancer sans qu’on ne leur demande de rendre des comptes.

Ce positionnement leur a permis de grandir. Il fallait donc que les décisions que prenaient ces entreprises du Web sur le contenu restent secrètes. Elles vendaient cette idée aux utilisateurs qu’il n’y avait aucune intervention, que vous pouviez vous exprimer sur YouTube ou Facebook sans aucune barrière. Elles ne voulaient pas qu’il y ait un astérisque, elles ne voulaient pas entrer dans les détails. Il y a pourtant eu, dès leurs débuts, des contenus supprimés.

Article réservé à nos abonnés Lire aussi Internet : les GAFA veulent rester des hébergeurs de contenus à la responsabilité limitée

Dans votre livre, vous allez jusqu’à dire que ces entreprises « effacent les traces humaines » de la modération. C’est une formule très forte…

Ces entreprises pensent profondément que les solutions informatiques sont meilleures que les autres, et il y a cette idée chez elles qu’il y aura bientôt une technologie assez forte pour remplacer ces travailleurs. Elles semblent dire « ne nous habituons pas trop à l’idée qu’il y a des humains, c’est juste temporaire ».

De plus, si les utilisateurs savaient qu’il y avait des humains impliqués, ils demanderaient des explications. Et ces entreprises ne voulaient pas être responsables de ces décisions. Elles ont donc choisi de rendre ce processus invisible et croisé les doigts pour que les gens ne posent pas trop de questions.

Le travail de modérateur est mal considéré et mal payé, alors même qu’il présente des risques psychologiques. QUENTIN HUGON POUR « LE MONDE »

La modération est un travail difficile. Quels sont les risques auxquels sont confrontés ces travailleurs ?

Il y en a plusieurs, à commencer par les risques psychologiques. Les modérateurs à qui j’ai parlé me disaient souvent : « Je suis capable de faire ce travail, des gens sont partis au bout de deux semaines. Mais moi, je suis fort. » Et quelques minutes plus tard, ils me disaient « je buvais beaucoup » ou « je ne veux plus sortir avec des amis, car on parle toujours de travail, et je ne veux pas en parler, et d’ailleurs je n’en ai pas le droit ».

Quand des gens me disent qu’ils ne peuvent pas cesser de penser à une image ou une vidéo qu’ils ont vue au travail, c’est inquiétant. Une femme, qui était modératrice il y a une quinzaine d’années pour Myspace, m’a dit qu’elle n’aimait pas rencontrer de nouvelles personnes et leur serrer la main. « Je sais ce que les gens font, et ils sont ignobles. Je n’ai plus confiance en qui que ce soit. »

Il y a aussi d’autres choses difficiles, qui paraissent moins évidentes. Vous devez être très cultivé pour être un bon modérateur, beaucoup ont fait des études de littérature, d’économie, d’histoire, parfois dans des universités prestigieuses. Mais c’est considéré comme un travail de bas niveau, assez mal payé.

Comment les conditions de travail des modérateurs ont-elles évolué ?

C’est difficile à dire, ce sont souvent des conditions de call centers : d’un point de vue purement matériel, c’est relativement confortable. Aux Philippines, des gens travaillent dans des gratte-ciel avec l’air conditionné, ce qui est important là-bas.

Mais… En quoi cela change quelque chose à ce qu’ils voient tous les jours ? Certaines entreprises ont mis à disposition des psychologues. Mais les employés sont méfiants : quand le psychologue est payé par votre employeur, cela crée une relation compliquée, ça peut être difficile pour le travailleur de s’ouvrir sincèrement.

Mais si ces entreprises ne mettaient pas de psychologues à disposition, on le leur reprocherait…

C’est vrai. Mais est-ce vraiment efficace ou est-ce juste pour faire joli ? Un modérateur m’a dit : « Le problème, c’est que si je me lève pour aller parler au psychologue, mon manager et mes collègues me voient tous me lever et comprennent que j’ai un problème. Je ne veux pas qu’ils le sachent. » Et puis, ce sont des solutions de court terme.

Que devraient faire ces entreprises pour assurer le bien-être de leurs salariés ?

Pour commencer, ils pourraient les payer davantage. Ensuite, le fait que leur travail ne soit pas reconnu est très dur pour eux, tout comme les accords de confidentialité. Tout cela fait qu’ils ont peur de parler de leur travail, qu’ils ne soient pas en lien avec les autres. Ils ne savent même pas qui sont les autres modérateurs. Ce sont des choses qui pourraient facilement changer. Et sur la psychologie, il faudrait étudier les effets de ce travail sur le long terme. Il n’existe aucune étude de ce type, à ma connaissance.

Pourrait-on se passer de modérateurs ? A quoi ressemblerait Internet sans eux ?

Au forum 4chan [connu pour sa modération très faible, et la virulence de certains de ses membres anonymes] ? Ce serait pire ! La plupart des gens ne veulent pas de ça, et doivent donc avoir à faire à des modérateurs. Or les internautes passent beaucoup de temps sur les grandes plates-formes mainstream, financées par la publicité, et le fait qu’ils ne comprennent pas comment ces espaces sont modérés est problématique, car cela reflète des valeurs.

L’idée d’un Internet sans modération n’a pas beaucoup existé. Certes, j’ai donné l’exemple de 4chan. Mais à un moment donné il y a eu une décision, à 4chan, que l’approche serait de tout laisser passer. C’est une posture idéologique là aussi. Et il est important de noter que c’est ce que veulent certaines personnes.

Vous écrivez que ce sujet de recherche représente « le travail d’une vie ». Quels aspects de la modération vous intéressent le plus pour la suite ?

C’est le travail d’une vie parce que cela change tout le temps : Facebook change ses règles toutes les deux semaines ! Et si aujourd’hui on a 100 000 personnes qui travaillent comme modérateurs, où en sera-t-on dans deux, cinq ou dix ans ?

Article réservé à nos abonnés Lire aussi Visite dans l’un des très secrets centres de modération de Facebook

Je m’intéresse aussi beaucoup à la question de la régulation de ces entreprises. Ainsi qu’à la façon dont les Américains ont adopté depuis quinze ans ces technologies. Nous approchons de l’élection présidentielle de 2020, et ces plates-formes sont très impliquées, on a eu des déclarations intéressantes de Facebook sur la véracité des informations diffusées… Tout cela est d’une certaine manière lié à la question de la modération. Ces entreprises sont désormais considérées comme responsables, alors qu’elles n’ont jamais voulu l’être ! Devoir gérer ça est leur pire cauchemar, et elles doivent désormais le faire tout le temps.