(De Berlin) Pourquoi les réseaux sociaux sont-ils si propres ? A moins de compter des contacts un peu « spéciaux » parmi ses relations sur Facebook ou Twitter, il est quand même très rare de tomber sur une vidéo de décapitation tournée par Daech ou de photo pornographique dans son fil d’actualité.

Et quand c’est le cas, les images sont rapidement supprimées. Par qui ? Par quoi ? C’est ce qu’a voulu savoir le metteur en scène allemand Moritz Riesewieck. Invité de la re : publica, grand raout du numérique à Berlin, il a présenté la semaine dernière une enquête au sujet de la modération commerciale de contenus sur Internet.

Ce business, qu’il qualifie de « ramassage des ordures du Web », est majoritairement sous-traité aux Philippines :

« Comme beaucoup de monde, je pensais qu’un algorithme ou un logiciel de reconnaissance s’occupait de ça. Et puis je suis tombé sur une étude de la chercheuse Sarah T. Roberts il y a un an et demi environ. »

Les algorithmes ne savent pas modérer les contenus

Certes, les géants du Web ont développé des programmes capables de reconnaître les visages de vos amis, ou de décrire une image, mais il leur reste encore du progrès à faire. Rappelez-vous, il n’y a pas si longtemps, en juin 2015, le logiciel de reconnaissance d’images de Google avait confondu ce couple d’Afro-Américains avec des gorilles.

Google Photos, y'all fucked up. My friend's not a gorilla. pic.twitter.com/SMkMCsNVX4 — {name : jalcine} (@jackyalcine) 29 juin 2015

Pour éviter ce genre d’erreur, c’est donc aux humains qu’incombe la tâche, très subjective, de valider si les contenus signalés par ces programmes ou par les utilisateurs des réseaux sociaux sont choquants ou non.

Pour cela, ils bénéficient de consignes confidentielles à suivre, qui peuvent être parfois déroutantes. En 2012, un leak publié par le site américain Gawker révélait qu’un prestataire de Facebook autorisait les photos de « têtes ou membres écrasés » à condition que les entrailles ne soient pas visibles, mais bloquait les images montrant des « camel toes » et des « mooses knuckles », ces formes de vulve ou de pénis qui apparaissent parfois à travers des vêtements moulants.

The moose knuckle on Chris Christie is something I never wanted to see but now can never unsee. Why God, why ? ! pic.twitter.com/xsvY8pxfTp — SarahhRUSH (@SarahhRUSH) 5 juin 2015

Faire le tri parmi 3 000 images quotidiennes

Moritz Riesewieck a passé quatre semaines aux Philippines pour essayer d’interroger des modérateurs sur leur job. Son travail de recherche s’est avéré très compliqué :

« C’est un milieu complètement secret. Les modérateurs ont peur, parce qu’ils ont signé une clause de confidentialité, qui leur interdit de parler de leur boulot. Ils ont peur de se faire virer. »



Moritz Riesewieck en conférence - Jacques Pezet/Rue89

Il a réussi à joindre une petite dizaine d’entre eux, grâce à la plateforme de freelancing Upworthy ou via un syndicat de modérateurs en cours d’élaboration. Certains ont annulé au dernier moment, très peu ont accepté d’être enregistrés et quand ce fut le cas, les conditions étaient dignes d’un film d’espionnage.

Ainsi c’est à bord d’une voiture et à condition de ne pas être filmé que « Michael », un employé de TaskUs (une société qui modère les contenus de Tinder), a accepté de lui parler des 3 000 images qu’il doit traiter huit heures par jour.

Pour être efficace, des grilles de 24 images s’enchaînent sur son écran. Il clique alors sur celles qui sont choquantes. Environ « une sur dix est inappropriée ». Le plus souvent, ce sont des pénis en érection ou des animaux morts ou encore de la merde. Mais parfois le tri est difficile à opérer :

« Il y a une zone grise. Beaucoup d’images montrent des femmes en décolleté. Parfois les seins sont tellement gros et le décolleté est tellement bas que seuls les tétons sont couverts. Dans ces cas-là, tu ne sais pas si tu dois approuver ou rejeter la photo. »

Il arrive aussi parfois que son attention baisse, et qu’il oublie de cliquer sur un type en slip dans son salon. Après tout, l’erreur est humaine. Mais d’autres images bien plus gore, bien plus sordides ne passent pas inaperçues sur les écrans des modérateurs de Manille. Michael poursuit :

« Ce qui me déprime le plus, ce sont les pédophiles et les personnes qui s’insultent. C’est vraiment très vulgaire. Notre travail c’est comme de la maintenance pour l’Internet. Parce qu’on nettoie toute la crasse, les pornos et la haine. J’ai discuté avec une collègue, qui a aussi fait de la modération de contenu pour Convergys, je crois. Et le client c’était Microsoft. Je ne sais pas si c’est du cloud. Elle a dit qu’elle avait travaillé là-bas pendant deux ans. Elle m’a dit avoir vu des trucs pires. Elle m’a dit qu’elle a vu des vidéos d’enfants en train d’avoir des relations sexuelles avec des adultes. Nous, on ne voit pas de vidéos de ça, juste des images. Ces pédophiles, ils forment une communauté en ligne, et ils partagent un système de stockage sur un cloud, où ils mettent en ligne et téléchargent ces vidéos. »



Moritz Riesewieck en conférence : images de nus - Jacques Pezet/Rue89

L’exposition à ces contenus et la frustration liée à l’interdiction contractuelle d’en parler ont des effets sur les employés. Moritz a pu en discuter avec une psychologue qui travaille pour les entreprises de modération de contenu :

dépression,

alcoolisme,

perte de la libido,

images qui apparaissent quand ils ferment les yeux.

Le metteur en scène explique combien il est difficile pour les modérateurs d’oublier les images violentes qu’ils voient tous les jours, et rares sont ceux qui font appel à une aide psychologique :

« Lors de l’entretien d’embauche, les candidats passent un test psychologique. On leur demande s’ils sont émotifs, ou s’ils ont tendance à être déprimés. C’est compliqué pour eux d’aller voir leur hiérarchie, qui leur rappellera qu’ils avaient indiqué qu’ils étaient forts psychologiquement. »

Un eldorado de la modération

Pour traiter ce sujet, Moritz Riesewieck aurait pu se rendre dans la Silicon Valley, où des centaines de modérateurs trient des contenus directement depuis le QG de Facebook à Menlo Park, ou tout simplement rester à Berlin et aller dans le quartier de Spandau, où la société Arvato, filiale de Bertelsmann, modère les commentaires haineux du géant bleu.

Mais le metteur en scène a préféré se rendre à Manille pour deux raisons :

le nombre important de modérateurs : plus de 150 000 Philippins seraient employés par des entreprises de modération de contenus pour des salaires variant entre 2 et 6 dollars de l’heure ;

les contenus qu’ils modèrent sont majoritairement des images et non pas des textes.

Sur le site de la direction générale du Trésor, on peut lire que les Philippines sont le « 4e pays au monde pour la sous-traitance de services aux entreprises ». La modération de contenu fait partie de ces services, qui devraient continuer à se développer : une exemption d’impôts est accordée aux start-up durant les quatre ans qui suivent leur installation. Selon Riesewieck, le pays est en train de renouer avec son statut de décharge du monde :

« Avant, l’Occident envoyait sa ferraille électronique et ses déchets toxiques par bateaux aux Philippines. Aujourd’hui, c’est le rebut numérique qu’on leur demande de filtrer. »

Une impression de sainteté

Certes, ces avantages fiscaux sont intéressants, mais pour Moritz Riesewieck, cela n’explique pas que des réseaux sociaux ou des applications de rencontres de la Silicon Valley fassent appel aux Philippins.

« Ça ne peut pas être seulement dû au faible salaire, puisqu’il est bien plus bas à d’autres endroits comme en Inde, au Pakistan ou au Bangladesh. Ce n’est pas non plus dû à leur accent presque parfait en anglais, puisqu’on ne l’entend pas quand ils trient des images. Ni même au fait qu’ils puissent être fans de Batman ou qu’ils aiment traîner au Starbucks. Ils ne sont pas les seuls dans ce cas. Qu’est ce qui fait des Philippins le peuple élu pour Facebook et compagnie ? »

A cette interrogation, viennent répondre des images tournées à Manille durant la semaine Sainte. On y voit l’attachement des Philippins à la religion catholique sous toutes ses formes : des T-shirts à la gloire de Dieu, une publicité pour un magasin qui vend « les Bibles les moins chères » du pays, des croix sur les édifices, mais aussi des scènes sanglantes d’autoflagellation et de véritables crucifixions qui témoignent de la foi extrême des croyants.

Selon une étude réalisée en 2010 par le Pew Research Center, un think-tank américain reconnu pour ses statistiques religieuses, 93% des Philippins sont chrétiens, dont 81% de catholiques parfois prêts à s’infliger physiquement la passion du Christ. Un jeune modérateur accuse :

« Je suis chrétien, je suis catholique, mais je vous le dis : ils se servent de ça pour profiter des Philippins. »



Moritz Riesewieck présente une image de crucifixion aux Philippines - Jacques Pezet/Rue89

Voilà donc la thèse de Moritz Riesewieck : si les Philippins sont le « peuple élu » de la modération sur Internet, s’ils acceptent de nettoyer le Web des pires images qui y circulent, c’est parce qu’ils sont culturellement capables d’endosser le rôle de martyrs, prêts à effacer les péchés du monde.

Leurs sacrifices quotidiens, tout comme leurs stigmates psychologiques, sont invisibles pour nous pauvres pécheurs, qui ignorions même l’existence de leur clics salvateurs. Une employée confirme :

« Quand vous nettoyez l’Internet, à un moment vous avez l’impression que c’est votre devoir chrétien d’une certaine façon. C’est peut-être difficile, vous voyez toutes ces images, mais en même temps, en affrontant tout ça vous avez l’impression d’être un saint pour la société. »

En juillet 2015, le journaliste français Vincent Glad accordait à Internet le titre de divinité. Si tel est le cas, elle tient plus des dieux cruels de la mythologie grecque que du miséricordieux Dieu chrétien.

Car comme Sisyphe et son rocher, les modérateurs philippins sont condamnés, ad vitam æternam, à nettoyer les réseaux sociaux souillés quotidiennement par les milliards d’utilisateurs actifs de Facebook, YouTube, Twitter et consorts.

Préférant filer la métaphore biblique, Moritz Riesewieck présentera en 2017, au théâtre de Dortmund, « Vers Manille », un « jeu de la Passion à l’ère d’Internet » inspiré de ses recherches et de ses rencontres aux Philippines.