Facebook reste très secret sur la façon dont fonctionnent ses équipes de modération. JUSTIN TALLIS / AFP

Comment Facebook modère-t-il ses contenus ? Régulièrement critiqué pour le manque d’efficacité ou de cohérence de sa modération, Facebook reste très secret sur la façon dont travaillent ses équipes. Mais vendredi 16 décembre le journal allemand Süddeutsche Zeitung a publié des informations inédites à ce sujet, et notamment des documents internes précisant les règles de modération de l’entreprise.

En principe, ces règles sont inscrites dans les très publiques « Community Guidelines » de la plate-forme. Mais, régulièrement, les choix des modérateurs de Facebook, qui examinent le contenu signalé par les internautes après publication, a de quoi laisser perplexe – certains messages violents ou haineux subsistent, alors qu’une œuvre d’art dévoilant un téton est supprimée, ou la photo historique d’une fillette nue fuyant un bombardement au Vietnam.

Les documents que le journal allemand a pu se procurer donnent plus de précisions sur la façon dont ces règles sont appliquées. Ainsi, voici comment l’entreprise définit le discours haineux qu’elle sanctionne : « catégorie protégée + attaque = discours haineux ».

Formules mathématiques

Orientation sexuelle, origines ethniques, sexe, genre, religion, nationalité, handicap ou maladie entrent dans le cadre de ces « catégories protégées » (PC), ce qui était déjà indiqué en clair dans les « Community Guidelines ». En revanche, on apprend ici que d’autres catégories ont le droit à une certaine protection : en fonction de l’âge (les seniors, les jeunes), en fonction de l’emploi (enseignants, docteurs, chômeurs…), du statut social (riche, pauvre, classe moyenne…), de l’apparence ou encore de l’appartenance politique.

Pour préciser la façon d’appliquer des restrictions liées aux attaques contre ces groupes, ces documents prennent parfois l’allure de formules mathématiques : « PC + PC = PC, alors que PC + NPC = NPC ». En clair, l’association de deux catégories protégées forme une catégorie protégée. Par exemple, les « femmes irlandaises » regroupent les catégories « nationalité » et « sexe » ; elles sont donc protégées, soulignent ces documents. Il est donc interdit d’écrire que « les femmes irlandaises sont stupides ». En revanche, les adolescents irlandais ne le sont pas, car la catégorie « adolescent » n’est pas protégée. Il est donc possible de dire du mal des adolescents irlandais.

Il est aussi précisé que si les membres d’un groupe religieux sont protégés, la religion elle-même ne l’est pas. La même règle vaut pour les pays, qui ne sont pas protégés, contrairement à leurs habitants. Ainsi, il est possible d’attaquer l’islam ou le christianisme, mais pas les musulmans ou les chrétiens.

Les documents obtenus par la Süddeutsche Zeitung montrent aussi la subtilité complexe de ces règles, qui ne cessent d’évoluer. Ainsi, il est possible d’insulter les migrants, mais pas les musulmans, qui sont protégés. Les migrants, eux, appartiennent à une « catégorie quasi protégée », « une forme spéciale introduite après des plaintes en Allemagne », croit savoir le journal. Ainsi, des messages haineux envers les migrants peuvent être autorisés sous certaines formes : il est par exemple acceptable, selon ces règles, d’écrire que « les migrants sont sales », mais pas que ce sont « des saletés ».

« Problèmes psychologiques »

Le journal allemand a aussi obtenu des informations sur les conditions de travail des modérateurs de Facebook, dont certains ont accepté de témoigner sous couvert d’anonymat. On sait aujourd’hui peu de chose sur ces équipes de modération, dont Facebook refuse de préciser la composition : l’entreprise n’a jamais révélé combien de personnes y travaillaient, ni quels profils étaient recrutés.

La Süddeutsche Zeitung évoque une équipe de 600 personnes à Berlin travaillant pour un sous-traitant, Arvato, dans différentes langues. Les modérateurs seraient payés « juste au-dessus du salaire minimal » pour des conditions de travail critiquables, laisse entendre le journal :

« Ces personnes sont payées pour supprimer les publications offensantes sur Facebook le plus rapidement possible – et elles se sentent souvent mal préparées (…). Beaucoup se plaignent que les règles sur ce qui devrait être supprimé ou non ne soient pas claires, s’estiment stressées et surchargées. Un certain nombre d’employés ont aussi fait part d’importants problèmes psychologiques, à cause de leur exposition fréquente à des contenus choquants, comme des images de torture, de meurtre ou pédopornographiques. »

Interrogé par Le Monde, Facebook n’a pas souhaité confirmer l’authenticité des documents dévoilés par la Süddeutsche Zeitung. L’entreprise ne l’a pas non plus infirmée. Elle a néanmoins confirmé qu’elle travaillait bien avec Artavo. Dans un communiqué, l’entreprise précise :

« Nos équipes hautement qualifiées sont basées à différents endroits du globe et travaillent sous la direction de notre siège international à Dublin. (…) Nous voulons avoir la meilleure équipe, qui maîtrise comme il faut les langues et les bonnes compétences pour répondre rapidement aux signalements et les vérifier soigneusement, vingt-quatre heures sur vingt-quatre, tous les jours. »

L’Allemagne menace de punir Facebook

L’Allemagne est l’un des pays les plus virulents à l’encontre de Facebook et de sa politique de modération. Le gouvernement a menacé plusieurs fois ces derniers mois de sévir si l’entreprise ne se montrait pas plus efficace à ce sujet. Elle s’était d’ailleurs engagée auprès du ministère de la justice allemand, en décembre 2015, à faire ce travail en moins de vingt-quatre heures. Promesse qu’elle a réitérée cet été, cette fois auprès de la Commission européenne.

Mais force est de constater que les résultats ne sont pas au rendez-vous : la Commission européenne a fait savoir au début du mois qu’elle n’était pas satisfaite, menaçant Facebook de légiférer. En Allemagne, plusieurs responsables politiques, parmi lesquels le ministre de la justice, ont rappelé Facebook à l’ordre ces derniers jours, la menaçant d’amendes. Le déferlement de messages de haine sur les réseaux sociaux après l’attentat qui a frappé un marché de Noël à Berlin lundi 19 décembre pourrait relancer le débat.