Si les réseaux sociaux ont accompli une chose, c’est de démocratiser la prise de parole, autrefois réservée à l’élite. Aujourd’hui, n’importe qui peut exprimer une réserve, un mécontentement ou un point de vue marginal et être entendu. Mais cette libération du discours ne se réalise pas dans les mêmes conditions pour tout le monde. Algorithmes misogynes, règles de monétisation discriminatoires, mépris des créneaux féminins : les inégalités ont tendance à se reproduire aussi sur la Toile.

Les statistiques concernant la violence en ligne n’étonnent plus personne. On estime qu’à l’échelle mondiale, 73 % des femmes auraient vécu du cyberharcèlement. En 2018, une étude réalisée par Amnistie internationale révélait que celles‑ci étaient davantage visées que les hommes sur Twitter et que, parmi elles, les femmes racisées couraient 34 % plus de risques de recevoir des commentaires hostiles sur la plateforme de microblogage.

En matière d’égalité, on a parfois l’impression qu’Internet est un Far West où les shérifs font partie du problème. En effet, des géants du Web comme Facebook, Twitter ou Instagram sont régulièrement pointés du doigt pour leurs critères de régulation aléatoires. Ainsi, celles et ceux qui censurent Instagram s’en prennent fréquemment aux mamelons féminins ou au sang menstruel tout en laissant libre cours à des images violentes.

En 2018, l’équipe d’investigation d’une chaîne britannique s’étant infiltrée parmi des modérateur·trice·s de Facebook révélait que des pages partageant du contenu raciste jouissaient d’une protection indue. Le contrôle du Web fait l’objet de décisions prises par des humains dotés de biais cognitifs fortement teintés par ceux de la société dans laquelle ils évoluent.

Compter sur les robots

Avec le développement de l’intelligence artificielle, on se serait attendu à ce que la neutralité des robots rende le Web plus sécuritaire pour les femmes et les personnes marginalisées, mais ce n’est pas le cas. Dans son essai Algorithms of Oppression, la chercheuse de l’Université de Californie à Los Angeles Safiya Umoja Noble se penche sur les effets racistes et sexistes des algorithmes. Elle s’est intéressée notamment à ce qui se passe quand on tape « black girls » dans Google. Les résultats varient selon un ensemble de règles gardé aussi précieusement que le secret de la Caramilk, mais, pendant ses recherches, Noble tombait surtout sur des pages pornographiques. « Les formules mathématiques utilisées pour générer des décisions automatisées sont conçues par des êtres humains qui ont toutes sortes de valeurs, écrit‑elle. Les algorithmes n’ont rien de banal, de neutre ni d’objectif, contrairement à ce que nous pensons. »

Le contrôle du Web fait l’objet de décisions prises par des humains dotés de biais cognitifs fortement teintés par ceux de la société dans laquelle ils évoluent.

L’actualité nous fournit plusieurs exemples du côté faillible de la machine. En 2018, on apprenait qu’un logiciel conçu pour trier les candidatures chez Amazon écartait systématiquement les CV de femmes, basant ses décisions sur le passé, un passé visiblement misogyne. Été 2019, Google affichait une bannière célébrant la fierté chaque fois que l’on y cherchait un terme LGBT . Mais après que le média Numerama eut souligné que les requêtes concernant le mot lesbienne conduisaient systématiquement à des résultats pornographiques, le moteur de recherche a tout simplement décidé d’exclure ce mot de son concept festif.

Écart salarial en vue

Des algorithmes sont aussi utilisés pour déterminer le potentiel de monétisation des chaînes YouTube, c’est‑à‑dire la possibilité, pour les vidéastes Web, de gagner des revenus grâce à leurs productions. « Il y a quelques années, d’importants annonceurs ont réalisé que leurs pubs étaient parfois associées à un contenu extrémiste ou violent et ont cessé de les diffuser sur YouTube. Depuis, l’entreprise a resserré ses règles de manière à rassurer ses clients » , explique Gabrielle Madé, directrice générale du Slingshot, une agence de marketing d’influence et de gestion de talents numériques. « Ce système est très flou et crée une grande nervosité chez les youtubeur·euse·s » , dit‑elle.

Et pour cause. Le classement fonctionne comme suit : drapeau vert, la vidéo est bonne pour tout annonceur; drapeau jaune, le contenu sera associé à une marque moins frileuse, par exemple des boissons énergisantes; drapeau rouge, l’œuvre ne pourra être monétisée, car elle est jugée trop controversée. Qu’est‑ce qui fait passer un clip de vert à rouge? Mystère et boule de gomme. Cet été, les robots de YouTube ont décidé que la vidéo de PL Cloutier Jokes de papa gay ne serait plus précédée de contenu publicitaire. Disons que ça a refroidi les ardeurs du youtubeur quand est venu le temps de trouver un nouveau concept pour célébrer la fierté sur sa chaîne.

Internet, c’est aussi le prolongement de nos rapports sociaux inégalitaires.

Les vidéos de Gabrielle Marion, une youtubeuse qui aborde régulièrement des enjeux trans, ont souvent fait l’objet d’une démonétisation. « Est‑ce parce que des termes comme vaginoplastie sont bannis par les algorithmes? » se questionne Gabrielle Madé. Les robots fondent leur analyse sur le texte, donc essentiellement sur les titres et les descriptions des vidéos.

Récemment, une chaîne YouTube consacrée à la culture Web a testé le caractère monétisable de 15 000 mots. Des vidéos contenant des termes comme gai étaient systématiquement démonétisées. De même, si l’on remplaçait le mot lesbienne, qui donnait des résultats variables, par amie, un enregistrement qui avait été disqualifié redevenait automatiquement admissible au financement.

Internet, c’est aussi le prolongement de nos rapports sociaux inégalitaires. « Les filles sont commentées plus sévèrement sous les vidéos. On va constamment les ramener à leur apparence » , souligne Gabrielle Madé, qui voit également une forme de misogynie dans le dénigrement de métiers typiquement féminins, comme influenceuse ou blogueuse mode. « Il y a cette idée que parler de maquillage, c’est niaiseux, alors que les vlogueurs spécialisés dans les jeux vidéo sont ultrarespectés » , dit‑elle.

Bref, dans le domaine des inégalités, chassez le naturel et il revient au galop.