Temps de lecture: 2 min — Repéré sur The Guardian

La développeuse web Kelsey Bressler, 28 ans, en a eu assez de recevoir des photos de pénis dans les messages privés de son compte Twitter. «C'est une violation... ils ne font que vous forcer la main», a affirmé la développeuse web. Le fait que ces images soient partagées sans le consentement de la ou du destinataire est considéré comme du harcèlement sexuel.

Elle a donc décidé, plus tôt ce mois-ci, de créer un filtre d'intelligence artificielle prétendument capable d'empêcher plus de 95% des photos de pénis d'atteindre sa boîte de réception. Afin de tester le filtre, Kelsey a créé le compte d'essai @ShowYoDiq, «pour la science», sur lequel elle a sollicité les hommes à envoyer des dick pics en masse. Elle en a aussitôt reçu des centaines.

I'm soliciting dick pics at the handle @showyodiq .



This is not a joke.



I am testing a filter that is under development which will automatically detect dick pics in DMs and handle them on behalf of the user (delete, delete&block).



18+ , consensual, human dicks only please. — K E L S E Y (@raeBress) September 5, 2019

Le filtre sait repérer les organes génitaux car il a été entraîné en regardant beaucoup d'images pornographiques. Quelques photographies ont cependant réussi à détourner l'intelligence du filtre, notamment celle d'un pénis couvert de paillettes violettes. Mais lorsqu'il s'agit d'un organe habituel, le filtre le voit et le supprime avant que le destinataire ait à le faire.

Inaction des réseaux sociaux

Face à la rapidité du lancement de l'intelligence artificielle de Kelsey Bressler, qui a déjà attiré l'attention d'un réseau social, on se demande pourquoi les entreprises de technologie n'ont pas encore commencé à s'attaquer à ce problème. Par exemple, le réseau social Twitter a un réglage qui, une fois activé, peut bloquer les images signalées comme «contenu sensible» par d'autres personnes, mais cela n'empêche pas qu'une photo de pénis soit envoyée dans les messages privés.

À lire aussi Des hommes expliquent pourquoi ils envoient des photos non sollicitées de leur pénis

Il est nécessaire que les entreprises fassent des efforts et instaurent une législation pour mettre un terme au cyberharcèlement et au partage non consenti de nudes. Mais elles seraient réticentes à interdire le partage de photos de sexe non sollicitées, car cette pratique n'est pas encore illégale partout et elles ne sont pas tenues de protéger leurs utilisateurs et utilisatrices. Même en cas de harcèlement grave, les entreprises peuvent défendre leur refus de protéger les victimes en invoquant l'article 230 du Communications Decency Act (en ce qui concerne les États-Unis), qui les acquitte de toute responsabilité quant au contenu que les inscrit·es sur leurs réseaux partagent.

L'application de rencontre Bumble a récemment lancé un filtre d'images, Private Detector, similaire à celui de Kelsey Bressler. Le filtre floute les images potentiellement sensibles afin que les destinataires puissent les supprimer sans avoir à les regarder.