Si vous vous connectez sur TikTok, vous pourrez trouver des vidéos de karaoké humoristiques, des sketchs, mais aussi des propos néo-nazis. L'application chinoise, qui a récemment racheté son concurrent Musical.ly, est extrêmement populaire auprès des adolescents. Elle revendique aujourd'hui plus de 600 millions d'utilisateurs actifs par mois. Problème: son développement soudain s'accompagne de la prolifération de contenus violents, que son propriétaire, le chinois ByteDance, peine à endiguer. Une enquête du média américain Vice, publiée mardi, démontre par exemple le nombre important de comptes liés à l'idéologie néonazie. Certains affichent clairement leur soutien à l'Attomwaffen, un groupuscule américain responsable de plusieurs meurtres de personnes juives aux États-Unis. Sur TikTok, on peut aussi taper librement des mots-clés du type #SiegHeil (un slogan nazi), ou consulter des vidéos de jeunes en train de faire le salut nazi.

Le problème est d'autant plus grave que la majorité des utilisateurs de TikTok sont très jeunes. «C'est tout simplement choquant et dangereux, surtout quand on voit le nombre de jeunes qui se sont radicalisés en ligne et ont basculé vers la violence ces dernières années», souligne Heidi Beirich, chargée de projet à la Southern Poverty Law, une association américaine de lutte contre la haine et l'exclusion, interrogée par Vice.

«Nouvel espace de propagande»

La France, où 38% des 11-14 ans ont un compte sur TikTok selon les chiffres de l'association Génération numérique, n'est pas épargnée. «TikTok s'est étendu très rapidement au niveau mondial, très peu de parents savent que leurs enfants sont exposés à ce type de contenus», estime Tristan Mendès-France, enseignant au Celsa spécialisé dans les nouveaux usages numériques. Plusieurs personnalités de l'extrême droite américaine, proche du conspirationniste Alex Jones, ont par ailleurs migré vers TikTok et ont trouvé en cette plateforme un «nouvel espace de propagande idéal, peu utilisé par les structures politiques traditionnelles», précise le chercheur.

Les problèmes de TikTok ne se limitent pas aux contenus liés à l'extrême droite et aux discours de haine. En novembre dernier, la police nationale avait alerté sur les risques de pédophilie sur l'application. Via un tweet, elle appelait les parents à porter plainte si leurs enfants étaient la cible de «propositions sexuelles mal intentionnées». En début d'année, des médias chinois ont aussi mis en garde les jeunes utilisateurs sur l'usage qu'ils faisaient de la plateforme. Le South China Morning Post affirmait par exemple avoir repéré des individus faisant des avances sexuelles sous des vidéos de jeunes en train de danser. En juillet, le gouvernement indonésien a même décidé de bloquer temporairement l'application pour «pornographie et contenu inapproprié». Le youtubeur français Roi des Rats, spécialisé dans la dénonciation d'abus sur les réseaux sociaux, a de son côté détaillé dans une vidéo publiée début novembre, et vue plus de 2,5 millions de fois, les dérives de la plateforme. Il y dénonçait notamment l'existence de comptes d'échanges d'images pédopornographiques.

«La sécurité des utilisateurs est un défi auquel notre industrie est confrontée à l'échelle mondiale, mais nous prenons cette question très au sérieux et réagissons rapidement», a commenté TikTok auprès du Figaro. «Nous continuerons d'améliorer nos efforts de modération et de mettre en place d'autres mesures de protection afin de réduire au minimum les risques d'utilisation abusive.»

À mesure que le nombre de ses utilisateurs explose - l'application était en tête des services les plus téléchargés sur smartphone au premier trimestre 2018 selon le cabinet spécialisé Sensor Tower - Tik Tok fait face à un vrai problème de modération de ses contenus, sans véritable réaction adéquate. Elle a tout de même mis à jour ses paramètres de confidentialité en juin. Il est désormais possible de partager des vidéos «en privé», seulement avec des abonnés approuvés par l'utilisateur, et de supprimer son compte à tout moment. Récemment, TikTok a aussi fait savoir qu'elle allait augmenter ses effectifs de modérateurs humains pour les faire passer de 6000 à 10.000 personnes. «Ces informations restent très floues. On ne sait pas vraiment comment cette modération fonctionne ou si les modérateurs parlent anglais ou français», commente Tristan Mendès-France. «Ce qui est sûr, c'est qu'il faut être extrêmement prudent. Même si l'application est officiellement interdite aux moins de 13 ans, beaucoup d'internautes plus jeunes y sont actifs.» Le chercheur préconise aux parents dont les enfants sont présents sur la plateforme de vérifier si leur compte est privé et si l'accès aux commentaires a été limité dans les paramètres de confidentialité.