"Il y a des ratés": sous la pression des députés, les responsables de Tiktok reconnaissent des "trous" dans le système

Ce jeudi 12 juin, plusieurs responsables de la modération de Tiktok ont été entendus par la commission d'enquête parlementaire sur les effets psychologiques de Tiktok sur les mineurs.

La fin des auditions de la commission d'enquête sur les effets psychologiques de Tiktok approche. Après plus d'une centaine d'auditions de spécialistes, de chercheurs, de victimes ou encore d'influenceurs, c'est désormais au tour des responsables de l'application d'être entendus par les 30 députés.

Au coeur des discussions, l'algorithme de recommandation de la plateforme, accusé par de nombreuses études comme le plus à même d'enfermer les internautes dans un flot de contenus homogènes et répétitifs, parfois très dangereux.

Des modérateurs de moins en moins nombreux?

Et les conséquences de cet algorithme peuvent être dramatiques. 11 familles françaises ont ainsi assigné Tiktok en justice, reprochant au réseau social d’avoir recommandé à des mineurs des vidéos promouvant le suicide, l’automutilation ou les troubles alimentaires.

L'autre point de tension, c'est la modération sur Tiktok. L'application de vidéos courtes est régulièrement accusée de ne pas mettre en place des mesures suffisantes pour protéger sa communauté ou pour empêcher les très jeunes d'accéder à la plateforme.... alors même que Tiktok est interdit aux moins de 13 ans.

"Nous supprimons les contenus non autorisés avant même qu'ils soient vus ou autorisés et nous restreignons le contenu qui n'est pas adapté au public de 13 à 17 ans", souligne Nicky Soo, responsable de la digital safety, devant les députés.

Pour cela, l'entreprise compte sur ses algorithmes de modération et surtout, sur ses modérateurs. "100% du contenu sur la plateforme est modéré et moins de 1% des contenus ne respecte pas nos conditions d'utilisations. Pour ceux-là, 80% sont supprimés automatiquement. La modération humaine arrive ensuite", détaille Brie Pegum, responsable des aspects techniques de la régulation.

Ces modérateurs sont ainsi chargés des contenus les plus sensibles, qui demandent plus de temps pour être analysés. Le hic, c'est que si les vidéos ou commentaires sont de plus en plus nombreux, le nombre de modérateurs n'augmente pas. Pour preuve, ils sont 509 à s'occuper du contenu francophone en Europe. C'est 125 de moins qu'au premier trimestre.

De nombreuses failles de modération

"Tout dépend des changements locaux en termes de volumes de contenus. (...) On a également beaucoup investi pour empêcher que qui que ce soit ne voit ce contenu", rétorque Brie Pegum, notamment en misant sur les algorithmes ou l'IA.

Autre problème, Tiktok assure que seule une infime partie des contenus "problématiques" passe entre les mailles du filet. "La modération de contenus comporte beaucoup de couches pour arriver à un degré de sécurité maximum", poursuit Brie Pegum.

Pourtant, la réalité est toute autre. Même s'il ne reste qu'une faible quantité de contenus problématiques "l'algorithme les met en avant", observe Laure Miller, rapporteure de la commission d'enquête. Pire, le dispositif laisse passer "énormément de contenus."

Et les députés ne manquent pas d'exemple. Dernier en date en mars dernier avec le hashtag Skinnytok, qui fait la promotion de la maigreur, parfois extrême. Or, nombre de ces contenus ont été poussés dans le fil "pour toi" d'internautes. Et, si près de 100.000 contenus et le hashtag ont été supprimés par la plateforme, les vidéos continuent à pulluler sur Tiktok.

Il suffit de changer de mot-clé, et de taper "skinny" ou "fear food" dans la barre de recherche pour s'en apercevoir. "Sur les dix premières vidéos recommandées, la moitié sont problématiques", s'offusque Arthur Delaporte, président de la commission, qui a fait le test en direct.

De leur côté, les modérateurs de Tiktok bottent en touche. "En janvier, notre équipe a commencé à suivre la tendance du skinnytok", précise Brie Pegum. "Il y aura toujours des contenus skinnytok sur la plateforme car certaines vidéos ne violent pas les règles et encouragent à manger sainement."

"Ces problématiques existaient bien avant la médiatisation du skinnytok. Ca fait des années que ces contenus incitant à la maigreur excessives sont présents sur les réseaux sociaux, et particulièrement sur Tiktok", rétorque Arthur Delaporte.

"Une erreur de modération"

Même constat pour des références claires à l'Holocauste et des codes antisémites. Si une association a signalé ces vidéos, la plateforme lui a assuré qu'elles ne contrevenaient pas aux règles communautaires. "Une erreur de modération", reconnaît Brie pegum.

Et si certains comptes d'influenceurs sont connus pour flirter avec les zones grises des règles communautaires, voire pour les enfreindre, peu d'entre eux sont bannis ou supprimés. Et ça, malgré les signalements des utilisateurs, ou les alertes lancées par plusieurs membres du gouvernement, dont Aurore Bergé.

C'est par exemple le cas d'Alex Hitchens, qui multiplie les propos sexistes. Il conseille ainsi à sa communauté de "mettre une gifle" aux femmes, ou les traite de "putes". Après un long silence, Brie Pegum rappelle qu'il "est difficile de regarder tous les comptes et de voir que ces utilisateurs ne respectent pas toutes les règles."

"Je ne connais pas le contexte de ces propos", ajoute-t-elle, tout en éludant la question.

Concernant les lives, les députés de la commission rappellent que certains mineurs réussissent à contourner les règles et les processus de vérification d'âge pour y accéder, voire y participer. Or, ce format est interdit aux moins de 18 ans. Ils pointent un schéma d'addiction et d'enfermement, à travers un processus de gamification autour des cadeaux que certains jeunes offrent en live aux influenceurs.

Une jeune fille a même réussi à faire des lives et à se faire payer par la plateforme. Si sa mère a signalé à Tiktok que sa fille était mineure, la créatrice en herbe a continué de se faire rémunérer par l'application.

"En complet décalage avec la réalité"

Là encore, les responsables de Tiktok peinent à répondre. "Ca n'aurait pas dû arriver (...) Ca n'est pas notre philosophie", reconnaît Nicky Soo, après plusieurs secondes sans répondre. "L'équipe va réfléchir pour savoir comment agir."

"Vos réponses sont en complet décalage avec la réalité sur Tiktok", soulève à plusieurs reprises Laure Miller. Après de longs échanges, les modérateurs finissent pas le reconnaître. "Evidemment, il y a des contenus qui passent dans les trous du système, il y a des ratés", concède Brie.

"Mais on travaille proactivement pour empêcher ces contenus (...) Il y a une marge d'amélioration", complète Nicky Soo. "Ca ne sera jamais parfait."

Concernant la vérification d'âge, là encore, les députés pointent plusieurs manquements. Si la plateforme est interdite aux moins de 13 ans, plusieurs études rappellent que 50% des enfants de 8 à 11 ans ont un compte sur la plateforme.

"La vérification d'âge ne s'arrête pas au moment où le compte est créé", lance Nicky Soo. En effet, si l'utilisateur a un comportement "suspicieux", plusieurs méthodes de vérification sont alors proposées aux internautes, comme le selfie avec une pièce d'identité. Ainsi, "642.000 comptes d'enfants de moins de 13 ans interdits" en 2024 poursuit la responsable.

Une méthode jugée insuffisante pour les députés. "Un million d'utilisateurs de moins de 13 ans sont présents sur Tiktok", note Arthur Delaporte. Là encore, le silence est pesant dans la salle. "Il n'y a pas de solution définitive, nous prenons des mesures proactives", assure Nicky Soo. "Nous travaillons avec des partenaires extérieurs, avec des régulateurs, ou des plateformes et des télécoms pour trouver des solutions pour les mineurs."

Ces auditions se sont poursuives cette après-midi avec les responsables de Tiktok France. Ces différents témoignages devraient aider les 30 députés à mieux comprendre l'algorithme de la plateforme et ses répercussions sur les jeunes. Les conclusions définitives de la commission seront présentées au plus tard le 12 septembre prochain.

Salomé Ferraris