Twitch lance un outil d'intelligence artificielle pour détecter les harceleurs

Pour lutter contre le harcèlement et protéger ses utilisateurs, Twitch propose un outil relevant "certains signaux" qui permettent d'identifier un harceleur banni qui serait revenu anonymement avec un nouveau compte.

La plateforme de jeux vidéo Twitch a annoncé mardi 30 novembre l'introduction d'un système pour détecter les utilisateurs malveillants qui créent de nouveaux comptes anonymes pour revenir sur des chaînes qui les ont bannis, un phénomène problématique pour les victimes de harcèlement.

Le leader de la diffusion de parties de jeux vidéo en direct peine depuis des mois à endiguer une vague de harcèlement raciste et homophobe, qui consiste en des raids de haine contre certains créateurs, notamment des personnes non-blanches ou de la communauté LGBTQ.

Les harceleurs viennent sur les fenêtres de chat de leurs victimes, et les inondent d'insultes ou d'images choquantes - comme des croix gammées quand le joueur est juif, par exemple. Si le créateur les bannit, certains reviennent quand même en créant un nouveau compte.

Détecter "certains signaux"

Le nouvel outil, baptisé "Suspicious User Detection" (détecteur d'utilisateur suspect), "est là pour vous aider à identifier ces utilisateurs en fonction de certains signaux [...] pour que vous puissiez prendre des mesures", a indiqué Twitch dans un communiqué.

Ce programme, fondé sur des technologies dites de "machine learning" (apprentissage automatisé des logiciels, une catégorie d'intelligence artificielle), distinguera les fraudeurs "probables" et "possibles". Dans le premier cas, leurs messages n'apparaîtront pas en public, seul le joueur et ses modérateurs les verront. A charge à eux de décider ensuite de les surveiller ou de les bannir.

Pas totalement fiable

"Aucun système de machine learning n'est fiable à 100%", précise cependant Twitch, "C'est pour cela que (l'outil) n'interdit pas automatiquement tous les potentiels fraudeurs".

Twitch est la propriété de l'entreprise Amazon. Elle affirme accueillir plus de 30 millions de visiteurs par jour.

En août dernier, des streamers se sont mobilisés pour interpeller la plateforme face au harcèlement récurrent subi par de nombreux utilisateurs. Ils ont lancé le #ADayOffTwitch, qui consistait à boycotter la plateforme pendant une journée pour dénoncer cette situation qui perdure.

Twitch a, depuis, lancé de nouveaux outils et porté plainte contre deux utilisateurs, qui, selon elle, gèrent depuis l'Europe des comptes multiples sur la plateforme sous différentes identités et sont capables de "générer des milliers de bots (des programmes informatiques automatisés, ndlr) en quelques minutes" dans le but de harceler leurs victimes.

Victoria Beurnez avec AFP