"Cela fait partie des gros enjeux de l'esport": comment le club Vitality utilise l'IA pour protéger ses joueurs du cyberharcèlement

Suivis par des passionnés, les stars de l'esport sont aussi la cible de nombreuses insultes et commentaires déplacés sur les réseaux sociaux. Pour les préserver, le club Vitality fait appel à un système dopé à l'IA pour bloquer les messages haineux ou toxiques.

Particulièrement exposé à la haine en ligne, le secteur de l'esport tente de lutter contre le fléau du cyberharcèlement, à l'image du club français Vitality, qui s'est doté récemment d'un outil visant à protéger ses joueurs grâce à l'intelligence artificielle.

"Cela fait partie des gros enjeux de l'esport (les compétitions de jeux vidéo, NDLR) car on a une exposition à la négativité ou à la toxicité un peu plus importante que d'autres disciplines", explique à l'AFP Fabien "Néo" Devide, le patron de Vitality.

Un monde virtuel, des insultes bien réelles

Par essence, joueurs ou entraîneurs d'esport vivent dans le monde virtuel, où ils sont au contact direct de fans particulièrement passionnés. Il leur arrive régulièrement d'être pris pour cibles et de se retrouver submergés de messages haineux, d'insultes ou même de menaces de mort.

"Malheureusement, ça existe. Ce n'est pas non plus notre lot quotidien, mais à l'occasion de contre-performances ou de faits de jeu, ça peut arriver", note Fabien Devide.

Il y a quelques mois, le joueur "Zywoo", grande star du club et du jeu vidéo Counter-Strike, a ainsi été victime d'un "raid numérique" à la suite d'une action sur un adversaire au cours d'un match. En début d'année, "Zen", champion du monde de Rocket League en 2023, avait également subi un flot d'insultes et de menaces en raison des performances de son équipe.

"Cela peut avoir des conséquences qui peuvent amener à des sentiments d'isolement, des burn-out, et c'est de plus en plus quelque chose qui est difficile à gérer pour les jeunes joueurs", regrette le patron de Vitality.

Avec Bodyguard, une application de modération en ligne en temps réel également utilisée par des acteurs du sport traditionnel, le club parisien a donc souhaité publier un rapport sur la haine en ligne pour "alerter" sur la situation dans l'esport, à quelques jours de la Journée mondiale de la santé mentale vendredi.

"Le prolongement d'eux-mêmes"

D'après les résultats de cette étude, 4,2% des messages en ligne concernant l'esport comportent des contenus haineux. C'est plus que le football (3%), sport qui déchaîne pourtant les passions et suscite de nombreux excès.

Depuis le 1er août, Vitality s'est donc associé à Bodyguard pour filtrer les messages de ses réseaux sociaux, un partenariat présenté comme une première dans le secteur de l'esport. L'outil permet, à l'aide de modèles d'intelligence artificielle, de masquer automatiquement les commentaires malveillants postés sous les publications du club.

Dix-neuf comptes officiels de Vitality sont ainsi protégés. Résultat: sur plus de 57.000 messages analysés, plus de 2.000 ont été bloqués, principalement sur les comptes X et Instagram du club.

"Bodyguard protège les joueurs en analysant automatiquement les messages reçus sur leurs réseaux sociaux et en supprimant en temps réel ceux qui sont toxiques", explique son co-fondateur Charles Cohen.

"Cela réduit directement l'exposition des joueurs à la haine en ligne. C'est un vrai soutien pour leur santé mentale et leurs performances, car ces contenus ont un impact personnel et immédiat."

Pour Fabien Devide, les clubs en tant que structures ont aussi un rôle à jouer dans la protection de leurs joueurs.

"Aujourd'hui, le digital fait partie intégrante de l'identité d'une personne, et surtout d'un adolescent", souligne-t-il. "Les réseaux sociaux sont le prolongement d'eux-mêmes, ils font partie de leur quotidien et de leur manière de consommer les médias et le divertissement, ou même leur manière de se construire en tant qu'individu. Cela demande donc beaucoup de vigilance de notre côté."

P. F. avec AFP