YouTube recommande des vidéos d'armes à feu à des jeunes fans de jeu vidéo

Une étude montre que la plateforme de streaming vidéo recommande du contenu extrême au jeune public de jeu vidéo.

Un enfant qui regarde des vidéos de jeux comme Roblox, Lego Star Wars ou encore Grand Theft Auto peut se voir recommander par l'algorithme Youtube du contenu lié aux armes à feu, aux fusillades dans des écoles ou à des tueurs en série. Ce sont les conclusions d’une étude menée en novembre 2022 par le Tech Transparency Project (TTP), un centre de recherche et d’information américain qui analyse l’influence des nouvelles technologies.

Des jeux vidéo à la violence réelle

Pendant un mois, quatre comptes YouTube "test" ont visionné des contenus autour des jeux vidéos. Deux, identifiés comme des garçons de 9 ans, ont regardé des vidéos sur Lego Star Wars, Roblox, Among Us, Uncharted 4 ou Five Nights at Freddy’s, un jeu vidéo d’horreur dont le personnage principal est un ours humanoïde. Deux autres, pour mimer des adolescents de 14 ans, se sont concentrés sur Grand Theft Auto, Halo, Call of Duty ou encore Red Dead Redemption.

Tous les mineurs de l’étude se sont vus recommander des contenus violents, allant de scènes de fictions montrant des fusillades dans des écoles, de démonstrations des dommages qu’une arme à feu peut infliger au corps humain, de tutoriels pour transformer un pistolet en arme automatique, ou d'extraits d'un film sur la jeunesse du tueur en série Jeffrey Dahmer.

Jusqu’à 44 vidéos par jour sur les armes à feu

L’un des deux comptes dans chaque groupe d’âge ne visionnait pas les vidéos recommandées, tandis que l’autre si: dans ce cas, des contenus violents lui étaient jusqu’à dix fois plus recommandés que le compte qui s’en tenait écarté.

Au total, en un mois, le site de streaming a ainsi proposé plus de 1.325 vidéos sur les armes à feu au jeune de 14 ans qui suivait ses recommandations, soit 44 par jour, et 382 en tout à son double de 9 ans - y compris expliquant les effets d’une arme à feu sur un torse ou une tête humaine.

Parmi les vidéos poussées par l’algorithme, un montage du film Elephant de Gus Van Sant, qui retrace le massacre de l’école de Colombine dans le Colorado, combiné à la chanson "Pumped Up Kicks" du groupe Foster the People, qui parle d’un adolescent troublé qui s’imagine tirer sur les gens.

Cette vidéo, comme d’autres détaillées dans le rapport, a des associations problématiques. Selon des documents judiciaires, Nikolas Cruz, le jeune tireur ayant sévi dans la tuerie du lycée de Parkland en Floride en 2018, avait ainsi cherché sur YouTube "pumped up kicks columbine high school" plusieurs fois avant son attaque.

L’algorithme mis en cause

Les jeux vidéo sont souvent présentés sur la scène politique et médiatique comme des vecteurs de violence chez les jeunes, particulièrement aux Etats-Unis, en proie à des tueries par armes à feu en milieu scolaire - 51 mortelles rien qu'en 2022 selon le décompte d’Education Week. Celles-ci sont en majorité perpétrées par des assaillants de moins de 21 ans. Si cette théorie n'a jamais été étayée, cette étude met ici en cause l’algorithme de recommandation de YouTube comme lien entre ces deux types de contenu.

Ce constat est d’autant plus troublant que YouTube est la plateforme de réseaux sociaux la plus populaire chez les enfants américains entre 13 et 17 ans, qui sont 95% à l’utiliser selon une enquête menée en 2022 aux Etats-Unis par le Pew Research Center.

Un grand nombre de ces vidéos violaient pourtant la politique du site, qui interdit les "contenus violents ou sanglants destinés à choquer les spectateurs ou leur inspirer du dégoût", montrant des "actes dangereux ou pernicieux impliquant des mineurs" ou encore destinés à "fournir des instructions sur la conversion d'une arme à feu en arme automatique ou dotée d'un système de simulation de tir automatique", note le TTP. Certaines sont même encore actuellement monétisées.

Ces conclusions vont à l’encontre des déclarations de YouTube sur son blog en 2021, dont le vice-président de l'ingénierie affirmait "faire des recommandations responsables sa première priorité", ajoutant que de "récentes études publiées concluent que les recommandations de YouTube ne conduisent pas les spectateurs vers du contenu extrême". Cette étude aura démontré le contraire.

Lucie Lequier