Des policiers chassant des personnes noires, des Asiatiques cuisinant du chien: sur les réseaux sociaux, des vidéos racistes générées avec l'IA de Google cartonnent

Depuis plusieurs semaines, des vidéos racistes pullulent sur les réseaux sociaux et connaissent un succès grandissant. Elles sont toutes été générées par IA.

L'intelligence artificielle générative est un succès, mais elle peut aussi donner lieu à de nombreux abus. Ces dernières semaines, sur les réseaux sociaux comme Tiktok, de nombreuses vidéos à caractère raciste ont commencé à pulluler. Celles-ci cumulent des millions de vues.

On y voit pêle-mêle des policiers pourchassant des personnes noires, des Asiatiques cuisinant du chien, des Juifs orthodoxes courant après de l'argent... Les exemples sont nombreux et illustrent des stéréotypes racistes.

Certaines vidéos cumulent entre 1,2 et 14,2 millions de vues.

Jusqu'à un an de prison pour les créateurs de ces vidéos

Pour les créer, les utilisateurs derrière ces vidéos ont utilisé Veo 3, la nouvelle version de l'IA générative de Google qui permet de concevoir aussi bien des vidéos que du son et du doublage.

Le phénomène, très présent aux États-Unis, commence à prendre son envol en Europe, d'autant que Google a mis à disposition du vieux continent la dernière version de son modèle d'intelligence artificielle. Google n'a pas réagi à ces vidéos, alors que le géant de la recherche avait promis de mettre des garde-fous importants pour éviter les dérapages.

Les vidéos sont en tout cas partagées sur les réseaux sociaux, voire repartagées par des comptes secondaires. Interrogé par Tech&Co, Antoine Chéron, avocat spécialisé dans le numérique, explique que les auteurs de ces vidéos risquent pourtant très gros: "Du moment où la participation de la personne (à la création de la vidéo) est active et consciente du caractère raciste dans son prompt, ces infractions sont réprimées par la loi."

Le Code pénal prévoit juqu'à un an de prison et 45.000 euros d'amende en cas d'infraction.

Face à ce phénomène qui prend de l'ampleur, les plateformes s'activent néanmoins à modérer au mieux les vidéos. Interrogé par The Verge, Tiktok affirme avoir supprimé les comptes concernés et entend continuer à le faire en fonction des signalements. Une mesure que Tech&Co a été en mesure de vérifier.

Sylvain Trinel