Des internautes détournent l'IA d'Alibaba pour créer des vidéos pornographiques

24 heures après qu'Alibaba ait rendu son modèle d'IA accessible en open source, des utilisateurs ont détourné l'outil pour créer des dizaines de vidéos pornographiques.

Ce 20 février, le géant chinois Alibaba a surpris en annonçant que Wan 2.1, son modèle d'intelligence artificielle spécialisé dans la création d'images et de vidéos serait disponible pour tous gratuitement et en open source.

Avec un objectif: tenter de démocratiser son outil au grand public. Le logiciel a notamment été mis à disposition sur Github, l'écosystème mondial pour les développeurs.

Un outil détourné en 24 heures

Le hic, c'est que comme le rapporte 404media, l'outil d'IA a vite été détourné. 24 heures après l'annonce du géant chinois, l'IA a été récupérée par des amateurs de pornographie. Plusieurs développeurs ont ainsi personnalisé le chatbot pour qu'il produise uniquement des vidéos à caractère sexuel. Résultat, des dizaines de courtes vidéos pornographiques utilisant l'IA d'Alibaba ont été mises en ligne.

"Maintenant, nous avons un meilleur modèle Text2Video (qui) peut gérer des mouvements plus compliqués", s'est enthousiasmé un utilisateur d'un groupe Telegram dédié au partage de vidéos pornographiques non consensuelles générées par l'IA.

Selon le média américain, ces modèles spécialisés dans le contenu pornographique ont déjà été téléchargés des centaines de fois. Si ces outils ont été publiés sur Civitai, un site dédié à l'IA, rien n'empêche les internautes de télécharger les modèles et de les utiliser pour produire du contenu non consensuel en dehors du site. De son côté, Alibaba n'a pas répondu à une demande de commentaire.

Ce n'est pas la première fois que des IA sont détournées pour créer du contenu pornographique. En janvier 2024, la chanteuse américaine Taylor Swift a été victime d'un deepfake pornographique, une vidéo ou image manipulée par IA.

Plusieurs IA se sont d'ailleurs spécialisées dans le sujet. Plusieurs sites et applications permettent par exemple de dénuder artificiellement une personne sur une photo. Les sites de 34 entreprises de ce type ont ainsi reçu plus de 24 millions de visites rien qu'en septembre 2023, selon un rapport de l'entreprise de veille numérique Graphika.

Salomé Ferraris