Face aux arnaques, Youtube développe des outils pour débusquer les deepfakes de stars

Youtube va développer des garde-fous pour aider les vidéastes et les célébrités à identifier les deepfakes générés par IA utilisant leur image sur la plateforme. Les tests commenceront début 2025.

Le youtubeur Cyprien Iov qui semble faire de la promotion pour de la cryptomonnaie, Florent Pagny qui demande de l'argent à ses fans ou encore Alain Chabat qui fait la promotion d'un supposé programme d'investissement. Autant d'images et de vidéos qui ont circulé en masse cette année sur les réseaux sociaux.

Pourtant, aucune de ces images n'est réelle. Il s'agit en réalité de deepfakes, ces images, sons ou vidéos manipulés à l'aide de l'intelligence artificielle (IA) le plus souvent utilisés pour usurper l'identité d'une personnalité.

Conserver le contrôle de son image

Avec l'amélioration des outils d'IA, ces deepfakes sont devenus de plus en plus réalistes et donc, difficiles à détecter. Ainsi, comme le rapporte The Verge, Youtube s'est associé à la Crative Artists Agency (CAA), une agence de talents, afin de développer des outils pour aider les vidéastes à identifier les contenus utilisant leur image sur la plateforme et à les supprimer.

"Dans les jours à venir, nous travaillerons avec la CAA pour garantir que les artistes et les créateurs découvrent l'incroyable potentiel de l'IA tout en conservant le contrôle créatif sur leur image", précise ainsi Neal Mohan, PDG de Youtube dans un communiqué.

Pour le moment, les outils sont encore en cours de développement. Mais ils seront testés début 2025 auprès de plusieurs célébrités et athlètes. Ils sont seront ensuite déployés auprès des "meilleurs créateurs de Youtube, des professionnels de la création et d’autres partenaires de premier plan représentant les talents."

Ce n'est pas la première fois que la plateforme vidéo de Google souhaite protéger l'image des créateurs de contenus et des célébrités en développant de nouveaux garde-fous. En septembre dernier, l'entreprise à ainsi annoncé son intention de créer des outils pour identifier les contenus imitant les voix des artistes grâce à l'IA.

Depuis novembre 2023, il est également possible de demander le retrait d'impostures générées par IA. La plateforme demande également aux créateurs d'indiquer clairement lorsque du contenu réaliste a été créé grâce à de l'intelligence artificielle afin que les personnes qui le visionnent soient prévenues à l'aide d'un affichage spécifique.

Salomé Ferraris