Deepfakes pornographiques: pourquoi l'intelligence artificielle rend la lutte impossible

A cause de l'intelligence artificielle, les fausses images pornographiques se répandent à grande vitesse et sont surtout de plus en plus difficile à identifier.

La montée des deepfakes pornographiques inquiète. Le phénomène, qui s'est largement répandu avec l'intelligence artificielle, touche majoritairement des femmes, notamment celles qui ont une grande visibilité publique - à l'image de Taylor Swift, victime du phénomène ce samedi 27 janvier.

Les deepfakes pornographiques sont des photos et vidéos trompeuses réalisées par intelligence artificielle, qui consistent à faire apparaître dénudée une personne en utilisant uniquement une photo de son visage. On pose une tête sur un corps qui ne lui appartient pas, et l'intelligence artificielle fait le reste, construisant un corps dénudé à partir de milliers de données piochées en ligne.

Des deepfakes qui se perfectionnent

L'intelligence artificielle générative a connu des avancées majeures ces derniers mois, et continue de se perfectionner. Cette branche de technologie utilise des millions d'images trouvées en ligne pour "générer" des contenus inédits. Si les montages malveillants ont toujours existé, l'intelligence artificielle générative les rend très perfectionnés, pratiquement indétectables, mais surtout beaucoup plus accessibles. Il suffit d'une photo pour générer, en quelques clics, un deepfake à caractère sexuel de n'importe qui, sans nécessairement avoir de compétence dans le domaine du numérique.

La qualité des images et les nombreux canaux de diffusion par lesquelles elles transitent, parfois privés à l'image de Telegram ou Whatsapp, rendent aussi la lutte extrêmement compliquée pour les services de modération, mais aussi pour les victimes.

Ce week-end du 27 janvier, la chanteuse américaine Taylor Swift a été victime de cette pratique: X (anciennement Twitter) a pris la décision de supprimer les recherches liées à son nom. Mais Taylor Swift est une personnalité publique; dans le cas d'une personne anonyme, trouver ces contenus illégaux est plus compliqué, de même que faire supprimer les différentes occurrences publiées en ligne.

Très facile d'accès

En ligne, plusieurs sites référencent des applications et sites web dédiés à créer ce genre de photos. Avec certains mots-clés, Google renvoie vers des dizaines de sites dédiés à cette pratique, facilement accessibles. Dans leurs conditions d'utilisation, ils se dédouanent souvent de toute responsabilité liée à leur contenu. La plupart interdisent par ailleurs les images représentant des mineurs.

Sur le web, les cas de jeunes femmes mises en scène dans de fausses images dénudées se multiplient. En France, plusieurs streameuses ou influenceuses en ont fait les frais, à l'image de la streameuse Maghla ou de l'influenceuse fitness Juju Fitcats, qui a publié une vidéo à ce sujet. Autre cas de figure, en Espagne mais aussi en Equateur, de jeunes élèves ont été victimes de fausses photos et vidéos pornographiques les mettant en scène fin 2023.

Une pratique criminalisée

Face à l'ampleur que prend le phénomène, l'ancien ministre chargé du Numérique, Jean-Noël Barrot, a tenu à inscrire la pratique dans la loi sur la sécurisation de l'espace numérique. Il y est précisé que "porter à la connaissance du public ou d'un tiers" un "hypertrucage à caractère sexuel" est puni de deux ans d'emprisonnement et de 60.000 euros d'amende.

La peine monte à 3 ans de prison et 75.000 euros d'amende si l'image est diffusée sur un canal public en ligne. Le texte n'est toutefois pas définitivement adopté et pourrait être retoqué par la Commission européenne.

Selon l'Office de lutte contre les violences faites aux mineurs, interrogé par Franceinfo, la pratique est aujourd'hui utilisée par des pédocriminels dans des cas de chantage sexuel. Déjà, fin 2019, Deeptrace, un cabinet spécialisé dans la cybersécurité, indiquait que 96% des deepfakes étaient consacrées à la "pornographique non consensuelle", et notamment avec des images de femmes célèbres.

Près de cinq ans plus tard, et avec l'essor de l'intelligence artificielle générative, nul doute que ces chiffres sont voués à évoluer. Face à une pratique aussi facilitée par la technologie et des réseaux sociaux à la modération parfois inexistante, les recours techniques comme juridiques restent pour l'heure très limités.

Victoria Beurnez