TikTok, Instagram et Facebook envahis par des publicités suggestives pour des IA pornographiques

De plus en plus de publicités promeuvent des IA génératives comme ChatGPT ou Midjourney, mais capables de générer des textes ou des images pour adultes. Et ce alors que les plateformes bannissent souvent les comptes humains parlant de sexualité.

"Tu veux me voir nue?". Sur TikTok, Instagram et Facebook, des dizaines de startups font la promotion d'intelligences artificielles spécialement conçues pour produire des contenus érotiques et pornographiques. Des publicités souvent elles-mêmes très suggestives.

Discussions "non censurées" avec des chatbots, avatars au physique et aux vêtements personnalisables et sexualisés, photos "Not Safe For Work" (explicites), créer "l'homme ou la femme de vos rêves"... Ces publicités promettent ouvertement de nombreux contenus explicites, rarement de manière très subtile, comme le souligne le site d'information américain NBC News.

Un exemple de publicité suggestive pour une IA générative diffusée sur les plateformes de Meta © BFMTV

Ces publicités utilisent souvent des images sexualisées de femmes générées par une IA comme Midjourney, ou reprennent des mèmes populaires. La bibliothèque publicitaire de Meta permet de constater que les utilisateurs français sont aussi concernés: rien que ces dernières semaines, plus d'une dizaine d'applications d'IA ont payé pour des publicités contenant le mot "NSFW" sur les plateformes de Meta (Facebook et Instagram).

Les utilisateurs américains de TikTok peuvent aussi voir ces publicités, selon NBC News. Mais les Français semblent moins ciblés, d'après la bibliothèque publicitaire de la plateforme.

Des exemples de publicités pour des IA génératives de contenus érotiques reprenant des codes de "mèmes" populaires sur internet © BFMTV

Des IA de plus en plus accessibles

Les publicités pour ces systèmes ne sont pas totalement nouvelles. Des chatbots comme Replika avaient un temps envahi les publicités de réseaux comme Twitter, promettant une IA capable de simuler des relations amicales ou amoureuses, puis des discussions explicites et l'addition d'images pornographiques. Des fonctions plus tard censurées par l'entreprise à l'origine du logiciel, au grand dam de ses utilisateurs.

Mais Replika met de nouveau en avant la production de contenu explicite dans ses publicités. Et aujourd'hui, les IA génératrices de texte (comme ChatGPT) et d'images (comme Midjourney) qui font fonctionner ces chatbots sont de plus en plus facilement accessibles et personnalisables.

De quoi inciter de nombreuses startups à envahir ce terrain potentiellement fructueux. C'est par exemple le cas du site Character.ai, qui permet de discuter avec des chatbots personnalisés et qui a levé 150 millions de dollars en mars.

Contenus "pour adultes" interdits

Ces publicités mettent cependant en lumière le comportement paradoxal de certaines plateformes: elles acceptent ces publicités, mais les comptes liés aux questions sexuelles tenus par des humains sont souvent masqués, voire bannis. Meta et TikTok interdisent en effet les "contenus pour adultes" sur leurs plateformes.

"Les travailleurs du sexe n'ont pas le droit de gagner de l'argent avec leur image, mais un "tech bro" qui crée des images artificielles du même genre, si", déplore auprès de NBC News Carolina Are, chercheuse à la Northumbria University et au Centre for Digital Citizens au Royaume-Uni.

Des politiques qui ne concernent pas seulement les comptes à vocation commerciale, mais aussi les comptes éducatifs ou militants. Facebook avait par exemple interdit les photos de femmes en train d'allaiter en 2014, puis les avait restaurées après des critiques d'utilisateurs sous le hashtag #FreeTheNipple ("libérez le téton").

La politique anti-nudité d'Instagram contient certaines exceptions ("allaitement, accouchement et moments après la naissance, situations liées à la santé" et acte politique). Mais certains utilisateurs affirment que même en essayant de les respecter, leurs comptes sont punis par la plateforme alors que des célébrités publient des contenus sexualisés sans conséquence.

Certaines publicités supprimées

Après avoir été averties de la multiplication de ces publicités sur leurs plateformes, Meta et TikTok ont accéléré leur suppression, rapporte NBC News. TikTok a confirmé que ses politiques interdisaient les publicités provocantes, et Meta a rappelé que son interdiction des publicités "pour adultes" s'appliquait aussi aux créations d'IA génératives.

Mais en proposant de simuler des relations humaines, ces programmes soulèvent aussi de nombreuses questions éthiques. Un homme s'était par exemple suicidé après que le chatbot avec lequel il échangeait depuis deux ans lui a suggéré de le faire.

En plus des publicités, certaines startups utilisent ces réseaux sociaux pour faire leur promotion à travers des vidéos classiques. Parfois en risquant l'illégalité: l'un des ces comptes propose par exemple aux utilisateurs d'entrer des photos de leur "crush" dans une IA, qui générera alors des images dénudées de cette personne.

Un usage qui peut s'apparenter à un "deepfake" pornographique – un montage photo ou vidéo réaliste à caractère pornographique réalisé sans le consentement de la personne. Ces créations pourraient bientôt valoir à leur auteur jusqu'à 3 ans d'emprisonnement et 75.000 euros d'amende, si le texte du projet de loi du numérique, qui devrait être examiné en deuxième lecture à la rentrée par l'Assemblée nationale, est adopté.

Luc Chagnon