Scarlett Johansson, votre ex ou votre crush: sur les réseaux sociaux, des IA vous permettent d'embrasser n'importe qui

Facebook, Instagram et Tiktok diffusent en masse des publicités pour des logiciels d'IA capables de créer un baiser entre deux personnes à partir de photos… sans leur consentement. Avec le risque de normaliser la prolifération des deepfakes pornographiques.

Embrasser votre acteur préféré, le dernier chanteur à la mode et même un dinosaure. C'est la promesse de nombreuses applications d'IA. Comme l'a remarqué Futurism, depuis plusieurs semaines, des publicités pour ces plateformes de "Kiss AI" ("baisers par IA") pullulent sur Instagram ou Meta.

Le média américain Forbes a repéré pas moins de 2.500 publications sur les réseaux de Meta vantant les mérites de ces IA. Sur Tiktok, plus de 1.000 vidéos ont également été recensées. Dans ces réclames, on peut ainsi voir Scarlett Johansson, Emma Watson ou encore Gal Gadot en train de s'embrasser. D'autres publicités montrent de très jeunes femmes embrasser des hommes plus âgés, précisant que l'IA pourrait vous permettre d'"embrasser votre ex" ou "votre crush".

"Les possibilités sont infinies"

"Les possibilités sont infinies", assure ainsi l'application Youcam, qui affirme sur son site que son "générateur de vidéos de baisers par IA" peut être utilisé pour donner vie au "rêve d'un utilisateur de partager un bisous avec sa célébrité préférée".

"Aucune expertise technique n'est requise. N'importe qui peut créer de magnifiques vidéos de baisers par IA en quelques minutes", promet AIKiss.AI. En effet, ces outils sont très simples à prendre en main. Les utilisateurs n'ont qu'à télécharger deux photos sur les applications dédiées -souvent gratuites- et le tour est joué. Les outils de "Kiss AI" produisent alors des vidéos particulièrement réalistes et crédibles. Le consentement des personnes concernées? Il n'est même pas obligatoire.

Des images réalistes et de slogans alléchants, donc, qui inspirent les internautes. Dans une vidéo Tiktok, on peut ainsi voir une utilisatrice se prendre en selfie aux côtés de Harry Styles. Soudain, l'image se met en mouvement. Le chanteur enlace alors la jeune fille, avant de l'embrasser à pleine bouche. "Je deviens jalouse de moi-même", plaisante Kelly Cuevas.

De son côté, Mar a tenté l'expérience avec Ian Somerhalder, l'acteur incarnant Damon Salvatore dans la série Vampire Diaries. Là encore, le processus est le même. L'acteur finit par embrasser la jeune fille. "Les envieux diront que c'est faux", écrit-elle en description.

Et ça cartonne. Ces deux vidéos dépassent les 30.000 vues. Sur Instagram, une vidéo de Taylor Swift qui embrasse Kim Jong-Un a été visionnée plus de 30 millions de fois. Une autre publicité qui présente un montage IA d'une jeune femme avec son "crush" cumule plus de 10 millions de vues.

Risque de deepfakes pornographiques

Ici, s'il ne s'agit que de baisers et de contenus non explicites. Il n'y a ni nudité, ni acte sexuel. Ces images ne violent donc aucune règle formelle de Meta. En effet, l'entreprise n'autorise pas les publicités qui "affichent, préconisent ou coordonnent des actes sexuels avec des parties non consentantes. Ainsi, les vidéos de baisers et d'étreintes sont autorisées.

Pour autant, ces outils en apparence inoffensifs peuvent parfois être détournés et utilisés à mauvais escient. C'est ce qu'on appelle des deepfakes, ces images, sons ou vidéos manipulés à l'aide de l'intelligence artificielle (IA) le plus souvent utilisés pour usurper l'identité d'une personnalité.

Ces fausses publications trompeuses générées sans aucun consentement peuvent ensuite être utilisées pour nuire à la réputation en ligne d'une personne ou lui faire du chantage. "Il n'est pas nécessaire que ce soit explicite pour qu'il y ait exploitation", souligne Haley McNamara, responsable du National Center for Sexual Exploitation (Centre national pour l'exploitation sexuelle).

"Si l'on franchit les limites en faisant quelque chose dans la vraie vie à quelqu'un sans son consentement, par exemple en l'embrassant, en le déshabillant, et ainsi de suite, on franchit également les limites en le faisant sur les réseaux."

C'est déjà demain : L'une des dérives de l'IA, la prolifération des deepfake - 30/12

3:20

"Une véritable boîte de Pandore"

Pire, selon Alice Siregar, analyste en IA, cette tendance "normalise l'utilisation des deepfakes à caractère pornographiques". "C'est une véritable boîte de Pandore", observe l'experte.

"Ces applications peuvent ensuite ouvrir la porte à des outils permettant de créer des images plus graphiques, comme le deepfake pornographiques et d'autres types d'abus sexuels basés sur l'image."

Pour preuve, l'application AIKiss.AI, particulièrement mise en avant sur les plateformes, propose aux adultes "qui recherchent du contenu plus explicite" de cliquer sur la fonctionnalité "cum kissing videos" (des montages incluant le contact de sperme avec la bouche).

"C'est incroyablement effrayant", alerte Alice Siregar.

D'autant que certaines applications s'adressent à un public très jeune. Par exemple, Fotorama, répertorié comme "générateur de vidéos de bisous et de câlins", est considéré comme sûr pour les personnes âgées de quatre ans et plus dans la boutique d'applications iOS, et sûr pour "tout le monde" sur le Google Play.

Selon les constatations de Tech&Co, les publicités pour ces applications "Kiss AI" sont encore en ligne sur Instagram et Meta. "Ces annonces de 'baisers par IA' n'enfreignaient pas les politiques de l'entreprise", rappelle un porte-parole du groupe à Forbes.

De son côté, Tiktok a supprimé les publicités de ces outils d'IA. L'application de vidéos courtes exige des annonceurs qu'ils "obtiennent le consentement des personnalités publiques ou privées représentées dans leurs publicités, même si celles-ci sont générées par l'IA", rappelle Ariane de Selliers, porte-parole de l'entreprise.

Salomé Ferraris