Intelligence artificielle: quand les générateurs d’avatars déshabillent les femmes

Le 13/12/2022 à 16h17

Certaines applications proposent de créer de multiples avatars à l’aide de selfies. Une tendance au départ amusante mais qui peut vite dériver vers des procédés plus douteux.

Avoir un tableau réaliste de sa personne, une vision de soi avec des cheveux roses ou son visage version manga: tout cela est désormais possible avec l’intelligence artificielle. Les applications qui permettent ces transformations se sont multipliées ces derniers mois. Data AI, Stable Diffusion mais aussi Lensa.

Cette dernière fait toutefois l’objet de critiques, notamment en raison des images qu’elle génère. Une journaliste du MIT Technology Review a par exemple récolté de nombreux avatars d’elle dénudée ou dans des positions suggestives.

Sur 100 avatars, 30 étaient dénudés

La journaliste a ainsi dévoilé les différents avatars que Lensa avait généré à partir d’une dizaine de selfies. Résultat: des avatars très sexualisés et souvent peu vêtus. La raison de cette hypersexualisation non souhaitée viendrait selon la journaliste de son héritage asiatique.

Les avatars générés montrent en effet clairement la jeune femme dans des univers très cartoonesques et proches des mangas japonais. Et même en indiquant vouloir des avatars d’elle sous des traits masculins, l’intelligence artificielle continuait de lui proposer des œuvres dénudées.

Ainsi, sur 100 avatars générés par Lensa, 16 montraient la journaliste seins nus et 14 la mettait en scène dans des tenues légères ou des positions ambigues. A contrario, ses collègues ont tous eu des avatars d’eux plutôt flatteurs à leur égard, les montrant tantôt guerriers ou astronautes.

D’autres internautes ont également reçu le même traitement de la part de l’application.

La faute à Internet?

Lors de la création de ces avatars, Lensa demande pourtant à ses utilisateurs (en plus des 7 euros pour les générer) d’utiliser des photos de bonne qualité. Elle qualifie surtout de "mauvaises photos" les photos de nu.

L'application Lensa explique ce qu'elle considère comme bonnes et mauvaises photos pour générer des avatars via l'intelligence artificielle. © Capture d'écran / Tech&Co

L’application génère donc d’elle-même ces photos dénudées. Un processus qui n’est pas dû au hasard selon Aylin Caliskan, spécialiste des intelligences artificielles, interrogée par le MIT Technology Review. Lensa utiliserait Stable Diffusion, un système qui se baserait sur une compilation d’images trouvées sur Internet.

Et d’après la spécialiste, le fait qu’Internet regorge d’images de femmes peu ou totalement dénudées voire stéréotypées ferait pencher la balance vers des avatars à leur tour dénudés et stéréotypés.