Midjourney interdit de générer des images du président chinois

Après que de fausses photos d’actualité soient devenues virales en ligne, il est désormais impossible de générer des images de Xi Jinping avec l’IA générative Midjourney.

Ces derniers jours, des fausses images de l’ex-président Donald Trump malmené en manifestation, du pape en doudoune blanche branchée, de Joe Biden grimé en clown ou encore d’Emmanuel Macron en éboueur avaient fait le tour de la toile. Toutes avaient été générées par l’intelligence artificielle Midjourney.

Depuis, le journaliste américain Eliot Higgins, qui avait lancé la tendance, a été banni du logiciel. Midjourney a également mis fin à ses essais gratuits.

Mais tous les dirigeants n’ont pas le droit au même traitement. Si vous essayez par exemple de fabriquer une image de Xi Jinping ou du président chinois, vous n’y arrivez très probablement pas du premier coup. Midjourney a tout simplement interdit leur création.

"Éviter les drames"

Le but affiché: "Éviter les drames", affirme le PDG de Midjourney, dans un message sur la plateforme Discord, relayé par le Washington Post, "car la satire politique en Chine est plutôt mal vue". L’entreprise pourrait tout simplement craindre des répercussions juridiques, alors qu’elle reste une petite structure, comme le suggère 01Net.

Ces faux clichés peuvent également être utilisés à des fins politiques et de propagande, alors qu’il est encore très compliqué de distinguer un réel cliché d’une image issue d’une IA.

"Les images deviennent de plus en plus réalistes et les outils de plus en plus puissants", concède le fondateur de Midjourney. Il dit travailler à mieux détecter les "comportements répréhensibles" dans l’utilisation de son IA, sans donner plus de précisions. Le logiciel n’autorise déjà pas les images trop violentes et les textes "intrinsèquement irrespectueux, agressifs ou autrement abusifs".

Si peu de limitations sont mises en place par son concurrent Stable Diffusion, l’IA générative Dall-E interdit de son côté de représenter des hommes politiques ou des événements géopolitiques majeurs actuellement en cours.

Dans le cas de Midjourney, cette censure passe mal auprès de ses utilisateurs, qui ont déjà trouvé des moyens de la contourner en utilisant d’autres mots pour décrire le président chinois. Un guide mis en ligne sur un site taïwanais détaille même comment "se moquer" de Xi Jinping grâce à l’IA.

Lucie Lequier