Drogues, armes et politique: le générateur d'images de Grok, l'IA d'Elon Musk, en pleine dérive

Depuis la mise en ligne de la génération d'images au sein de l'IA Grok, les dérives sont très présentes, au point de poser un certain nombre de problèmes d'éthique.

Depuis l'arrivée de l'intelligence artificielle générative, et notamment des images, voire des vidéos, la plupart des entreprises qui en sont à l'origine ont petit à petit instauré différents pare-feux pour éviter les abus. Mais ce n'est pas le cas de Grok.

L'IA d'Elon Musk, disponible via X (anciennement Twitter), permet depuis le 14 août 2024 de générer des images à partir de prompts à condition d'être un abonné premium. Mais cette fonctionnalité a beaucoup moins de limites que ses principaux concurrents comme OpenAI.

Des abus à n'en plus finir pour Grok

Sur le réseau social du milliardaire, on peut ainsi découvrir toute sorte de dérives. Par exemple, Grok peut très facilement générer des images dont les éléments vont être liés à des droits d'auteur. Souvent, cette "faille" du système permet, en plus, de mettre en scène des personnages dans des situations particulièrement problématiques.

Par exemple, on peut apercevoir le personnage de Elmo, héros de la série pour enfant Sesame Street, armé d'un pistolet, ou encore Mario faisant ses courses avec Dark Vador et Taylor Swift, ainsi que Pikachu armé d'un fusil mitrailleur.

Mais l'IA peut aussi déraper quand il s'agit d'imaginer des scènes de la vie politique. On peut par exemple générer via Grok des images mettant en scène Kamala Harris et Donald Trump, les candidats à la présidentielle américaine. Certains utilisateurs ont ainsi imaginé le duo en train de fumer de la marijuana. Donald Trump également utilisé avec Emmanuel Macron dans une image où ils s'embrassent.

Des utilisateurs conservateurs n'hésitent pas non plus à réaliser des montages montrant le camp Démocrate (symbolisé par Hillary Clinton, Joe Biden et Barack Obama) avec des armes ou de l'argent.

La chanteuse Taylor Swift, une des cibles favorites du candidat Républicain, est également largement utilisée pour créer de fausses images d'elle, armée d'un fusil d'assaut.

Des créations étonnantes alors qu'Elon Musk a plusieurs fois accusé son concurrent OpenAI de ne pas faire assez pour protéger le monde contre les abus de l'IA générative. Le milliardaire ne s'est pas exprimé sur ces créations qui pourraient mener à de la désinformation, mais il utilise lui-même cet outil depuis qu'il est devenu l'un des fervents défenseurs de Donald Trump.

Notons toutefois que les conditions générales d'utilisation de Grok interdit normalement d'"encourager la haine, la violence ou le préjudice à l'encontre d'un individu ou d'un groupe." Il n'est pas non plus permis "d'usurper l'identité d'une personne ou d'une entité". De ce point de vue là, les règles ne semblent pas tout à fait respectées...

Sylvain Trinel