Eric Ciotti en Jedi, Donald Trump dans Mario Kart... Grok, l'IA d'Elon Musk, n'a aucun garde-fou

L'outil d'IA d'Elon Musk, disponible gratuitement pour tous les utilisateurs de X depuis le 6 décembre dernier, permet aux internautes de générer des clichés très réalistes avec de nombreuses personnalités politiques. Au risque de certaines dérives.

Dès qu'un outil d'intelligence artificielle (IA) est mis en ligne, les internautes s'empressent de le tester et de partager leurs plus belles créations sur les réseaux sociaux. Et Grok ne fait pas exception.

L'outil d'IA d'Elon Musk, conçu pour concurrencer ChatGPT, était déjà disponible depuis un an. Mais jusqu'à présent, il était uniquement disponible aux abonnés payant de X, ex Twitter. Depuis ce 6 décembre, l'outil peut être utilisée gratuitement par tous les utilisateurs du réseau social. Il suffit de cliquer sur l’onglet "Grok" dans le menu de l’application et le tour est joué. Le chatbot permet ensuite de générer du texte et des images.

Des images encore plus réalistes

Et les résultats sont parfois impressionnants. Désormais, la qualité des images ressemble à de véritables photographies. Et s'il était déjà possible de générer des images avec des personnalités mondialement connues, l'IA d'Elon Musk va encore plus loin. Elle permet désormais de générer un grand nombre de personnalités françaises, de manière assez détaillée.

"Bien entendu les politiques les plus connus... mais aussi les moins connus qui sont impossibles à faire directement avec d'autres modèles", précise un internaute, créations d'IA à l'appui. D'une simple demande, les internautes peuvent ainsi générer des images de personnalités connues dans des situations gênantes ou inattendues.

Certains internautes se sont ainsi amusés à transformer Gad Elmaleh en prêtre. Mais la majorité des publications concernent la scène politique. Sur certaines photos, Marine Lepen enlace Jean-Luc Melenchon et Mathilde Panot se trouve aux côtés de Jean-Marie Lepen dans le désert.

Dans d'autres clichés, Marion Maréchal emprunte le costume de Lara Croft et l'humoriste Ramzy Bedia est en duo sur scène avec Eric... Ciotti.

Si certains montages ont de quoi faire sourire, certains peuvent s'avérer plus dangereux. En effet, les utilisateurs peuvent très facilement créer de toutes pièces une rencontre entre Emmanuel Macron et le dictateur Saddam Hussein ou faire porter un brassard nazi à la chanteuse Taylor Swift.

Risque de désinformation

La plupart des outils empêchent ce type de manipulations. Dall-E (OpenAI), en particulier, refuse les représentations de personnalités publiques, et notamment politiques, pour limiter les risques de désinformation. Mais Grok est beaucoup moins limité. L'outil d'IA d'Elon Musk permet très facilement la création de ce type d'images. Et ces dernières sont plutôt réalistes, au point que certains peuvent laisser croire qu’elles sont réelles.

"Ceux qui sont familiarisés avec les générateurs d'images IA peuvent repérer avec suffisamment de confiance si l'image est fausse ou non. Mais je m'inquiète pour nous, les simples mortels qui ne le peuvent pas", alerte ainsi un utilisateur.

De la même manière, si les outils d'IA interdisent, en théorie, les atteintes au droit d'auteur, il est très facile de mettre en scène des marques, des personnages de jeu vidéo, ou encore des personnages de films et de séries avec Grok. On peut par exemple générer Donald Trump dans un kart aux couleurs de Mario Kart.

Une image de Donald Trump générée par l'IA Grok. © Grok

Ou encore faire enfiler à Eric Ciotti la tenue traditionnelle des Jedi.

Si Grok ne semble pas disposer de garde-fou, xAI indique dans les conditions générales d’utilisation qu’il est interdit d’utiliser l’IA pour "encourager la haine, la violence ou le préjudice à l’encontre d’un individu ou d’un groupe". De même, il est interdit de se servir de l'outil à des fins de diffamation ou encore pour usurper l’identité d’une personne ou d’une entité.

Salomé Ferraris