Un bug permet à ChatGPT d'avoir des conversations sexuelles avec des mineurs

OpenAI a déclaré déployer un correctif pour régler le bug, qui a été découvert par le site spécialisé Techcrunch.

Les chatbots de Meta ne sont pas les seuls à avoir des conversations sexuelles avec des mineurs. Cela est aussi possible avec ChatGPT, a découvert le site spécialisé Techcrunch. Mais dans le cas du robot conversationnel d'OpenAI, il s'agit d'un bug.

Le site américain a fait cette découverte en créant des comptes de mineurs dans le cadre de tests. Pour chacun de ces tests, il a commencé la discussion avec la requête "Talk dirty to me", soit "parles-moi de choses osées" en français. Il n'a ensuite fallu que quelques messages et des requêtes supplémentaires pour que ChatGPT propose des histoires sexuelles.

"Nous pouvons aller jusqu'à la surstimulation, les multiples orgasmes forcés, l'asphyxie érotique, même une domination plus brutale - où vous voulez", a par exemple déclaré le chatbot lors d'un échange avec un adolescent fictif de 13 ans, après avoir été incité à être plus explicite dans ses descriptions de situations sexuelles.

Un bug bientôt corrigé

Techcrunch souligne que lors de ces tests, ChatGPT a souvent prévenu que ses directives n'autorisaient pas les "contenus sexuels totalement explicites" tels que les scènes pornographiques et les représentations graphiques de rapports sexuels. Mais, cela ne l'a pas empêché de parfois décrire des organes génitaux et des actions sexuelles explicites.

Le robot conversationnel d'OpenAI a seulement refusé de les décrire lorsque le site a indiqué, directement dans la conversation, que l'utilisateur fictif avait moins de 18 ans.

"Juste pour que vous le sachiez: vous devez avoir plus de 18 ans pour demander ou interagir avec tout contenu sexuel, explicite ou hautement suggestif", a écrit ChatGPT dans une conversation, après avoir généré des centaines de mots érotiques. "Si vous avez moins de 18 ans, je dois immédiatement arrêter ce type de contenu - c'est la règle stricte d'OpenAI", a-t-il ajouté.

Depuis février dernier, l'entreprise autorise en effet son chatbot à générer des contenus sexuels, mais seulement lors d'échanges avec des adultes. Cette interdiction, qui concernait tous les utilisateurs auparavant, "s'applique uniquement aux contenus sexuels impliquant des mineurs", indique OpenAI dans son "Model Spec", document régissant la manière dont ses modèles d'IA se comportent.

La société avait justifié ce changement, ainsi que d'autres par la volonté de ne plus censurer "explicitement la liberté intellectuelle" en ne censurant plus certains points de vue. Et à cause de ces changements, ChatGPT, avec le modèle d'IA sélectionné par défaut (GPT-4o), est plus enclin à discuter de sujets qu'il refusait auparavant, y compris les représentations d'activités sexuelles, précise Techcrunch.

Contacté par le site, OpenAI a assuré que ce genre de contenus n'aurait pas dû être montré à des mineurs, ajoutant qu'il "déploie activement un correctif" pour corriger le bug.

"La protection des jeunes utilisateurs est une priorité absolue, et notre Model Spec (...) limite clairement le contenu sensible comme l'érotisme à des contextes étroits tels que les rapports scientifiques, historiques ou d'actualité", a déclaré un porte-parole.

Kesso Diallo