OpenAI va bientôt permettre à ChatGPT de tenir des propos sexuellement explicites... sauf avec les mineurs

ChatGPT permet finalement de discuter de sujets très intimes et sexuels avec lui, huit mois après une mise à jour de son modèle par OpenAI.

En février 2025, OpenAI annonçait son intention de "donner plus de liberté" à ses utilisateurs en autorisant ChatGPT à avoir des discussions "épicées" avec le chatbot. Une mise à jour qui a mis beaucoup de temps à arriver, puisque selon The Verge, l'entreprise de Sam Altman va bientôt ouvrir les vannes en matière "d'applications matures".

L'objectif est de permettre des discussions "soft porn" une fois que le système de vérification d'âge sera lancé. Il ne sera en revanche pas possible d'avoir des discussions de ce type impliquant un mineur (ou qu'un utilisateur mineur puisse y accéder).

Des discussions "épicées" ouvrant la porte aux abus

Cela devrait se traduire par l'apparition de chatbots spécifiquement fait pour ce type de discussions, à l'instar de Grok, qui propose des avatars virtuels qui peuvent justement avoir des propos sexuellement explicites en fonction des demandes d'utilisateurs. Leur "caractère" étant basé sur des personnages de dark romance, comme l'a souhaité Elon Musk.

Reste à connaître les gardes fous possibles autour de cette nouvelle règle, notamment vis à vis des deepfakes, qui intègrent par exemple des personnalités du cinéma. A l'heure où OpenAI est particulièrement surveillé, l'arrivée des discussions "matures" risquent de poser un problème aux régulateurs.

ChatGPT est en effet accusé depuis plusieurs mois de ne pas en faire assez pour éviter que les utilisateurs s'en servent de manière inappropriée, avec les problèmes que cela peut créer. De plus en plus de personnes prennent le chatbot comme un confident, ou lui demandent des conseils sur des problèmes de santé. Mais l'IA générative d'OpenAI est loin d'être fiable, notamment sur les sujets de santé mentale, et donne même parfois de mauvais conseils à ses utilisateurs.

Dans ce cadre, beaucoup d'utilisateurs et d'associations reprochent à OpenAI son opacité.

De plus, comme le précise Futurism, modifier un grand modèle de langage nécessite beaucoup de travail et de la patience. Puisqu'elles ont été entraînées pendant des années, leur comportement après un éventuel patch correctif peut ne pas changer, ou en tout cas pas tout de suite.

Sylvain Trinel