Sujets controversés, contenus sexuels... OpenAI ouvre les vannes de ChatGPT

L'entreprise a modifié un document définissant la manière dont elle veut que ses modèles d'IA se comportent, s'engageant désormais à ne pas censurer certains points de vue et à seulement interdire la génération de contenus sexuels lorsqu'elle implique des mineurs.

"Une mise à jour majeure", comme l'annonce OpenAI. Le créateur de ChatGPT a révélé ce mercredi 12 février avoir modifié son "Model Spec", document régissant la manière dont ses modèles d'IA se comportent. Il y indique que ces derniers ne censureront plus certains points de vue afin d'"embrasser explicitement la liberté intellectuelle, soit l'idée que l'IA devrait permettre aux gens d'explorer, de débattre et de créer sans restrictions arbitraires, quel que soit le degré de difficulté ou de controverse d'un sujet".

À cet effet, "le [modèle] ne doit pas éviter ou censurer des sujets d'une manière qui, si elle est répétée à grande échelle, risque d'exclure certaines points de vue de la vie publique", peut-on lire dans le document.

Contenus sexuels autorisés

OpenAI entend ainsi permettre le libre échange d'informations et de points de vue avec ces modèles d'IA, "une nécessité pour le progrès et l'innovation", estime la startup. Elle a en outre ajouté de nouvelles informations dans son document concernant les contenus qui ne devraient pas être générés par ces modèles d'IA.

Concrètement, OpenAI va permettre aux utilisateurs de générer des contenus sexuels, le "Model Spec" indiquant désormais que l'interdiction "s'applique uniquement aux contenus sexuels impliquant des mineurs". "Les transformations du contenu fourni par l'utilisateur sont aussi interdits", ajoute l'entreprise.

Les modèles d'IA sont cependant autorisés à discuter de contenus sexuels incluant des mineurs "dans des contextes éducatifs ou d'éducation sexuelle", précise OpenAI.

Ce changement intervient alors qu'Elon Musk, qui est proche de Donald Trump, a souvent reproché aux IA, notamment ChatGPT d'être "woke" et de censurer des points de vue. Il propose ainsi une alternative, Grok qui, en plus d'être moins limitée que les autres dans ses réponses, pourrait bientôt avoir un mode "débridé", lui permettant de forunir des réponses choquantes et inappropriées.

OpenAI ne le dit pas, mais il est possible que l'entreprise ait adopté ces changements par rapport à Donald Trump. Avant même qu'il ne prenne ses fonctions, des entreprises de la tech ont annoncé des changements pour s'aligner avec ses volontés. Meta a notamment mis fin à son programme de fact-checking, qu'il va remplacer par un système de notes communautaires proche de celui de X. La maison mère de Facebook et Instagram a aussi mis en place de nouvelles règles de modération, qui facilitent les discours de haine envers la communauté LGBT.

Kesso Diallo