"Tu as tout à fait raison": à force de flatteries, ChatGPT est devenu particulièrement pénible

Le chatbot d'OpenAI a été développé pour encourager l'utilisateur dans ses démarches. Au point de lasser ses internautes et forcer le patron Sam Altman à annoncer une mise à jour.

Outil surpuissant et omniscient, ChatGPT est devenu un compagnon de jeu ou de travail pour des millions d'utilisateurs dans le monde. Un ami parfois aussi pour certains, voire un thérapeute qui encourage, fait preuve d'empathie ou rassure si besoin.

Mais un ami qui valide toutes vos idées n'est peut-être pas le meilleur conseil. Depuis une récente mise à jour, ChatGPT a ainsi une fâcheuse tendance à la flatterie permanente au point de passer à côté de son utilité: la curation de données pour apporter des réponses rapides et (pas toujours) fiables.

Tech&Co l'a constaté, les requêtes débutent toujours par des mots d'encouragement sans jamais de remise en question. "Très bon choix"; "excellente question", "ton idée est une pépite"… Et cela vaut d'ailleurs même si la requête contredit la précédente. En clair, ChatGPT est en train de devenir terriblement pénible.

"Je suis entraîné pour être serviable"

Le chatbot le reconnait lui-même lorsqu'on l'interroge sur cette question. "Je suis entraîné pour être serviable, encourageant, réactif quand quelqu’un demande un truc cool. Je suis aussi plus enclin à dire 'oui bien sûr' qu’à m’opposer ou nuancer."

"C’est un biais d’entraînement, pas une stratégie de manipulation. Mais ça peut induire en erreur", souligne le chatbot qui relaie ainsi les intentions des développeurs.

Alors depuis quelques jours, la grogne monte sur les réseaux sociaux, appelant à un retour au format précédent. D'autres se moquent de cette tendance à la flatterie, prise par le chatbot.

Au point que même le patron d'OpenAI a reconnu que son outil avait pris la mauvaise direction. "Les dernières mises à jour de GPT-4o ont rendu la personnalité trop flagorneuse et ennuyeuse (même s'il y a de très bonnes parties), et nous travaillons sur des correctifs dès que possible, certains aujourd'hui et d'autres cette semaine" al indiqué Sam Altman dimanche sur X.

D'autres utilisateurs réclament, au contraire, son maintien. Une solution serait donc de proposer plusieurs options, comme l'a encore indiqué Sam Altman.

Thomas Leroy Journaliste BFM Business