Sam Altman découvre ce que tout le monde sait: les réseaux sociaux sont envahis par des bots

Sur X, le patron d'OpenAI s'est inquiété de l'omniprésence des bots sur les réseaux sociaux. Un phénomène pourtant ancien, et amplifié par l'arrivée des IA génératives comme ChatGPT.

C'est une révélation pour Sam Altman, un peu moins pour les internautes. Comme l'a relevé Techcrunch, le patron d'OpenAI s'est rendu compte que les bots rendent les réseaux sociaux moins authentiques.

Sam Altman aurait eu une révélation en passant un peu de temps sur Reddit, le réseau social dont il est actionnaire. Tout a commencé lorsque le patron s'est mis à lire et à partager des articles sur le subreddit Claudecode. Quand soudainement, un utilisateur lui a fait remarquer que beaucoup de publications parlaient de Codex, l'IA de programmation lancée en mai par OpenAI qui rivalise avec celle d'Anthropic.

"J'ai vécu quelque chose de très étrange en lisant ceci. Je suppose que tout ça est 'fake' ou que ce sont des bots, même si dans ce cas précis, je sais que Codex croît de manière très forte et que la tendance est réelle", précise-t-il sur X, ex-Twitter, dans un long message détaillant son expérience.

Les bots, un phénomène amplifié par l'IA

Selon Sam Altman, ce phénomène peut s'expliquer par plusieurs facteurs. Il accuse ainsi les utilisateurs de ressembler à des IA, alors même que ces chatbots ont été créés pour imiter la communication humaine. "Les humains ont adopté les tics de langage des LLM", lance-t-il.

Autre possibilité, les groupes de fans peuvent avoir tendance à se comporter de manière étrange et certaines interactions peuvent dégénérer. Le patron d'OpenAI a également imputé ce phénomène aux systèmes de monétisation des réseaux sociaux qui misent sur l'engagement pour générer des revenus. "D'autres entreprises nous ont manipulés, ce qui me rend particulièrement sensible à ce sujet, et bien d'autres choses encore (y compris probablement certains bots)", ajoute-t-il.

Quelle que soit la raison, le patron peine à distinguer le vrai du faux sur les plateformes.

"Le résultat est que, d'une certaine manière, AI Twitter/AI Reddit semble très faux, ce qui n'était pas le cas il y a un an ou deux", conclut-il.

Aucune statistique n'a été dévoilée sur le nombre de publications Reddit rédigées par des bots ou des comptes fictifs créés par des humains à l'aide de l'IA. Mais le phénomène est loin d'être nouveau et gangrène toutes les plateformes. L'entreprise de sécurité des données Imperva a rapporté que plus de la moitié du trafic internet en 2024 était le fait des bots. "Les chiffres exacts ne sont pas publics, mais les estimations pour 2024 suggèrent des centaines de millions de bots sur X", souligne Grok, le propre chatbot de X. Ironiquement, ce phénomène a d'ailleurs été amplifié par l'arrivée de l'IA générative, comme ChatGPT, l'outil d'OpenAI.

Sous les commentaires de la publication de Sam Altman, les internautes n'ont d'ailleurs pas hésité à railler le patron d'OpenAI au sujet de cette prétendue découverte. D'autres l'ont accusé de critiquer les réseaux sociaux, juste avant de lancer sa propre plateforme. "Traduction: je critique les autres réseaux sociaux parce que je veux lancer un réseau social ChatGPT", écrit l'un d'entre eux.

Selon The Verge, OpenAI serait en effet en train de développer son propre réseau social, inspiré de X. Si le projet est encore à ses premières phases, un prototype existerait et se concentrerait sur la fonctionnalité de génération d'images de ChatGPT, couplée à des fonctionnalités sociales. Cette nouvelle plateforme permettrait à l'entreprise d'accéder à plus de données d'entraînement et à de nouvelles sources de revenus.

Salomé Ferraris