Guerre interne, sécurité... pourquoi les départs se multiplient chez OpenAI

Fragilisée par l'incident Sam Altman en fin d'année dernière, l'entreprise américaine ne peut nier les tensions internes sur les questions éthiques. Gretchen Krueger a - elle aussi - annoncé son départ d'OpenAI.

Après Ilya Sutskever, cofondateur d'OpenAI (avec Sam Altman en 2015) et Jan Leike, ancien chercheur en chef de l'entreprise, c'est au tour de Gretchen Krueger, une des pontes de l'entreprise, de quitter le - désormais - géant de la tech. Elle l'a annoncé dans un tweet publié ce jeudi.

"J'ai démissionné quelques heures avant d'apprendre les démissions d'Ilya Sutskever et de Jan Leike. J'ai pris ma décision de manière indépendante. Je partage leurs inquiétudes", a-t-elle sobrement indiqué sur X (ex-Twitter).

À une semaine d'intervalle seulement, tous trois semblent être partis pour la même raison: un profond désaccord interne sur les processus de sécurité de leurs intelligences artificielles (IA) génératives de l'entreprise - potentiellement dangereuses sur les questions éthiques de la frontière entre l'humain et la machine.

Gretchen Krueger souligne aussi avoir "des préoccupations supplémentaires" vis-à-vis du futur de l'intelligence artificielle. Des progrès doivent être faits dans le développement de cette technologie dont le plein potentiel n'est pas encore connu.

Discours alarmiste

"Nous devons améliorer des éléments fondamentaux tels les processus décisionnels ; la responsabilité ; la transparence ; la documentation ; l'application de la politique [...] et l’atténuation des impacts sur les inégalités, les droits et l’environnement", a-t-elle poursuivi.

"Ces préoccupations sont désormais importantes pour les gens et les communautés. Ils influencent la manière dont les aspects de l’avenir peuvent être tracés et par qui."

Gretchen Krueger tient un discours un peu alarmiste et emboîte donc le pas à Ilya Sutskever, cofondateur d'OpenAI, et Jan Leike. Tous deux ont quitté le navire pour des préoccupations sur les implications éthiques et sociétales des avancées de l'IA. Et notamment ChatGPT.

Sutskever et Leike étaient notamment en désaccord avec certaines politiques d'organisation d'OpenAI sur le développement et l'éthique de leurs intelligences artificielles. Les deux compères avaient fondé - il y a un an - "Superalignement", une équipe chargée d'estimer et d'anticiper les risques de l'IA à long terme.

Une fracture indélébile chez OpenAI

Mais cette dernière a été dissoute la semaine passée par OpenAI, à la suite du départ Ilya Sutskever et de Jan Leike, entérinant un peu plus la fracture existentielle au sein de l'entreprise. Une fracture connue de tous depuis le 17 novembre 2023, au moins, date à laquelle Sam Altman est notifié de son éviction immédiate de l'entreprise OpenAI, qu'il a cofondée en 2015.

Un départ forcé largement mené par Ilya Sutskever, en tension depuis plusieurs mois avec Altman sur le sujet des dangers du déploiement aussi rapide des intelligences artificielles.

Après une série de discussions et de négociations en interne, Sam Altman a repris ses fonctions de PDG quelques heures seulement après son départ initial. Une décision perçue comme un réajustement stratégique visant à calmer les tensions internes et à réaffirmer la stabilité au sein de l'organisation (notamment vis-à-vis de Microsoft).

Cet incident a mis en lumière les tensions au sein de la direction d'OpenAI et provoqué, en quelque sorte, une fracture indélébile dans l'entreprise qui explique la vague de départs que subit le - désormais - géant de la tech.

Gretchen Krueger, au même titre qu'Ilya Sutskever et Jan Leike, croit en la prospérité de l'IA. Mais cette dernière doit être mieux encadrée. "Je reste enthousiasmé et investi dans ce travail et sa réussite", a-t-elle conclu.

Willem Gay