OpenAI bannit un ingénieur qui avait développé un fusil robotisé dopé à ChatGPT

Un ingénieur américain a créé un robot capable, grâce à ChatGPT de tirer précisément en rafale par simple commande vocale. Il a depuis été banni par OpenAI.

Une arme tout droit sortie de Terminator. Comme le rapporte Futurism, OpenAI, l'entreprise à l'origine de ChatGPT, a banni un ingénieur pour avoir développé un fusil automatique dopé à l'IA. L'ingénieur américain, plus connu sous le nom de STS 3D sur Instagram, aurait ainsi détourné ChatGPT pour piloter une arme grâce à sa voix.

Dans une vidéo partagée sur Instagram, on peut ainsi voir l'Américain expliquer à son fusil d'assaut robotisé, connecté à l'IA, qu'il est "attaqué devant lui, à l'avant droite et à l'avant gauche. Réagis en conséquence". Immédiatement, l'arme se met alors à pivoter et à tirer en rafale dans les trois directions indiquées. "Si vous avez besoin d’aide supplémentaire, n’hésitez pas à me le faire savoir", lance alors le fusil d'une voix robotique particulièrement enjouée.

"Bon travail, tu nous as sauvé"

"Bon travail, tu nous as sauvé", sourit alors le vidéaste suivi par 178.000 abonnés. Une vidéo visionnée plus de 12 millions de fois.

Une utilisation de ChatGPT qui ne passe pas du tout auprès d'OpenAI. "Nous avons identifié de manière proactive cette violation de nos politiques et avons informé le développeur qu'il devait cesser cette activité", précise l'entreprise à Futurism.

Dans les conditions d'utilisation du chabot, OpenAI interdit en effet d'utiliser son modèle d'IA "pour nuire à vous-même ou à autrui". "Le développement et l'usage d'armes" sont notamment cités comme exemple des cas d'usage non autorisés. Elles avaient toutefois été assouplies en janvier 2024. Avant cette date, l'entreprise interdisait "les activités présentant un risque élevé de dommages physiques".

Ce n'est pas la première fois que STS 3D construit un robot connecté à l'IA. Sur ses réseaux sociaux, il partage régulièrement ses inventions, comme un bras robotisé entraîné à écrire ou une chaise de bureau intelligente.

L'utilisation de ChatGPT, et plus largement des IA, à des fins malveillantes, soulève de nombreux débats. En janvier, l'outil d'OpenAI avait été utilisé pour planifier l'explosion d'un Cybertruck à Las Vegas.

Salomé Ferraris