Sora 2: au cœur de polémiques, OpenAI bloque la création des vidéos représentant Martin Luther King

Après plusieurs vidéos générées par IA montrant Martin Luther King dans dans des "représentations irrespectueuses", OpenAI a annoncé jeudi avoir suspendu la génération de vidéos imitant le défunt militant des droits civiques.

OpenAI a annoncé jeudi avoir suspendu la génération de vidéos imitant le défunt militant des droits civiques Martin Luther King Jr. via son outil d’intelligence artificielle, Sora. Cette décision fait suite à une demande expresse de la succession du Dr King, après que des utilisateurs aient produit des "représentations irrespectueuses" de son image.

L’entreprise justifie cette mesure par le respect dû aux personnalités publiques et à leurs proches, affirmant que ces derniers devraient avoir le dernier mot sur l’utilisation de leur image. OpenAI précise que les ayants droit ou les représentants officiels peuvent désormais demander "le retrait de toute représentation générée par Sora".

Cette restriction survient ainsi peu après le lancement de Sora, une plateforme qui permet de créer des vidéos réalistes avec une IA génératrice et suscite des interrogations sur les risques liés à cette technologie. Des vidéos controversées, comme celles montrant King dans des situations dégradantes ou des affrontements fictifs avec Malcolm X, ont rapidement circulé, alimentant les craintes quant à la manipulation de l’image des figures historiques.

Bernice King, la fille du militant, a publiquement appelé à cesser ces pratiques, rejoignant ainsi les protestations d’autres familles, comme celle de Robin Williams. Ces incidents soulignent l’urgence de réguler l’usage des outils d’IA "pour préserver la dignité des personnalités décédées".

Des enjeux juridiques et culturels plus larges

Au-delà des questions éthiques, Sora pose aussi des défis juridiques, notamment concernant les œuvres protégées par le droit d’auteur. La plateforme regorge de contenus générés à partir de personnages ou d’univers protégés, comme "Bob l’éponge" ou "South Park", sans que les détenteurs des droits aient été consultés.

Des Etats montent au créneaux pour défendre "la propriété intellectuelle". Comme le rapporte le média japonais IT Media, le gouvernement japonais a officiellement demandé à OpenAI de cesser de copier ses animés sur la plateforme vidéo Sora. Lors d'une conférence de presse le 10 octobre, Minoru Kiuchi, ministre chargé de la sécurité économique et de la propriété intellectuelle, a dénoncé une violation des droits d’auteur.

Il a rappelé que "les mangas et animés sont des trésors culturels irremplaçables" pour le Japon. Face à la propagation rapide de vidéos imitant des œuvres célèbres, le gouvernement menace d’utiliser la loi sur la promotion de l’IA pour encadrer ces pratiques.

De son côté, Sam Altman, le PDG d'OpenAI, a assuré dans un billet de blog offrir un "contrôle plus précis sur la génération de personnages, similaire au modèle d'adhésion pour la ressemblance, mais avec des contrôles supplémentaires". Face à la pression qui monte sur ces sujets, la firme étasunienne semble donc adopter une stratégie de modération plus prudente avec son outil de génération vidéo, contrastant avec sa récente décision d’autoriser... des conversations "érotiques" sur ChatGPT.

Raphaël Raffray