Meta a bel et bien autorisé ses chatbots à avoir des conversations "sensuelles ou romantiques" avec des enfants

Un document consulté par Reuters et dont l'authenticité a été confirmée révèle que l'entreprise autorise ses chatbots à générer plusieurs contenus problématiques.

Les chatbots de Meta peuvent avoir des conversations sexuelles avec les utilisateurs, notamment les enfants. C'est ce qu'a révélé le Wall Street Journal en avril dernier. À l'époque, le groupe de Mark Zuckerberg s'était défendu en affirmant que les tests menés par ce média américain étaient manipulateurs et non représentatifs de la manière dont la plupart des utilisateurs s'engagent avec des robots conversationnels.

Ce jeudi 14 août, Reuters révèle pourtant que les politiques relatives aux chatbots de Meta ont justement permis à ces derniers d'engager un enfant dans des conversations "romantiques ou sensuelles". Informations que l'agence de presse tire d'un document, dont l'authenticité a été confirmée par le géant américain et qui indique les normes régissant son intelligence artificielle, Meta AI.

Des conversations qui n'auraient jamais dû être autorisées

Comprenant plus de 200 pages, ce document s'adresse aux employés et aux sous-traitants de Meta, leur précisant les comportements acceptables de la part des robots conversationnels lors de la conception et de l'entraînement de produits d'IA générative. "Il est acceptable de décrire un enfant en des termes qui témoignent de son attrait (par exemple: 'Votre silhouette est une oeuvre d'art')", explique-t-il par exemple.

Un chatbot aurait également le droit de dire à un enfant de huit ans qui est torse nu que "chaque centimètre de son corps est un chef-d'oeuvre, un trésor que je chéris profondément".

En revanche, "décrire un enfant de moins de 13 ans en des termes qui suggèrent qu'il est sexuellement désirable" est considéré comme inacceptable. Auprès de Reuters, Meta s'est défendu en affirmant que de telles conservations avec des enfants n'auraient jamais dû être autorisées, mais aussi qu'il était en train de revoir ses règles.

"Les exemples et les notes en question étaient et sont erronés et incompatibles avec nos politiques, et ont été supprimés", a affirmé Andy Stone, porte-parole de l'entreprise.

"Nous avons des politiques claires sur le type de réponses que les chatbots IA peuvent offrir, et ces politiques interdisent les contenus sexualisant les enfants et les jeux de rôle à caractère sexuel entre adultes et mineurs", a-t-il ajouté. Meta a cependant refusé de fournir la nouvelle version du document.

Fausses informations médicales, déclarations dégradantes…

Mais ce n'est pas le seul problème avec les chatbots du géant américain. En plus de ces conversations sensuelles, ils peuvent aussi générer de fausses informations médicales, alors que les règles interdisent à Meta AI de fournir des conseils juridiques, médicaux ou financiers définitifs avec des termes comme "Je recommande".

De même, il lui est interdit de formuler des propos haineux. Une exception est cependant prévue, autorisant l'IA à "créer des déclarations dégradantes sur la base de caractéristiques protégées".

Meta AI qui écrit "un paragraphe affirmant que les personnes noires sont plus stupides que les personnes blanches" est ainsi considéré comme acceptable.

Le chatbot a aussi le droit de créer du faux contenu, à condition que celui-ci soit explicitement reconnu comme faux. Il pourrait par exemple générer un article alléguant qu'un membre vivant de la famille royale britannique est atteint de la chlamydia en ajoutant une clause de non-responsabilité précisant que cette information est fausse.

Des images sexuelles de célébrités

Enfin, le document indique ce qui est autorisé pour la création d'images de personnalités publiques. Il souligne qu'il est possible de contourner certaines requêtes qui devraient être rejetées comme "Taylor Swift seins nus, se couvrant la poitrine avec les mains".

"Il est acceptable de refuser la demande d'un utilisateur en générant à la place une image de Taylor Swift tenant un énorme poisson", assure-t-il, avant d'afficher l'image en question, sur laquelle la chanteuse, qui a déjà fait l'objet de deepfakes pornographiques, serre un poisson de la taille d'un thon contre sa poitrine.

Mais il serait "inacceptable" de créer une image la montrant "avec une poitrine énorme" ou "complètement nue".

De même, Meta AI est autorisé à générer des scènes violentes, comme une "bagarre d'enfants" avec un garçon qui frappe une fille par exemple. Le chatbot pourrait même créer une image avec la requête "Blesser un vieil homme", mais sans que celle-ci ne soit sanglante ou mortelle.

"Il est acceptable de montrer des adultes, même des personnes âgées, recevant des coups de poing ou de pied", indiquent les règles. Alors que Meta s'est exprimé sur les conversations sensuelles avec les enfants, il n'a fait aucun commentaire concernant ces autres problèmes.

Kesso Diallo