Meta va bientôt donner aux parents plus de contrôle sur les interactions de leurs enfants avec l'IA

Le géant américain a dévoilé les mesures qu'il prévoit de déployer début 2026 sur ses plateformes afin de permettre aux parents de mieux gérer les interactions de leurs enfants avec ses chatbots.

En pompier légèrement pyromane, pour Meta, protéger les mineurs sur ses plateformes revient aussi à les protéger de ses propres chatbots. Depuis septembre 2023, la maison mère de Facebook et Instagram permet en effet aux utilisateurs d'interagir avec des agents conversationnels incarnés par des célébrités, des IA personnalisées créées par d'autres internautes et son assistant, Meta AI.

Alors que l'entreprise a été critiquée cet été pour avoir autorisé ses chatbots à avoir des conversations "sensuelles ou romantiques" avec des enfants, elle cherche à rassurer. Vendredi 17 octobre, elle a ainsi annoncé de nouveaux contrôles afin que les parents puissent mieux gérer les expériences de leurs enfants.

Un meilleur contrôle pour les parents

Meta avait déjà donné un aperçu de ces changements en début de semaine avec le lancement de deux nouvelles fonctions pour les "comptes Ado" sur Instagram. Une de ces nouveautés est un paramètre aligné sur la classification cinématographique américaine PG-13 (déconseillé aux moins de 13 ans) pour éviter d'exposer les jeunes à des contenus inadaptés à leur âge (langage grossier, incitation à des comportements nocifs...).

Comme l'avait indiqué le groupe californien, il a également mis à jour ses expériences basées sur l'IA pour les adolscents afin qu'elles s'alignent aussi sur cette classification. Les chatbots disponibles sur ses plateformes ne devraient ainsi plus donner de réponses inappropriées et qui seraient considérées comme déplacées dans un film déconseillé aux moins de 13 ans, avait-elle expliqué sans donner plus de détails.

Meta veut cependant aller plus loin avec de nouveaux outils de supervision pour les parents. Pour commencer, l'entreprise va leur fournir un aperçu des sujets abordés par leurs enfants lors de leurs échanges avec ces robots conversationnels. Ils pourront aussi bientôt désactiver complètement l'accès de leur enfant aux discussions en tête-à-tête.

"L'assistant IA de Meta restera disponible pour fournir des informations utiles et des opportunités éducatives, avec des protections par défaut adaptées à l'âge des adolescents afin d'assurer leur sécurité", a précisé la société.

Les parents ne souhaitant pas désactiver complètement cet accès auront, eux, la possibilité de bloquer certains des chatbots.

Protections supplémentaires

Ces protections s'ajoutent aux mesures déjà en place pour proposer des expériences appropriées aux "comptes Ado" lors des interactions avec des IA. Dans cet objectif, les parents peuvent déjà voir si leur enfant discute avec elles, mais aussi fixer des limites d'utilisation. Les chatbots sont en outre tenus de faire preuve de prudence lorsqu'ils abordent des sujets sensibles (suicide, automutilation, troubles alimentaires...) avec les jeunes.

"Nos IA sont conçues pour répondre de manière sûre à ces sujets et orienter les adolescents, le cas échéant, vers des ressources ou un soutien spécialisés. Les adolescents ne peuvent interagir qu'avec un groupe limité de personnages IA, axés sur des sujets adaptés à leur âge tels que l'éducation, le sport et les loisirs, et non sur des thèmes romantiques ou autres contenus inappropriés", a assuré Meta.

Avec ces nouveaux outils, l'entreprise espère "rassurer les parents quant au fait que leurs adolescents peuvent profiter pleinement de tous les avantages offerts par l'IA, grâce à la mise en place de garde-fous et d'une surveillance appropriés". Ils devront cependant attendre un peu avant de pouvoir les utiliser car ils ne seront déployés que début 2026, sur Instagram pour commencer. Et ces outils seront d'abord disponbiles en anglais aux États-Unis, au Royaume-Uni, au Canada et en Australie.

Kesso Diallo