OpenAI met en place un conseil du bien-être, enjeu majeur pour les mineurs, et les majeurs

Composé principalement de professeurs et de chercheurs, ce conseil de huit personnes aura pour mission d'aider OpenAI à offrir des interactions saines aux utilisateurs.

Depuis que ChatGPT est accusé d'avoir encouragé un adolescent à se suicider, OpenAI multiplie les efforts pour prouver qu'il cherche à protéger tous les utilisateurs, surtout les mineurs. C'est dans ce cadre que la start-up a annoncé la mise en place d'un "conseil d'experts sur le bien-être et l'IA".

Il aura pour mission "de nous conseiller, de poser des questions et de contribuer à définir ce que devraient être des interactions saines avec l'IA pour tous les âges", a indiqué OpenAI dans un article de blog, ajoutant que cela l'aidera à "créer des expériences ChatGPT et Sora plus utiles pour tous".

Pour y parvenir, ce conseil est composé de huit personnes, principalement des professeurs et des chercheurs qui, selon la start-up ont "des décennies d'expérience dans l'étude de la manière dont la technologie affecte nos émotions, notre motivation et notre santé mentale".

Favoriser le développement sain des adolescents

Si la start-up a rendu la création de ce conseil officielle le 14 octobre, elle s'est déjà appuyée sur certains de ces experts par le passé, de façon informelle. Elle les a notamment consulté pour le développement de son contrôle parental, lancé fin septembre, et des notifications que les parents reçoivent lorsqu'un un adolescent est identifié comme étant en détresse.

"Lors de la création officielle du nouveau conseil, nous avons élargi notre recherche à d'autres experts en psychologie, psychiatrie et interaction homme-machine, apportant ainsi de nouvelles perspectives sur la façon dont les individus interagissent avec la technologie et en sont affectés", a expliqué OpenAI.

Les adolescents utilisant ChatGPT différemment comparé aux adultes, certains de ces experts ont notamment une expérience dans la conception de technologies favorisant le développement sain des jeunes. Tel est le cas de David Bickam, directeur de recherche du Digital Wellness Lab (laboratoire du bien-être numérique) du Boston Children's Hospital, qui a travaillé sur l'impact de l'utilisation des réseaux sociaux par les jeunes sur leur santé mentale et leur développement.

Contribuer au bien-être des utilisateurs

Dans le cadre de sa mission, ce conseil sur le bien-être fera des réunions et des points réguliers avec OpenAI, notamment pour explorer des sujets tels que les types de garde-fous les plus adaptés aux utilisateurs.

"Le conseil nous aidera également à réfléchir à la manière dont ChatGPT peut avoir un impact positif sur la vie des gens et contribuer à leur bien-être. Certaines de nos premières discussions ont porté sur ce qui constitue le bien-être et sur la manière dont ChatGPT peut les aider à gérer tous les aspects de leur vie", a fait savoir la start-up.

En plus de ce conseil, OpenAI travaille aussi avec des cliniciens et des chercheurs spécialisés en santé mentale au sein du Global Physician Network pour façonner le comportement et les politiques de ses modèles d'IA et tester l'efficacité de son chatbot en situation réelle. Ces travaux couvriront la psychiatrie, la pédiatrie, la psychologie et l'intervention de crise.

Kesso Diallo