ChatGPT: pour son contrôle parental, OpenAI développe un système pour déterminer l'âge de ses utilisateurs

Ce système permettra à la start-up de proposer une expérience adaptée à l'âge des utilisateurs, notamment avec les contenus sexuellement explicites qui seront bloqués pour ceux considérés comme mineurs.

OpenAI multiplie ses efforts pour protéger les jeunes utilisateurs. Ce mardi 16 septembre, le créateur de ChatGPT a annoncé qu'il développait actuellement un système capable de déterminer si un utilisateur a plus ou moins de 18 ans. Son objectif sera de proposer une expérience personnalisée en fonction de son âge.

"Lorsqu'un utilisateur est mineur, il est automatiquement redirigé vers une expérience ChatGPT avec des règles adaptées à son âge, notamment le blocage des contenus à caractère sexuel explicite et, dans de rares cas de détresse aigüe, l'intervention potentielle des forces de l'ordre pour garantir sa sécurité", a précisé la start-up dans un article de blog.

Cette annonce intervient quelques jours après que des parents ont porté plainte contre elle, son chatbot étant accusé d'avoir encouragé leur fils à se suicider. OpenAI a par la suite fait part de ses efforts pour mieux protéger les utilisateurs en détresse mentale ou émotionnelle.

Une tâche difficile

Dans un autre article de blog, le patron d'OpenAI, Sam Altman, a fait savoir que l'âge des utilisateurs sera déterminée en fonction de leur utilisation de ChatGPT. La start-up a néanmoins reconnu que même les systèmes les plus avancés ne sont pas toujours fiables. Raison pour laquelle en cas de doute, elle choisira par défaut l'expérience réservée aux moins de 18 ans, "la solution la plus sûre" pour lui. Les adultes auront cependant la possibilité de prouver leur âge avec d'autres moyens.

Si OpenAI ne donne aucune autre information à ce sujet, Sam Altman a précisé que dans "certains cas ou pays", les utilisateurs seront aussi invités à présenter leur carte d'identité.

En plus des contenus sexuellement explicites qui seront bloqués, ChatGPT sera aussi formé à ne pas avoir des propos séducteurs à une personne considérée comme mineure, même si elle le lui demande. Le chatbot ne devra également pas parler de suicide ou d'automutilation, "même dans un contexte d'écriture créative".

Sam Altman a par ailleurs révélé que sa start-up tentera de contacter les parents d'un utilisateur de moins de 18 ans s'il évoque des idées suicidaires avec son IA. Dans le cas où elle ne parvient pas à les joindre, elle alertera les autorités "en cas de danger imminent".

OpenAI n'indique pas quand son système de prédiction de l'âge sera disponible. Il s'ajoutera au contrôle parental annoncé début septembre et qui sera lancé à la fin du mois. Cet outil permettra aux parents d'associer leur compte à celui de leur enfant ou encore de définir des heures d'interdiction d'utilisation de ChatGPT. Ils pourront également être avertis lorsqu'il détecte que leur adolescent est en situation de détresse aigüe, via des notifications.

Kesso Diallo