L'État américain de l'Illinois adopte une loi pour bannir les thérapeutes générés par intelligence artificielle

Afin de mieux encadrer les fonctionnalités d'IA génératives, l'État de l'Illinois a fait passer une loi qui empêche de faux thérapeutes d'exercer.

Prévenir les risques sur la santé mentale. Avec les évolutions remarquables de l'intelligence artificielle générative, de plus en plus d'internautes, notamment les jeunes, ont commencé à discuter avec des IA de faux thérapeutes.

A rebours du souhait de Donald Trump de donner plus de libertés aux géants de la tech dans ce domaine, le gouverneur démocrate JB Pritzker a fait voter une loi qui interdit aux chatbots de pouvoir agir comme un thérapeute autonome, obligeant leurs créateurs à mettre en place des garde-fous. Cette loi est le résultat d'une proposition transpartisane, portée par le républicain Rob Morgan.

Elle impose que seuls des thérapeutes et psychothérapeutes humains peuvent délivrer une licence, et uniquement à d'autres humains. Pour les contrevenants, l'amende pourrait être salée : 10.000 dollars par infraction.

Une première aux Etats-Unis

Pour Rob Morgan, il s'agit de mettre un terme aux "horribles histoires" venant de faits divers, et qui ont vu des personnes êtres poussées au suicide ou adopter des comportements dangereux après avoir demandé conseil à une IA.

"En adoptant cette loi, nous prenons des mesures pour mettre un terme à l'expansion incontrôlée de l'IA dans la santé mentale et créer une réglementation nécessaire avant que d'autres drames n'arrivent," a expliqué l'élu américain.

Dans le viseur, des sites comme Character.ai, qui permettent justement de créer des chatbots (et de les utiliser) selon divers critères, dont des psychothérapeutes et psychiatres. La plateforme, très contestée outre-Atlantique, est depuis longtemps accusée de dérive. Plusieurs drames l'ont d'ailleurs poussé à ajouter des règles plus strictes, notamment auprès d'un public jeune. Notons cependant que cette loi est une première aux Etats-Unis, mais qu'elle n'est active qu'en Illinois.

Ce n'est sans doute pas un hasard si OpenAI a lancé quelques heures plus tôt de nouvelles fonctionnalités pour ChatGPT, qui permettent de "mieux détecter la détresse émotionnelle" et qui incite à "faire des pauses".

Sylvain Trinel