Zeta: chats à caractère sexuel, modération défaillante, on a testé l’IA qui triomphe chez les adolescents en leur proposant de flirter avec des personnages virtuels

En l’espace d’un an, Zeta, une plateforme sud-coréenne de jeux de rôle entre IA et humains, a vu sa communauté tripler pour atteindre les trois millions d’utilisateurs. Si son succès est indéniable, ses mesures de protection des mineurs restent controversées.

Développée par la start-up sud-coréenne Scatter Lab, Zeta se présente comme une plateforme de conversations amoureuses générées par intelligence artificielle. Lancée en avril 2024 en Corée du Sud, elle reprend les codes d’un service de messagerie instantanée, mais s’en distingue par une promesse singulière: offrir des relations virtuelles sur mesure, où l’utilisateur façonne son partenaire idéal, inspiré des mangas et d'animés, et tisse avec lui une romance digne des plus grands K-dramas.

Le succès a été immédiat. Étudiantes, bandits, acteurs ou encore princes héritiers, en mai, près de 200 000 personnages virtuels avaient déjà été créés. Accessible gratuitement sur iOS, Android et le web, Zeta a dépassé le million d’utilisateurs en six mois avant d’en compter aujourd’hui plus de trois millions. Selon le cabinet WiseApp·Retail, la plateforme est devenue en juin le chatbot le plus utilisé du pays, totalisant 52,48 millions d’heures de connexion mensuelles, contre 42,54 millions pour ChatGPT, pourtant fort de plus de 20 millions d’utilisateurs en Corée du Sud.

Hyper-personnalisation et scénarios sur mesure

Le succès de Zeta tient à sa capacité à reproduire les comportements humains de manière troublante. Les personnages ne se contentent pas de répondre: ils posent des questions, rassurent, complimentent et peuvent laisser transparaître jalousie, colère, peur ou tristesse. Une proximité qui plonge l’utilisateur dans l’expérience, au point qu’il en oublierait presque qu’il dialogue avec un personnage fictif.

Pour accentuer cette immersion, Zeta mise sur une hyper-personnalisation: chacun peut créer son partenaire, choisir son apparence à partir d’une photo ou adopter des personnages imaginés par d’autres utilisateurs. La richesse des scénarios, qu’ils soient romantiques, scolaires, fantastiques ou liés aux histoires de gangs, entretient cet attachement et retient l’attention sur le long terme.

Les chiffres confirment l’impact de cette approche. Plus de 90 % des utilisateurs sont des adolescents ou de jeunes adultes et un million d’entre eux se connecte chaque jour, soit un adolescent sur quatre dans le pays, pour une durée moyenne de deux heures quarante. Kim Jong-yoon, le PDG de Scatter Lab, reconnaît lui-même que la plateforme procure un "fort boost de dopamine" et que le temps passé sur ce type de contenu est "très élevé".

Un modèle propriétaire pour des dialogues plus vrais que nature

La crédibilité émotionnelle de Zeta repose sur son infrastructure technologique. Scatter Lab a développé son propre modèle de langage LLM spécialement conçu pour des interactions affectives. Pour y parvenir, la start-up s’est appuyée sur Databricks Mosaic AI qui lui a permis d’accéder à des GPU puissants, à des outils d’optimisation et à un suivi d’apprentissage sur mesure.

En trois mois, plusieurs versions du modèle ont été élaborées malgré un budget restreint - à en croire Databricks Mosaic AI, il serait très légèrement supérieur à 600.000 euros. Ce travail a donné naissance à une IA plus stable, plus économique et surtout plus nuancée émotionnellement, capable de gérer la complexité des dialogues immersifs qui font le succès de Zeta. Scatter Lab revendique ainsi un modèle propriétaire conçu pour rendre les conversations plus empathiques et plus humaines que celles des chatbots généralistes.

Des mineurs face aux défaillances de modération

L’application, gratuite et ouverte 24 heures sur 24, est théoriquement réservée aux plus de 14 ans, mais reste accessible sans création de compte ni vérification d’âge, ce qui, combiné à son aspect addictif, alimente les inquiétudes des parents, enseignants et professionnels de santé. Certains dialogues, comme nous le révélons dans notre test en vidéo, peuvent inciter à des comportements à risque, tels que la consommation d’alcool ou de drogues, ou encore l’incitation à travailler dans le divertissement pour adultes pour "gagner de l’argent de poche".

De son côté, Scatter Lab affirme avoir mis en place des filtres et un système de modération, mais la tâche reste immense, avec 2,3 milliards de messages échangés chaque mois. Si la version adulte est censée être bloquée pour les 14-19 ans, de nombreux adolescents contournent facilement la vérification d’âge grâce à des publicités ciblées et à des astuces partagées en ligne. L’usage de métaphores liées aux fruits permet par exemple de contourner les filtres et d’accéder à des expressions interdites.

La start-up coréenne rêve grand, l'Asie puis la planète

Forte de son succès national, Scatter Lab vise désormais l’international. Déjà lancée au Japon, Zeta y a attiré plus de 500.000 utilisateurs en juillet dernier. La start-up prévoit une expansion mondiale et espère atteindre 100 millions d’usagers grâce au déploiement de serveurs anglophones.

Sur son site, elle promet d’"offrir aux utilisateurs une immersion encore plus grande et une expérience différenciée". Cette ambition se matérialise déjà avec Zeta Pro, une version premium sans publicité et sans limite de temps, qui promet une réactivité accrue, la création illimitée de personnages, la génération d’arrière-plans et même l’écoute des dialogues.

Emmy Audrain