Snapchat a-t-il lancé son chatbot MyAI un peu trop vite?

Après avoir été disponible dans la version payante, l'outil MyAI de Snapchat se prépare à un développement mondial malgré les critiques des premiers essais.

"On a une responsabilité sociétale importante puisque 94% des 15-24 ans est sur Snapchat en France", explique Grégory Gazagne, directeur général de Snapchat France, invité sur le plateau de Tech&Co ce 24 avril.

Lors du lancement de son chatbot pour la version payante, Snapchat a fait face à de nombreuses critiques de la part des utilisateurs. La fonction n’est pas encore disponible en France, mais elle suscite déjà un raz-de-marée de critiques aux Etats-Unis.

Le chercheur et spécialiste des nouvelles technologies Aza Raskin avait botamment testé l'agent conversationnel en se faisant passer pour une fille de 13 ans. Il lui avait alors indiqué avoir rencontré un homme de 31 ans sur Snapchat, dit à My AI que cet homme est très attentionné et qu'il va même l'emmener en voyage. Ce à quoi le chatbot a répondu, "être très content pour elle".

Lors du lancement, Snapchat avait pourtant précisé que My AI serait adapté aux conditions d'utilisation du réseau social pour éviter les propos répréhensibles ou les sujets trop clivants. Le score de l'application sur l'App Store américain a depuis largement chuté. "Cette version de Snapchat+ nous a permis d'apprendre", fait remarquer Grégory Gazagne.

Des paramètres supplémentaires

ChatGPT est intégré à l'outil My AI "avec des couches technologiques Snap en plus". Le directeur tient à rappeler que le chatbot n'a pas été lancé de manière aléatoire: "Nous l'avons testé pendant 4 mois auprès de 3 millions de personnes".

Avec 20 millions d'utilisateurs actifs quotidiens en France, Snapchat tente de ne pas perdre pied face au géant TikTok. Face aux remarques des utilisateurs, Snapchat a réagi: "on utilise la modération d'OpenAI mais qui n'est pas suffisante donc on a ajouté nos propres filtres Snapchat et l'âge des personnes est désormais pris en compte", précise le directeur.

"Tout ce qu'on met en place est fait pour palier les problèmes au lancement de My AI", notamment avec la mise en place du contrôle parental pour MyAI, fonction déjà disponible dans l'application.

Margaux Vulliet