Propos gênants, données personnelles: les utilisateurs de Snapchat s'insurgent contre son chatbot

Les mauvaises notations sur l’application ont grimpé en flèche après l’apparition de "My AI", un chatbot qui fonctionne grâce à l’IA.

Intrusive, malaisante, impossible à désactiver… Ces derniers jours, les critiques se multiplient à l’encontre de "My AI", une intelligence artificielle conversationnelle qui s’appuie sur ChatGPT, et qui est apparue soudainement sur l’application Snapchat de millions d’utilisateurs.

Il y a une semaine, l’entreprise annonçait que le chatbot était en cours de déploiement au niveau mondial. La fonction n’est pas encore disponible en France, mais elle suscite déjà un raz-de-marée de critiques aux Etats-Unis.

Depuis l'annonce de l'intégration de "My AI" à Snapchat, le score de l’application sur l’App Store américain était de 1,67 avec 75% de notations 1 étoile, d’après les données du cabinet Sensor Tower partagées par le site TechCrunch. A titre de comparaison, sur le premier trimestre 2023, cette même note était de 3,05, avec seulement 35% d’avis 1 étoile.

Le nombre de notations laissées quotidiennement a aussi été multiplié par cinq sur cette dernière semaine, note la même source, de nombreux commentaires citant expressément "My AI".

Le personnage par défaut de "My AI", désormais intégré à l'application Snapchat © Snapchat

Impossible à désépingler

C’est avant tout l’absence d’option pour désactiver ce chatbot qui semble poser problème aux utilisateurs, alors qu’il apparaît obligatoirement devant les conversations de leurs amis, dans la messagerie de l’application. Son avatar 3D est personnalisable, mais il apparaît par défaut comme un personnage à la peau violette et aux cheveux bleus. Seuls les abonnés au forfait Snapchat+ (4 euros par mois) peuvent désactiver le bot, explique Snapchat.

Pister et influencer?

Certains s’inquiètent que l’IA ait accès à leur position, alors même que leur option de localisation est désactivée sur la Snapmap. Dans plusieurs conversations partagées sur Twitter, l’IA nie disposer de ces informations de position… mais indique ensuite sans sourciller où se situent les commerces les plus proches par exemple. Cette fonctionnalité met surtout en lumière les données personnelles que possèdent déjà les réseaux sociaux au sujet de leurs utilisateurs.

Alors que "My AI" était encore seulement disponible auprès des abonnés à Snapchat+, le Washington Post rapportait aussi que le chatbot prodiguait des conseils à des utilisateurs mineurs sur comment masquer l’odeur de l’alcool et du cannabis ou comment instaurer l’ambiance nécessaire avant d’entamer une première relation sexuelle.

Interrogé par TechCrunch, Snapchat a répondu prendre en compte le retour de sa communauté, sans promettre le retrait du chatbot. L’entreprise insiste sur l’engouement autour de "My AI" alors que plus de deux millions de messages auraient été échangés lors des premiers tests. L'entreprise explique que si les utilisateurs n’apprécient pas cette fonctionnalité IA, ils n’ont tout simplement qu’à ne pas l’utiliser.

Lucie Lequier