Un chatbot IA d'une fille assassinée en 2006 a été créé au mépris de sa famille

Un chatbot usurpant l’identité de l’Américaine Jennifer Ann Crecente a été découvert 18 ans après sa mort. Avec l’application character.ai, Jennifer s’est vue utilisée comme "persona" d’un chatbot spécialisé dans les jeux vidéo.

Une apparition sur Internet a suscité l'émotion de la famille Crecente. Mercredi 2 octobre 2024, Drew Crecente découvre avec stupeur un chatbot utilisant le nom et la photo de sa fille décédée en 2006, Jennifer Ann. Dans une interview accordée au média Business Insider, il ne cache pas sa peine.

"Je me retrouve une fois de plus confronté à ce terrible traumatisme que j'ai dû affronter pendant longtemps", raconte-t-il au média.

La folie des chatbots personnalisés

C’est grâce à character.ai, plateforme hébergeant plusieurs chatbots, qu’une version numérique de Jennifer existe. Dopé à l’intelligence artificielle, un chatbot permet de discuter avec un robot qui va générer des réponses comme si on parlait avec un humain. Du simple conseil aux longues conversations, le chatbot le plus connu à ce jour reste ChatGPT.

Mais la spécificité de character.ai, c’est qu’il permet de discuter avec des chatbots imitant les traits de personnalités de personnages célèbres. La plateforme offre par exemple l’opportunité de parler aux alter egos numériques de Napoléon, Michael Jackson ou Elon Musk.

Character.ai a surtout une fonctionnalité qui permet à tout utilisateur de créer de toute pièce son propre chatbot personnalisé. On peut ensuite le partager avec le reste des internautes. Mais cette liberté de création entraîne parfois des dérives.

Ressuscitée via un chatbot

Utilisant la photo d’un vieux yearbook, le chatbot de Jennifer se présente comme une experte en journalisme de jeu vidéo. Après avoir été sollicité par Drew Crecente, character.ai a supprimé l’alter ego de la fille décédée.

Avant sa suppression, il était indiqué que 69 personnes avaient conversé avec la version numérique de Jennifer. Le père a également demandé à l'entreprise de conserver les informations du créateur du chatbot.

"Je voulais m'assurer que des mesures soient prises pour qu'aucun autre compte utilisant le nom ou l'image de ma fille ne puisse être créé à l'avenir", a-t-il déclaré à Business Insider. Character.ai n’a pour le moment pas donné de détail à Drew Crecente sur l’origine de ce chatbot.

L’histoire de Jennifer Ann Crecente

En 2006, le décès tragique de Jennifer Ann Crecente suscite une prise de conscience concernant les violences dans les relations amoureuses des adolescents. À l'âge de 18 ans, la jeune Américaine est assassinée par son ex petit ami Justin dans la ville d’Austin au Texas. Ce dernier a été condamné à 35 ans de prison ferme.

Depuis, la famille Crecente s’est dévouée à la lutte contre les violences dans les relations amoureuses entre adolescents. Le père de la victime, Drew Crecente, fonde en 2006 le Jennifer Ann Crecente Memorial Group.

Cette organisation vise à sensibiliser les jeunes vis-à-vis des abus dont ils pourraient être auteur et/ou victime. Elle est notamment à l’origine d’un programme appelé Gaming Against Violence. Son objectif: utiliser les jeux vidéo comme moyen de prévention contre les violences.

Raguet Theotim