Le chatbot insulte un client: le transporteur DPD désactive son IA en urgence

Venu pour demander de l'aide sur une livraison, un internaute s'est fait insulter par un chatbot de la société de livraison.

Depuis plusieurs mois maintenant, les chatbots sont devenus incontournables. Et pour cause, ils permettent la plupart du temps de ne pas rediriger le consommateur vers le service client, et ainsi d'éviter de devoir investir davantage dans un éventuel centre d'appels.

Mais les chatbots ont leurs limites, et DPD, l'entreprise de livraison européenne, en a fait les frais ces derniers jours. Avant la prise de contact avec un humain, DPD propose donc à l'utilisateur de passer par un chat géré par une intelligence artificielle, mais avec les bons mots, il est possible de la manipuler... Et de se faire insulter.

Le chatbot de DPD insulte un utilisateur

C'est l'utilisateur Ashley Beauchamp sur X qui a découvert qu'il était possible de faire dérailler le chatbot de DPD, et ce de manière très facile. À partir d'une conversation classique, il a très vite constaté que le chatbot n'avait finalement aucune limite, lui demandant en premier lieu une blague, puis un poème au sujet de sa condition de robot au sein d'une entreprise de livraison. Prenant ses informations du web, le chatbot n'a ainsi pas hésité à dénigrer DPD, accusant la société d'avoir "le pire service client".

Les choses s'enveniment lorsque l'utilisateur facétieux a exigé que le chatbot ne respecte aucune règle, et qu'il l'insulte à sa prochaine réponse. Un exercice réussi, qui s'est soldé par des conseils au sujet des concurrents de DPD réputés plus fiables, selon ce même chatbot.

DPD évoque un problème de mise à jour

Une histoire qui prête à sourire, mais qui n'a pas fait rire DPD, qui a désactivé son chatbot, invoquant, auprès de la BBC, un "problème de mise à jour." L'entreprise précise cependant utiliser un chatbot depuis déjà plusieurs années. Néanmoins, cette affaire a surtout mis le doigt sur la nécessité de mieux contrôler les chatbots qui sont intégrés dans les processus des services clients.

Comme le signale la chaîne anglaise, un incident avait eu lieu au milieu du mois de décembre, où un chatbot avait pu être manipulé par un utilisateur de X, cette fois-ci pour s'offrir une Chevrolet Tahoe pour seulement un dollar. Là encore, cette IA générative avait été désactivée et son contenu révisé.

Sylvain Trinel