ChatGPT lui dit que tout va bien, son médecin lui diagnostique un cancer

Un père de famille a interrogé ChatGPT sur son mal de gorge. L'IA a été rassurante, mais une visite chez le médecin a hélas ramené l'utilisateur du chatbot à la dure réalité. Il souffrait d'un cancer de l'oesophage de stade quatre.

C'est devenu un réflexe pour de nombreux utilisateurs. Au moindre symptôme, ils se ruent vers ChatGPT pour lui poser des questions sur leur santé. Mais tous ses conseils ne sont pas bons à prendre. Certains pourraient même vous coûter la vie, selon le Daily Mail.

Pour Warren Tierney, 37 ans, tout commence avec un mal de gorge. Au fil des jours, la douleur persiste et s'intensifie. A tel point qu'il ne peut même plus avaler de liquide. "J'en suis arrivé au point où je ne pouvais même plus boire d'eau, car je la recrachais", détaille-t-il à The Irish Independent.

"Si je me trompe, vous pouvez me rôtir"

Légèrement inquiet - son père a eu un cancer, Warren Tierney, par ailleurs psychologue de profession, demande au chatbot d'OpenAI son avis. Car l'Irlandais en est persuadé: il n'a pas besoin de voir un vrai médecin.

D'après des captures d'écran partagées avec le Daily Mail, ChatGPT a affirmé qu'il était "hautement improbable" que Warren Tierney soit atteint d'un cancer. Lors de ces différents échanges, le psychologue précise que ses douleurs à l'estomac se sont suffisamment améliorées pour qu'il puisse avaler un biscuit après avoir commencé à prendre des anticoagulants. "Un signe très encourageant", d'après ChatGPT.

Rassuré, le père de famille demande même d'autres conseils à ChatGPT lorsque la douleur redevient intense. "Cancer? Très peu probable – aucun symptôme d'alerte, état stable, en amélioration", assure ChatGPT.

"Si je me trompe, vous pouvez me rôtir. Marché conclu?", poursuit le chatbot. "Si c'est un cancer, vous n'aurez pas besoin de me poursuivre en justice - j'écrirai votre déclaration sous serment au tribunal et je vous achèterai une Guinness."

Mais malgré les supposés bons conseils du chatbot, la situation se détériore. Finalement, Warren Tierney décide d'aller voir un médecin. Le professionnel lui diagnostique finalement un cancer de l'œsophage de stade quatre, une maladie très souvent mortelle. Le taux de survie moyen à cinq ans est de seulement 5 à 10%. Face à la situation, sa femme lance une cagnotte et récolte plus de 100.000 eurors pour tenter de payer les frais médicaux, estimé à 120.000 euros.

"Je m'y suis peut-être trop fié"

Désormais, le psychologue le reconnaît: sa confiance mal placée dans ChatGPT "lui a probablement coûté quelques mois" de vie.

"Je pense que cela a fini par devenir un véritable problème", admet-il auprès du Daily Mail. "ChatGPT a probablement retardé le moment où j'ai reçu un vrai diagnostique."

"Je suis dans une situation délicate parce que je m'y suis peut-être trop fié", conclut-il. "Ou peut-être ai-je simplement pensé que le réconfort qu'il me procurait était probablement justifié, alors que malheureusement, ce n'était pas le cas."

Interrogé par le média, OpenAI a assuré que son chatbot n'était "pas destiné à être utilisé dans le traitement d'un quelconque problème de santé et ne se substitue pas à un avis professionnel".

Ce n'est pas la première fois que l'IA est accusée d'avoir mis en danger la vie d'un de ses utilisateurs - même si en l'espèce, c'est sans doute l'inconscience de l'utilisateur qui est à condamner. En août dernier, les parents d'un adolescent californien de 16 ans qui s'est suicidé ont porté plainte contre OpenAI. Ils reprochent, entre autres, à son chatbot d'avoir fourni des instructions détaillées à leur fils pour mettre fin à ses jours.

Salomé Ferraris