Les chatbots d'IA présentent un risque 'dangereux' en matière de conseils médicaux, selon une étude

Les risques des chatbots AI en matière de conseils médicaux

Les chatbots AI présentent des risques « dangereux » lorsqu'ils fournissent des conseils médicaux, selon une étude de l'Université d'Oxford. Cette recherche a révélé que les utilisateurs recevaient des conseils inexactes et incohérents, rendant difficile l'identification des informations fiables. Il est crucial de prendre conscience de ces dangers.

Utilisation croissante des chatbots pour la santé mentale

En novembre 2025, une enquête réalisée par Mental Health UK a montré qu'un résident britannique sur trois utilise désormais l'AI pour soutenir sa santé mentale ou son bien-être. Dr Rebecca Payne, principale praticienne médicale de l'étude, a averti que demander des conseils à des chatbots pouvait être dangereux pour les utilisateurs.

Les chercheurs ont présenté à 1 300 personnes des scénarios, comme un mal de tête sévère ou une nouvelle mère épuisée. Les participants ont été divisés en deux groupes, l'un utilisant l'AI pour déterminer leurs symptômes et la marche à suivre. Les résultats ont montré une grande confusion parmi les utilisateurs.

Incohérences dans les réponses fournies

Les chercheurs ont constaté que les utilisateurs de l'AI ne savaient souvent pas quoi demander. Ils recevaient une variété de réponses selon la formulation de leur question. Les chatbots fournissaient un mélange d'informations, rendant difficile la distinction entre ce qui était utile et ce qui ne l'était pas.

Dr Adam Mahdi, auteur senior de l'étude, a déclaré que bien que l'AI puisse fournir des informations médicales, les gens ont du mal à obtenir des conseils utiles. Il a expliqué que les utilisateurs partagent des informations de manière graduelle, ce qui complique l'interaction.

Les défis des biais intégrés

Dr Amber W. Childs, professeur associé de psychiatrie à la Yale School of Medicine, a souligné que les chatbots, entraînés sur des pratiques médicales actuelles, peuvent reproduire des biais présents depuis des décennies. Elle a précisé qu'un chatbot n'est pas un diagnosticien parfait, tout comme les cliniciens expérimentés.

Par ailleurs, Dr Bertalan Meskó, rédacteur en chef de The Medical Futurist, a mentionné que des développements sont à venir dans le domaine. Deux grands développeurs d'AI, OpenAI et Anthropic, ont récemment lancé des versions dédiées à la santé de leurs chatbots, ce qui pourrait conduire à des résultats différents dans des études similaires.

Conclusion

En résumé, les chatbots AI peuvent offrir des conseils médicaux, mais ils comportent des risques importants. Il est essentiel de continuer à améliorer la technologie, en particulier les versions liées à la santé, tout en établissant des régulations claires et des directives médicales. La prudence est de mise lors de l'utilisation de ces outils pour des questions de santé.