Intelligence artificielle en santé : entre promesses d'efficacité et risques de déresponsabilisation

Situation

L'arrivée imminente en France d'assistants d'intelligence artificielle spécialisés en santé, surnommés "ChatGPT santé", suscite une angoisse professionnelle palpable chez les médecins, qui redoutent moins le remplacement que l'interposition d'un tiers numérique dans la relation de soins.

Contexte

Depuis quelques semaines, des versions "santé" d'assistants IA sont lancées aux États-Unis, avec une arrivée prochaine annoncée en France. Cette évolution s'inscrit dans une tendance où les patients utilisent déjà massivement l'IA pour comprendre leurs comptes rendus, interpréter des symptômes ou préparer leurs consultations, créant un décalage entre la pratique réelle et les réflexions institutionnelles.

Ce qui est confirmé

Selon la presse spécialisée, l'intelligence artificielle générative présente une caractéristique problématique en santé : elle "parle bien, même quand elle ne sait pas", ce qui constitue une rupture avec la culture médicale fondée sur le doute et la prudence. Les médecins expriment une méfiance professionnelle basée sur des expériences antérieures où les innovations technologiques se sont traduites par plus de bureaucratie et moins de temps médical.

Ce qui pose question

La fiabilité démontrée reste insuffisante, avec des risques d'erreurs algorithmiques pouvant affecter simultanément des milliers de patients. La responsabilité juridique en cas d'erreur médicale impliquant une IA n'est pas clairement établie - fabricant, établissement ou médecin. L'opacité des algorithmes en "boîte noire" limite la compréhension des raisonnements sous-jacents, et la traçabilité des décisions algorithmiques reste problématique.

L'impact financier & organisationnel

Le modèle économique de ces outils n'est pas précisé dans les sources disponibles. La question centrale est de savoir qui paiera les erreurs potentielles. L'IA pourrait théoriquement optimiser la distribution des ressources limitées et soutenir les professionnels dans les déserts médicaux, mais son déploiement risque d'ajouter des coûts supplémentaires sans garantie de productivité réelle. Les médecins craignent que derrière l'automatisation prometteuse se cachent des pressions accrues et une dilution de leur responsabilité professionnelle.

Le regard du Cercle

L'IA en santé représente un paradoxe : les patients l'adoptent massivement pendant que les professionnels s'interrogent sur ses limites opérationnelles. La véritable menace n'est pas la substitution du médecin, mais l'émergence d'un tiers numérique qui reformule les symptômes, hiérarchise les urgences et influence les décisions en amont de la consultation, sans être responsable ni traçable. La valeur ajoutée économique reste à démontrer, particulièrement dans un contexte où chaque innovation technologique s'est historiquement traduite par des contraintes administratives supplémentaires.

Recommandations

Vérifier systématiquement les recommandations de l'IA avec votre expertise clinique et les connaissances publiées avant toute décision thérapeutique. Anticipez que vos patients arriveront en consultation avec des informations pré-traitées par l'IA et préparez-vous à décrypter ces sources avec eux. Exigez des informations sur l'entraînement des algorithmes et leur validation clinique avant d'intégrer un outil d'IA dans votre pratique. Vérifiez les coûts à la charge du patient pour tout outil d'IA recommandé, en l'absence de cadre de remboursement clair.

Sources

Traçabilité : Presse Médicale - Article éditorial