IA conversationnelle et aide au diagnostic : ce que les généralistes doivent vraiment savoir avant d'adopter ces outils

Situation

Deux déploiements d'IA en santé retiennent l'attention cette semaine. Le groupe Vivalto, important acteur privé de santé en Europe, annonce le déploiement d'une intelligence artificielle conversationnelle destinée à interagir directement avec les patients. Parallèlement, l'organisation HealthAI, basée à Genève et soutenue par la Fondation Botnar, propose de créer un réseau mondial pour réguler l'intelligence artificielle en santé, avec un mécanisme d'autorisation de mise sur le marché et de remboursement.

Contexte

Le marché de l'IA en santé est en forte croissance, poussé par la demande de dématérialisation et la pression sur les coûts. L'IA est déjà utilisée en imagerie médicale, robotique chirurgicale et biologie, avec des performances parfois supérieures à l'interprétation humaine dans certains domaines. Parallèlement, les autorités sanitaires alertent de manière répétée sur les risques d'hallucinations (réponses fausses mais plausibles) et de biais algorithmiques.

Ce qui est confirmé

Vivalto va déployer son IA conversationnelle à l'échelle européenne, pour des tâches de premier accueil, prise de rendez-vous et information post-consultation. Le périmètre reste administratif et logistique. De son côté, HealthAI est une organisation indépendante basée à Genève, dirigée par le Dr Ricardo Baptista Leite, qui vise à promouvoir un accès équitable à l'IA en santé. L'IA en imagerie médicale est déjà considérée comme supérieure à l'interprétation humaine dans certains cas. La dépression résistante, qui concerne près d'un million de personnes en France, coûte 14 milliards d'euros par an à la collectivité selon l'OCDE.

Ce qui pose question

La frontière entre information générale et conseil médical personnalisé est floue pour une IA. Les risques d'hallucinations sont inhérents à la technologie et potentiellement graves en contexte de santé. L'empathie simulée par l'IA peut créer une illusion de relation thérapeutique, retardant une consultation réelle. L'IA raisonne par statistiques sur des panels homogènes, sans garantie de gestion des variations individuelles (physiologiques, environnementales, sociales). La transparence des algorithmes « boîte noire » pose des défis pour la compréhension des décisions cliniques. Les biais sur les populations non-standards restent un risque majeur.

L'impact financier & organisationnel

Les coûts d'abonnement et de formation aux outils d'IA ne sont pas chiffrés pour les structures de soins individuelles. Le financement de ces technologies repose sur les systèmes de santé et les assurances, avec des coûts significatifs qui pourraient limiter l'accès équitable. L'automatisation transfère le risque clinique et la responsabilité vers un algorithme, ce qui pose la question du transfert de responsabilité. Le risque de perte de savoir-faire clinique, à mesure que les praticiens délèguent certaines tâches à l'IA, est un enjeu à moyen terme.

Le regard du Cercle

L'IA est un outil de logistique puissant mais dangereux dès qu'elle approche du conseil clinique. L'IA conversationnelle (Vivalto) peut absorber des tâches administratives à faible valeur ajoutée, mais son cadre d'utilisation doit être strict, avec une supervision humaine incontournable. La régulation proposée par HealthAI pourrait structurer le marché, mais elle doit garantir que l'IA reste une aide à la décision supervisée par le médecin, sans substituer le jugement clinique. La préservation de la relation humaine et la gestion des biais algorithmiques sont des enjeux critiques.

Recommandations

Médecin recevant un compte-rendu ou une alerte générée par un outil d'IA (chatbot, aide au diagnostic, IA imagerie) : Documenter systématiquement dans le dossier patient que la décision clinique finale a été prise par le médecin, et non par l'outil. Utiliser une phrase type : « Résultat IA consulté à titre indicatif, décision clinique prise après examen et jugement du praticien. » Cette traçabilité est indispensable en cas de litige médico-légal (art. L.1142-1 CSP : responsabilité médicale).

Responsable informatique ou référent numérique d'un établissement privé (dont Vivalto) : Avant tout déploiement d'IA conversationnelle auprès des patients, exiger du prestataire : (1) un document contractuel précisant les cas où l'IA transfère automatiquement vers un humain (critères de triage), (2) un registre des erreurs (hallucinations détectées), (3) une clause de responsabilité civile en cas de préjudice patient lié à une réponse erronée de l'IA.

Médecin généraliste souhaitant évaluer un outil d'IA pour son cabinet : Utiliser la grille d'évaluation des logiciels médicaux publiée par l'ANS (ans.sante.fr, rubrique « Évaluation des SN de santé ») avant tout achat. Vérifier que l'outil dispose du marquage CE classe IIa minimum pour une aide au diagnostic. Un outil sans marquage CE ne peut pas être présenté comme aide à la décision clinique.

Sources

Traçabilité : APMnews, Boulevard Voltaire, Le Figaro