Le potentiel énorme des IA sur les maladies rares, et le problème qu'on n'ose pas regarder

@dr_isabelle • il y a 2 mois

Sur la question des 7 000 maladies rares que personne ne connaît, je voudrais apporter une nuance que les articles enthousiastes oublient toujours. Oui, les modèles d'aide au diagnostic comme Mendelian ou FindZebra peuvent en théorie identifier une maladie rare en croisant des symptômes que le médecin généraliste ne saurait pas relier. Oui, il y a des cas spectaculaires (l'enfant cité par tous les journaux la semaine dernière, 3 ans d'errance, diagnostic en 2 secondes par le système). Et oui, c'est un progrès considérable. Mais voici ce qu'on dit moins : pour qu'un médecin pense à interroger le système, il faut déjà qu'il ait l'intuition que ce qu'il voit est rare. Or précisément, la plupart des médecins généralistes voient une suspicion de maladie rare 1 à 2 fois dans toute leur carrière, et n'ont aucun réflexe d'utilisation de ces outils. Le système le plus performant du monde ne sert à rien s'il n'est pas appelé. Le vrai progrès viendrait d'un déploiement systématique : à chaque consultation où un patient revient pour la 3e fois sans diagnostic clair, alerte automatique pour interroger une base de maladies rares. C'est faisable techniquement. Aucun éditeur ne le fait, parce que ça heurte le sentiment de compétence des médecins, qui sont les acheteurs. Je serais curieuse de savoir si parmi les soignants ici, certains ont une expérience concrète d'utilisation de ces systèmes.

7 commentaires

Connectez-vous pour commenter

@pierre_lm il y a 2 mois

Docteure, votre observation sur le sentiment de compétence des médecins comme frein au déploiement de ces outils est très juste. C'est exactement le même mécanisme qu'on observe dans toutes les professions intellectuelles confrontées à un outil qui leur dit "tu ne pouvais pas savoir". La résistance n'est pas technique, elle est identitaire. Sur ce point je trouve que les médecins anglo-saxons ont une approche plus pragmatique que les médecins français, qui restent attachés à un modèle d'autorité savante héritée du XIXe siècle. Ce ne sera pas facile à faire évoluer.

@RomLeroy il y a 2 mois

Pour avoir bossé sur un projet d'aide au diagnostic en oncologie avec un CHU il y a 4 ans, je peux vous dire que le frein principal n'est pas idéologique, il est procédural. Pour qu'un médecin utilise un outil de ce type il faut une trace dans le dossier patient, et donc une intégration dans le DPI (dossier patient informatisé). Aucun éditeur sérieux n'investit le temps de cette intégration parce que les marchés DPI hospitaliers sont fermés et lents. C'est du plumbing pas du machine learning.

@anna_kw il y a 2 mois

Pierre votre analogie XIXe est tentante mais je trouve qu'elle plaque une grille de lecture sur un phénomène qui en mérite une autre. Les médecins ne refusent pas l'aide algorithmique parce qu'ils sont conservateurs. Ils la refusent parce que la responsabilité juridique et morale est intégralement sur eux et que l'outil les met en position de devoir justifier soit qu'ils l'ont utilisé soit qu'ils ne l'ont pas utilisé, dans les deux cas devant un tribunal. Tant que la responsabilité juridique n'est pas partagée entre l'éditeur de l'outil et l'utilisateur, l'adoption sera lente et c'est rationnel.

@marc_prof il y a 2 mois

Sur le sentiment de compétence j'ai exactement le même phénomène avec mes collègues face à GPT. Les plus expérimentés sont les plus réticents, pas parce qu'ils sont vieux, mais parce qu'ils ont mis 30 ans à acquérir une expertise qu'un outil rend instantanée. C'est psychologiquement très difficile et ça ne se traite pas par de la formation, ça se traite par de la reconnaissance.

@julie_arnlt il y a 2 mois

Sur le plan juridique je rejoins Anna. Le déploiement d'une aide au diagnostic systématique poserait un vrai problème : si le système alerte sur une suspicion de maladie rare et que le médecin ne suit pas, sa responsabilité est engagée. Si le système n'alerte pas et que la maladie est manquée, la responsabilité reste sur le médecin également. Le médecin est dans une position perdant-perdant tant qu'on ne crée pas un statut d'aide à la décision protégeant le praticien qui suit (ou non) la recommandation algorithmique.

@sofia_vdl il y a 2 mois

Du côté tech, juste pour donner du contexte : Mendelian et FindZebra que vous citez utilisent encore des moteurs symboliques (graph de connaissances type ICD-11), pas des LLM. Ce qui marche pas mal sur les maladies rares c'est justement les approches hybrides : un LLM pour faire le pré-tri sémantique des symptômes décrits par le médecin, puis un graphe pour valider la compatibilité avec une maladie connue. La précision passe de 60 % à 85 % sur les benchmarks RareDis 2024. Le souci c'est exactement ce que vous dites docteure : il faut que le médecin ait l'idée d'interroger l'outil.

@pgarcia il y a 2 mois

sofia tu touches un point crucial. L'IA en santé ne va pas progresser par l'amélioration des modèles, elle va progresser par l'intégration dans les workflows. Et c'est précisément là que les éditeurs sont les plus mauvais. J'ai vu des outils qui marchaient à 90 % en démo mais qui demandaient 14 clics pour être utilisés en consultation, donc personne s'en servait. Le bon UX vaut mille points de précision.