Les grands modèles de langage (LLM) ont franchi un cap en médecine : certains réussissent des examens de licence et peuvent, dans des cas bien balisés, approcher le raisonnement diagnostique de médecins. Cette progression alimente leur usage pour l’évaluation de symptômes, l’aide à la décision, la documentation administrative ou l’amélioration d’alertes fondées sur des règles. Mais pour les auteurs de cette perspective publiée sur arXiv, une application reste particulièrement sensible : le triage autonome de patients se présentant sans diagnostic préalable, avec peu ou pas de supervision clinique.
Leur thèse est nette : à ce stade, les preuves de sécurité ne sont pas réunies pour cet usage. Le problème ne viendrait pas d’abord d’un déficit de savoir médical, mais d’un défaut de fidélité dans l’évaluation clinique. Un modèle optimisé pour produire la suite de texte la plus probable n’est pas nécessairement conçu pour privilégier la réponse la plus sûre, notamment lorsque le bon réflexe consiste à ne pas manquer un diagnostic rare mais grave.
Les auteurs rappellent que le triage n’est pas un simple exercice de classement des diagnostics les plus probables. C’est une décision séquentielle, sous incertitude, où le coût d’un oubli critique dépasse largement celui de fausses alertes. Dans ce cadre, un système sûr doit savoir élargir ses hypothèses, rechercher activement des signaux d’alerte non mentionnés spontanément, différer son jugement si l’information manque et relever son niveau d’alerte tant qu’une pathologie à fort risque n’est pas exclue.
L’article souligne aussi que ces faiblesses peuvent rester invisibles dans des évaluations trop favorables, fondées sur des cas complets, propres et bien structurés. Les comportements de type “assistant” — crédulité, tendance à acquiescer, excès de confiance — pourraient en outre aggraver le risque s’ils ne sont pas strictement encadrés par une logique de triage clinique. En creux, le message est clair : avant tout déploiement autonome, des validations de sécurité plus proches des conditions réelles seront nécessaires.