Les grands modèles de langage prennent une place croissante dans les usages liés à la santé mentale, mais leur cadre de conception reste souvent influencé par des logiques d’engagement propres à l’économie de l’attention. Selon les auteurs de cette étude publiée sur arXiv, cette tension peut entrer en conflit avec les exigences d’un accompagnement psychologique efficace, qui suppose parfois de la friction, des limites claires et une vigilance sur le long terme.
Le papier souligne que les réponses actuelles en matière de sécurité sont surtout réactives. Elles visent les risques les plus visibles ou immédiats, mais laissent davantage dans l’angle mort des effets plus diffus, comme la dépendance à l’outil, l’érosion des frontières relationnelles ou le renforcement de croyances déformées. Pour les auteurs, ces risques appellent une approche plus structurelle de l’alignement des systèmes.
Le cadre proposé repose sur trois niveaux, inspirés de la manière dont la pratique clinique humaine est encadrée. D’abord, une spécification explicite des valeurs, fondée sur les engagements normatifs de la pratique médicale. Ensuite, un entraînement du modèle conçu pour intégrer effectivement ces valeurs. Enfin, une supervision en conditions réelles afin de détecter les dérives et les dommages potentiels dans la durée, à l’image de la supervision clinique.
Les chercheurs nomment cet ensemble « alignment plausibility ». L’idée est de fournir une démonstration structurée montrant que les valeurs visées, le régime d’entraînement et les mécanismes de contrôle sont cohérents avec des résultats sûrs et bénéfiques. À ce stade, il s’agit d’une proposition conceptuelle, mais les auteurs la présentent comme une base possible pour l’évaluation réglementaire des IA en santé, par analogie avec la notion de plausibilité biologique déjà utilisée dans d’autres contextes.