Un article de position déposé sur arXiv appelle à repenser l’IA explicable centrée sur l’humain (HCXAI) à partir de la psychologie de la recherche d’information. Son idée centrale est simple : rendre des explications disponibles ne suffit pas, encore faut-il comprendre dans quelles situations les utilisateurs souhaitent réellement les consulter.
Les auteurs s’appuient sur un cadre théorique qui distingue trois formes d’utilité attendue. Une explication peut être recherchée pour sa valeur instrumentale — aider à mieux agir —, hédonique — réduire l’inconfort ou rassurer —, ou cognitive — améliorer la compréhension. Selon le papier, cette évaluation n’est toutefois pas neutre : elle est filtrée par des biais bien documentés, comme le biais de confirmation, l’excès de confiance, le biais d’automatisation ou encore l’illusion de contrôle.
Cette lecture conduit à deux modes d’échec. D’un côté, une recherche excessive d’explications peut fragmenter l’attention sans améliorer la décision. De l’autre, une recherche insuffisante peut laisser des risques importants ou des malentendus sans examen. Les auteurs jugent ce problème particulièrement critique pour les systèmes d’IA agentiques, où il ne s’agit pas seulement d’expliquer une sortie ponctuelle, mais aussi d’anticiper des chaînes d’actions, d’évaluer les risques et de décider quand intervenir.
Le texte ne présente pas, à ce stade, de résultats expérimentaux détaillés dans le résumé disponible, mais avance une orientation de conception claire : passer d’une logique d’« explications disponibles » à une logique d’« explications recherchées ». Pour les équipes produit et recherche, le message est pragmatique : une bonne interface d’explicabilité ne doit pas seulement informer, elle doit aussi tenir compte du moment, de la motivation et des limites cognitives de l’utilisateur.