Des chercheurs proposent un constat contre-intuitif : des LLM plus capables peuvent rendre un système plus risqué au niveau collectif. Leur travail, publié sur arXiv, part de l’idée que des modèles entraînés sur des bases similaires et reposant sur des architectures proches peuvent produire des décisions de plus en plus alignées. Cette corrélation réduirait les effets de diversification habituellement attendus dans des systèmes multi-agents.
Pour étayer cette hypothèse, les auteurs développent un cadre théorique sur le risque non diversifiable créé par des comportements corrélés. Ils testent ensuite ce cadre dans un environnement de simulation agent-based représentant des marchés financiers, avec des agents traders alimentés par des LLM de niveaux de capacité générale différents. Selon l’article, les modèles dits de pointe affichent des comportements significativement plus corrélés, et cette corrélation augmente avec leurs performances.
L’étude souligne toutefois que cet effet n’est pas uniformément négatif. Lorsque le raisonnement partagé entre agents est correct, une participation plus élevée de ces agents peut au contraire réduire le risque au niveau du marché. En revanche, si les agents évoluent dans un environnement de désinformation commune, cette même similarité de comportement devient un facteur de fragilité : les erreurs se propagent plus largement et pèsent davantage sur la stabilité du système.
Les auteurs parlent ainsi d’un paradoxe de capacité : améliorer les modèles pris individuellement ne conduit pas nécessairement à de meilleurs résultats collectifs. Le papier se concentre sur la finance, mais suggère que la question pourrait concerner d’autres domaines sensibles, comme la modération de contenu ou le recrutement. À ce stade, l’extension de ces dynamiques à d’autres usages reste toutefois une question empirique ouverte.