Les grands modèles dépendent de plus en plus d’« expériences » synthétiques pour progresser, mais produire des données réellement utiles pour des agents interactifs reste complexe. Il ne suffit pas de générer des trajectoires exécutables et vérifiables : encore faut-il que ces interactions apportent une valeur d’apprentissage concrète à l’agent ciblé. C’est précisément le problème abordé par l’article "Know What You Don't Know: Agentic Data Synthesis by Evolving Generation Space for Closed-Loop Learning", publié sur arXiv.
Les auteurs estiment que les approches actuelles souffrent d’un décalage entre le feedback et la décision de synthèse. En clair, observer les échecs ou les lacunes d’un agent n’indique pas automatiquement comment modifier les futures données générées, ni si ces besoins peuvent être couverts par l’espace de synthèse existant. Pour répondre à cette limite, ils proposent EvoSyn, un cadre multi-agents guidé par le retour d’apprentissage.
Le système s’organise autour d’un état révisable qui décrit quels facteurs d’interaction peuvent être générés volontairement et où concentrer l’effort de synthèse. Des agents spécialisés traduisent les retours du modèle en révisions de cet espace, tandis qu’un Designer choisit les directions de synthèse et qu’un Planner les transforme en expériences exécutables. L’objectif est double : mieux couvrir les zones faibles déjà identifiées et élargir l’espace de génération lorsque de nouveaux facteurs pertinents émergent.
D’après l’article, les expériences menées sur τ²-Bench et CAR-Bench montrent une amélioration moyenne de 13,3 points du taux de réussite par rapport à la meilleure baseline de synthèse mentionnée. Les auteurs indiquent aussi une meilleure qualité des expériences synthétiques et une plus grande diversité structurelle. Comme souvent avec un préprint arXiv, ces résultats doivent toutefois être lus avec prudence en attendant d’éventuelles validations complémentaires.