Des travaux publiés sur arXiv décrivent Spectral Feedback, un algorithme conçu pour améliorer l’alignement de modèles de diffusion discrets utilisés en inverse folding de protéines. L’idée centrale est de corriger la génération au moment de l’inférence, non pas en modifiant directement les logits ou en sélectionnant seulement les meilleures séquences intermédiaires, mais en décidant quels tokens doivent être revisités.
La proposition s’appuie sur la structure propre aux modèles de diffusion discrets : certaines positions sont re-masquées puis rééchantillonnées dans une boucle de feedback. Les auteurs rapprochent ce mécanisme des méthodes d’édition d’images qui réinjectent du bruit latent avant de relancer le processus inverse. Ici, le problème d’alignement ne porte donc plus seulement sur le choix du bon label, mais sur la sélection d’un ensemble de positions à éditer.
Cette sélection est difficile, car l’effet d’une modification dépend des autres positions modifiées en même temps. Les auteurs définissent ainsi la notion d’edit-set, puis indiquent observer empiriquement que les fonctions de valeur associées à ces ensembles admettent des représentations de Fourier clairsemées dans le cas étudié. C’est cette structure qui permettrait à Spectral Feedback d’apprendre et d’optimiser efficacement les positions à réviser.
Selon l’article, la méthode est agnostique au modèle et peut s’appliquer à des modèles préentraînés, déjà alignés à l’inférence ou encore affinés. Sur une tâche d’inverse folding avec un oracle de récompense lié à la stabilité des protéines, les auteurs rapportent une hausse de 32,3 % du nombre de protéines stables pour un modèle préentraîné, de 24,8 % pour une approche Best-of-10, et de 5,8 % pour un modèle de diffusion affiné par RL présenté comme state of the art. Ces résultats restent, à ce stade, issus d’une prépublication arXiv.