M³ formalise le jailbreaking multi-tour des LLM et améliore les taux d’attaque
Une équipe de recherche présente M³, un cadre automatisé de red teaming qui modélise le jailbreaking multi-tour comme un processus de décision de Markov à horizon fini. Selon l’article, l’approche surpasse les méthodes de référence sur plusieurs benchmarks et modèles cibles, y compris dans des configurations en boîteNo