AgentKVShift promet de réduire fortement le coût mémoire des agents LLM
Une équipe de recherche présente AgentKVShift, une méthode sans entraînement additionnel pour réutiliser plus efficacement le cache KV dans les systèmes de mémoire agentique. Selon l’article, l’approche permet de conserver des performances proches d’un recalcul complet tout en ne rafraîchissant qu’une fraction du cache