arXiv cs.AI· JianKun Zou, Tongtong Yuan·· 11 小时前AI 评分35
EchoKV：通过迭代 Query 反馈实现自校正 KV Cache 驱逐
EchoKV: Self-Corrective KV Cache Eviction via Iterative Query Feedback
AI 导读
EchoKV 提出通过迭代 query 反馈实现自校正 KV cache 驱逐，解决早期工作区误差扭曲驱逐决策的问题。该方法在保持与 LAQ 相同前向传播次数的同时，加入张量重打分操作来修复工作区。在 LongBench 评测（基于 Mistral-7B-Instruct-v0.2 和 Qwen2.5-7B-Instruct）中，EchoKV 在多跳跨文档问答等分散证据任务上显著优于 LAQ。
来源：arXiv cs.AI · arxiv.org