跳到正文
原文
arXiv cs.LG· Jiawei Lin, Saibo Geng, Thomas Bourgeat·· 2026-10-03AI 评分37

EchoPress:基于虚拟上下文重构的查询无关 KV cache 剪枝

EchoPress: Query-Agnostic KV Cache Pruning via Virtual Context Reconstruction

AI 导读

EchoPress 是一种无需训练的 KV cache 剪枝方法,利用标准 prefill 信息并仅重构首个 chunk 来校准上下文重要性。在 Qwen3-8B 和 Llama-3.1-8B-Instruct 评测中,EchoPress 在 50% 至 90% 驱逐率下的任务准确率媲美 KVzip。

来源:arXiv cs.LG · arxiv.org