arXiv cs.LG· Dongsen Zhang, Peipei Li, Zekun Li, Wenjun Xu·· 26 天前AI 评分33
面向高效隐式多智能体协作的面向任务关键层 KV 通信
Task-Oriented Key-Layer KV Communication for Efficient Latent Multi-Agent Collaboration
AI 导读
研究人员提出免训练框架 KITE，通过仅传输关键层 KV 状态进行面向任务的隐式多智能体协作。该方法依据接收端轨迹失真标准筛选任务关键层，并将其作为自回归隐式推理的入口。在 7 个基准测试中，KITE 相比全层 KV 通信降低了 28-36x 的通信量，实现最高 3x 的端到端推理加速，准确率最高提升 23.3 个百分点。
来源：arXiv cs.LG · arxiv.org