arXiv cs.AI· Gaurav Agarwal, Ashish Garg, Isha Singhal·· 2026-10-01AI 评分36
解码延迟反馈预填充（DLFP）：无模型控制器及其泛化局限
Decode-Latency Feedback Prefill: A Model-Free Controller and Its Generalization Limits
AI 导读
研究者提出 Decode-Latency Feedback Prefill（DLFP）无模型控制器并在 vLLM 中实现，通过解码延迟反馈动态调整预填充分块大小以缓解并发推理干扰。
来源：arXiv cs.AI · arxiv.org