arXiv cs.AI· Youwei Bao, Chengpeng Wang, Simin Chen·· 6 天前AI 评分35
在智能体 Kernel 生成中实现批次不变性
God Does Not Play Dice: Enforcing Batch Invariance in Agentic Kernel Generation
AI 导读
针对 LLM 服务中 GPU kernel 缺乏批次不变性(BI)影响复现性的问题,研究人员提出一种面向智能体 kernel 生成的 BI 强化插件。该工具结合静态依赖分析与动态逐位一致性验证,作为优化循环的准入门控拦截风险候选。跨 3 个智能体框架的实验表明,BI 通过率从 67.6% 提升至 91.9%,并保留了基线 91.8% 的几何平均加速比。
来源:arXiv cs.AI · arxiv.org