热点事件持续更新
研究团队提出扩散草稿模型并行训练方法 Split-KV 并开源
1 篇报道1 个报道来源11 小时前更新
先了解这件事
AI 综述
2026年11月5日,研究团队在 arXiv 发表论文,提出用于训练扩散草稿模型的高效上下文并行方法 Split-KV。该方法将 key/value 分片保留在本地,使每层注意力通信独立于上下文长度。此外,该方法结合 LPT 策略,实现了低于 1% 的负载不平衡度,规划速度比现有基线快 3 个数量级。实验表明,在上下文并行规模达到 64 时,Split-KV 能够保持 85% 至 91% 的弱扩展效率,并取得最高 3.67 倍的加速效果。目前相关代码已对外开源。
AI 根据报道生成 · 6 小时前更新
最新进展11月5日 13:00
研究团队提出并行训练方法 Split-KV,实现最高 3.67 倍加速并开源代码。报道时间线
沿着报道,了解事件的不同侧面。
11月5日
- arXiv cs.AISplit-KV:训练扩散草稿模型的高效上下文并行方法
研究团队提出用于训练扩散草稿模型的上下文并行方法 Split-KV,将 key/value 分片保留在本地,使每层注意力通信独立于上下文长度。该方法结合 LPT 策略实现低于 1% 的负载不平衡度,规划速度比现有基线快 3 个数量级。在 CP 规模为 64 时,Split-KV 保持 85%-91% 弱扩展效率并实现最高 3.67x 加速,代码已开源。
本事件热度走势
当前热度 8·可比范围峰值 9(11月5日 18:00)·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。