arXiv cs.AI· Yangsheng Deng, Xinjing Huang, Yulong Wang, Yunzhuo Liu, Jun Hu, Shuyong Tang, Junchi Zeng, Mingji Han, Ray Ying, Key Zhang, Luo Mai·· 8 天前AI 评分42
HyScale：面向可学习稀疏注意力的长上下文训练系统
HyScale: Scaling Long-Context Training for Learned Sparse Attention
AI 导读
HyScale 是一套面向可学习稀疏注意力的长上下文训练系统，通过 HyTopK 免分数表检索与选择复用（selection replay）机制消除训练瓶颈。在 512 张 H20 GPU 上，该系统将 GLM-5.1 在 1M token 序列上的训练速度较 Megatron-LM 提升 2.07x。
来源：arXiv cs.AI · arxiv.org