热点事件持续更新
研究提出带随机舍入SGD的算力缩放定律
1 篇报道1 个报道来源17 小时前更新
先了解这件事
AI 综述
2026年11月2日，arXiv stat.ML公布的一项新研究推导了带随机舍入（SR）的SGD预测误差匹配上下界，揭示了模型大小、训练时间与精度协同变化的算力缩放定律。理论表明，仅对前向特征进行舍入可保持精确计算的算力缩放，而反向舍入会改变该规律；参数平均则能改变何时以及何处需要更高精度。研究指出，在固定算力预算下，通过低精度支持训练更大模型能提升预测表现，相关算力与精度权衡已在MLP和小型Transformer实验中得到验证。
AI 根据报道生成 · 17 小时前更新
最新进展11月2日 13:00
最新研究推导出带随机舍入SGD的误差界与缩放定律，证实低精度大模型优势。报道时间线
沿着报道，了解事件的不同侧面。
11月2日
- arXiv stat.ML何时、何处、多少比特？带随机舍入 SGD 的缩放定律
一项新研究推导了带随机舍入（SR）的 SGD 预测误差匹配上下界，揭示了模型大小、训练时间与精度协同变化的算力缩放定律。理论表明仅前向特征舍入可保持精确计算的算力缩放，而反向舍入会改变该规律；参数平均则能改变何时以及何处需要更高精度。在固定算力预算下，低精度支持更大模型能提升预测表现，相关权衡在 MLP 和小型 Transformer 实验中得到验证。
本事件热度走势
当前热度 6·可比范围峰值 10（11月2日 14:00）·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。