热点事件观察中
研究团队提出基于HiFloat4的大模型量化校准方法
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
2026年11月2日,arXiv发布的一项研究针对采用三级缩放层级块浮点架构的4-bit格式HiFloat4(HiF4),提出了HiGPTQ、HiAutoRound和HiFlatQuant三种大模型量化校准方法。研究表明,与直接进行HiF4转换相比,这三种校准方法均有效提升了推理精度,将HiF4与BF16的性能差距缩小至1%以内。此外,该校准方案在多种模型和下游任务中的整体表现均超越了现有的NVFP4格式。
AI 根据报道生成 · 1 小时前更新
最新进展11月2日 13:00
研究团队提出三种HiFloat4量化校准方法,将与BF16的差距缩小至1%以内且超越NVFP4。报道时间线
沿着报道,了解事件的不同侧面。
11月2日
- arXiv cs.AI基于 HiFloat4 格式的大模型量化校准研究
针对采用三级缩放层级块浮点架构的 4-bit 格式 HiFloat4(HiF4),研究团队提出了 HiGPTQ、HiAutoRound 和 HiFlatQuant 三种大模型量化校准方法。三种方法相比直接 HiF4 转换均提升了推理精度,将 HiF4 与 BF16 的性能差距缩小至 1% 以内。该校准方案在多种模型和下游任务中的表现均超越了现有的 NVFP4 格式。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。