跳到正文
热点事件观察中

研究团队提出基于HiFloat4的大模型量化校准方法

1 篇报道1 个报道来源1 天前更新

先了解这件事

AI 综述

2026年11月2日,arXiv发布的一项研究针对采用三级缩放层级块浮点架构的4-bit格式HiFloat4(HiF4),提出了HiGPTQ、HiAutoRound和HiFlatQuant三种大模型量化校准方法。研究表明,与直接进行HiF4转换相比,这三种校准方法均有效提升了推理精度,将HiF4与BF16的性能差距缩小至1%以内。此外,该校准方案在多种模型和下游任务中的整体表现均超越了现有的NVFP4格式。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月2日
  1. arXiv cs.AI
    基于 HiFloat4 格式的大模型量化校准研究

    针对采用三级缩放层级块浮点架构的 4-bit 格式 HiFloat4(HiF4),研究团队提出了 HiGPTQ、HiAutoRound 和 HiFlatQuant 三种大模型量化校准方法。三种方法相比直接 HiF4 转换均提升了推理精度,将 HiF4 与 BF16 的性能差距缩小至 1% 以内。该校准方案在多种模型和下游任务中的表现均超越了现有的 NVFP4 格式。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。