跳到正文
原文
arXiv cs.LG· Xinyu Wang, Sicheng Lyu, Xiao-Wen Chang·· 2026-10-02AI 评分35

JARQ:面向大语言模型量化的联合交替精炼方法

JARQ: Joint Alternating Refinement for Quantization

AI 导读

JARQ 是一种面向大语言模型分组量化的即插即用精炼方法,通过交替进行全组尺度联合最小二乘拟合与编码更新来提升精度。该方法无需反向传播且不改变原有推理开销,处理单个 7B block 耗时不足 1 分钟。

来源:arXiv cs.LG · arxiv.org