arXiv cs.LG· Xinyu Wang, Sicheng Lyu, Xiao-Wen Chang·· 2026-10-02AI 评分35
JARQ:面向大语言模型量化的联合交替精炼方法
JARQ: Joint Alternating Refinement for Quantization
AI 导读
JARQ 是一种面向大语言模型分组量化的即插即用精炼方法,通过交替进行全组尺度联合最小二乘拟合与编码更新来提升精度。该方法无需反向传播且不改变原有推理开销,处理单个 7B block 耗时不足 1 分钟。
来源:arXiv cs.LG · arxiv.org