跳到正文
原文
arXiv cs.LG· Xu Cao, Wenxuan Xiao·· 15 天前AI 评分35

跨模型表征复用校准增益研究

Reusing Calibration Gains across Model Representations

AI 导读

研究人员提出一种无需接收端优化的迁移方法,可直接将一个模型表征学到的正向分组缩放校准增益复用至同一预训练模型的其他表征。在 Qwen3-1.7B 浮点与 GPTQ INT3 配对的双向迁移中,该方法在测试集上保留了 76.9-90.5% 的文本损失改善,且量化接收端无需改变整数编码与零点。在 Llama-3.2-3B 对照实验中,交叉安装更保留了 98.6-99.3% 的文本校准收益。

来源:arXiv cs.LG · arxiv.org