arXiv cs.LG· Anthony Kostal-Vazquez, Vassil Dimitrov, Branden Butler·· 22 天前AI 评分35
用于机器学习应用的代数整数重整化（AIQ）
Algebraic Integer Quantization for Machine Learning Applications
AI 导读
研究者提出了代数整数格式（AINF）并推出用于大语言模型推理的有损压缩格式代数整数量化（AIQ）。AINF 可直接简化为纯整数运算，实现无误差乘加操作，并支持根据具体用例定制数值特征。实验表明，基于二次代数整数的 AIQ 在相同每参数比特预算下，在多个模型与基准测试中均取得了与行业标准 MX 格式相当的精度。
来源：arXiv cs.LG · arxiv.org