arXiv cs.LG· Ammar Ali, Stamatis Lefkimmiatis·· 7 天前AI 评分37
TWIG:每个权重都是一条共享离散决策路径
Every Weight Is a Path of Shared Discrete Decisions
AI 导读
研究者提出神经网络权重表示方法 TWIG,将权重转化为继承门控的共享离散决策路径,从而将剪枝、量化与低秩分解统一为单一优化。当决策采用 2 的幂次时,网络权重层可转为几乎仅由连线与加法器构成的硬件电路。在 LLM 矩阵的 3- 和 4-bit 测试中,TWIG 在同等误差下比 GPTQ 减少 9–15% 的加法操作,含强异常值的矩阵减少 20–55%。
来源:arXiv cs.LG · arxiv.org