arXiv cs.LG· Zhen Li, Shuai Zhang, Yanggan Gu, Yiming Zhang, Yang Yu, Mingfa Feng, Congkai Xie, Shuang Yu, Junjie Lai, Hongxia Yang·· 27 天前AI 评分36
TRIAGE：面向原生 NVFP4 强化学习的方向感知偏差稳定方法
TRIAGE: Direction-Aware Mismatch Stabilization of Native NVFP4 Reinforcement Learning
AI 导读
研究团队提出 TRIAGE 方法，解决大语言模型原生 NVFP4 强化学习中采样与学习执行不匹配导致的优化不稳定问题。该方法在保留两端 NVFP4 W4A4 前向执行的同时，通过片段级诊断重平衡策略梯度更新并修复严重偏差。在 Qwen3-4B 和 Qwen3-30B-A3B 上的实验表明，其在 5 个数学推理基准上达到全精度表现，rollout 吞吐量较 BF16 最高提升 2.3x。
来源：arXiv cs.LG · arxiv.org