arXiv cs.LG· Bolian Li, Ting-Yao Hu, Cheng-Yu Hsieh, Sanjoy Chowdhury, Oncel Tuzel, Raviteja Vemulapalli·· 27 天前AI 评分37
面向智能体强化学习的 MoE 专家选择结构化方法
Structuring MoE Expert Selection for Agentic Reinforcement Learning
AI 导读
针对智能体长程任务中标准强化学习导致 MoE 路由失控的问题，研究者提出了一种分层路由控制框架。该框架促使轮次级专家选择与智能体操作对齐，同时正则化 token 级专家选择以维持局部一致性，并引入熵门控机制保障后训练稳定性。评测结果显示，该路由控制框架在所有测试基准上的成功率均实现了超过 10 个百分点的提升。
来源：arXiv cs.LG · arxiv.org