AWS Machine Learning Blog· Ashvin Nihalani·· 2026-09-26AI 评分39
在 Amazon EKS 上借助 EFA 和 DeepEP 扩展 MoE 强化学习,吞吐量提升 40%
Scaling MoE reinforcement learning on Amazon EKS with EFA and DeepEP with 40% more throughput
AI 导读
AWS 提出结合 Amazon EKS、EFA 与 DeepEP 的架构方案,针对 MoE 模型的 RLHF 和 GRPO 大规模强化学习后训练进行优化,实现训练吞吐量提升 40%。该方案解决了 Rollout 推理生成与策略训练之间的异构资源协同难题,并利用 DeepEP 优化专家并行(EP)在 EFA 上的跨节点动态 all-to-all 通信瓶颈。
来源:AWS Machine Learning Blog · aws.amazon.com