AWS Machine Learning Blog· Ashvin Nihalani·· 18 天前AI 评分37
Amazon EKS 结合 EFA 与 DeepEP 扩展 MoE 强化学习，吞吐量提升 40%
Scaling MoE reinforcement learning on Amazon EKS with EFA and DeepEP with 40% more throughput
AI 导读
AWS 提出基于 Amazon EKS、EFA 与 DeepEP 的架构，用于大规模扩展 MoE 模型的 RLHF/GRPO 强化学习训练，吞吐量提升 40%。该方案协调 rollout 生成与策略训练的异构算力，并优化跨节点专家并行 all-to-all 通信。
来源：AWS Machine Learning Blog · aws.amazon.com