AWS Machine Learning Blog· Ashvin Nihalani·· 11 天前AI 评分38
在 Amazon EKS 上使用 EFA 和 DeepEP 扩展 MoE 强化学习，吞吐量提升 40%
Scaling MoE reinforcement learning on Amazon EKS with EFA and DeepEP with 40% more throughput
AI 导读
AWS 提出一种结合 Amazon EKS、EFA 与 DeepEP 的架构，用于加速 MoE 模型的大规模强化学习后训练，吞吐量提升 40%。该方案通过 DeepEP 优化 EFA 上的专家并行通信，并协调 rollout 生成与策略训练的异构算力需求，应对 RLHF 与 GRPO 训练中的通信瓶颈。
来源：AWS Machine Learning Blog · aws.amazon.com