MoonEP Group Design

导言

先理解设计解决什么问题,再看分组公式。 从两张卡直接发送开始,观察参与者增多后接收方的竞争,尝试分批、错开目的地与接收方许可,最后回到 MoonEP 的 64P group。交互容量是教学假设,源码映射是固定版本事实;本文不把模拟结果作为性能测量。

设计的出发点

总数据必须送达,接收方的服务能力却有限。分组与错峰控制同时进入的请求,credit 则在快慢不一致时让接收方决定何时放行下一批。它们增加协调成本,因此资源充裕时,直接发送仍然合理。

六步交互演示依次展示直接发送、规模增长、同序分批、错峰轮转、接收许可与真实 64P 映射。源码细节可继续阅读同目录的 Ascend DeepEP MoE Dispatch Optimization

Author

Shaojie Tan

Posted on

2026-09-07

Updated on

2026-09-07

Licensed under