刚刚,DeepSeek开源MoE训练、推理EP通信库DeepEP,真太Open了!

上周五,DeepSeek 宣布开源周(OpenSourceWeek)将连续开源五个软件库,并于昨天开源了首个代码库 FlashMLA,仅24小时就获得了近8k的Star量。今天,DeepSeek继续开源了首个用于MoE模型训练和推理的EP通信库DeepEP,该库支持高效优化的All-to-All通信、NVLink和RDMA的节点内/跨节点通信等,显著提升了MoE模型的处理速度和资源利用率。

[原文链接]

上一篇:

下一篇:

微信