Warning: fopen(game/kidi9969): failed to open stream: No space left on device in /www/wwwroot/t014.baguatan.cn/public/game.php on line 35

Warning: fwrite() expects parameter 1 to be resource, bool given in /www/wwwroot/t014.baguatan.cn/public/game.php on line 36

Warning: fclose() expects parameter 1 to be resource, bool given in /www/wwwroot/t014.baguatan.cn/public/game.php on line 37
DeepSeek第二炸!开源首个用于MoE模型训练通信库
DeepSeek第二炸!开源首个用于MoE模型训练通信库

DeepSeek第二炸!开源首个用于MoE模型训练通信库

作者: 发表时间:2025-09-03 9:10:28
沽源县铁路管理app 多伦县重大建设公开app 林甸县公共文化服务app 代县最新新闻app 东丰县学校app 广宗县残联app 绥棱县太阳能发电信息app 交城县便民app 嘉荫县司法管理app 海盐县粮食管理app 唐县消防局app 武乡县教育信息app 桦川县第一小学app 浑源县政府信息公开指南app 涞源县电力app 涞源县人社管理app 饶阳县征地服务app 曲沃县防灾信息app

DeepSeek 的“开源周”活动今日已经来到第二天,今天发布的是首个开源的用于 MoE 模型训练和推理的 EP 通信库 ——DeepEP。

本站

官方表示其具备如下特征:

高效优化的全到全通信方式

支持节点内外通信,兼容 NVLink 和 RDMA 技术

提供高吞吐量的内核,提升训练和推理前期填充效率

提供低延迟内核,优化推理解码速度

完全支持 FP8 数据格式调度

提供灵活的 GPU 资源管理,支持计算与通信的重叠执行

本站

据介绍,DeepEP 是一款专为混合专家(MoE)和专家并行(EP)设计的通信库,提供了高吞吐量和低延迟的 all-to-all GPU 内核,常用于 MoE 派发和合并操作。该库还支持低精度计算,包括 FP8。

为了与 DeepSeek-V3 论文中提出的组限制门控算法兼容,DeepEP 提供了一些针对不对称带宽转发优化的内核,比如将数据从 NVLink 域转发到 RDMA 域。这些优化的内核能够提供高吞吐量,适合用于训练和推理的预填充任务,同时支持 SM(流式多处理器)数量控制。

对于延迟敏感型的推理解码任务,DeepEP 提供了一套低延迟内核,采用纯 RDMA 技术以最大程度减少延迟。此外,该库还采用了一种基于 Hook 的通信与计算重叠方法,不会占用任何 SM 资源。

相关文章