2月25日，DeepSeek官宣，今日开源代码库为DeepEP，它是首个用于 MoE 模型训练和推理的开源EP通信库。
特点有：高效的全员沟通；节点内和节点间均支持 NVLink和RDMA；用于训练和推理预填充的高吞吐量内核；用于推理解码的低延迟内核；原生 FP8 调度支持；灵活的GPU资源控制，实现计算-通信重叠。
编辑|程鹏 盖源源
校对|段炼
封面图片来源：视觉中国（资料图 图文无关）
来源：每日经济新闻app
每经编辑｜程鹏
2月25日，DeepSeek官宣，今日开源代码库为DeepEP，它是首个用于 MoE 模型训练和推理的开源EP通信库。
特点有：高效的全员沟通；节点内和节点间均支持 NVLink和RDMA；用于训练和推理预填充的高吞吐量内核；用于推理解码的低延迟内核；原生 FP8 调度支持；灵活的GPU资源控制，实现计算-通信重叠。
编辑|程鹏 盖源源
校对|段炼
封面图片来源：视觉中国（资料图 图文无关）
来源：每日经济新闻app
1本文为《每日经济新闻》原创作品。
2 未经《每日经济新闻》授权，不得以任何方式加以使用，包括但不限于转载、摘编、复制或建立镜像等，违者必究。
每日经济新闻客户端