(2025-2-28热点)-DeepEP开源库发布

 2025-02-28 16:01:26  阅读 13  评论 0

摘要:2月25日,DeepSeek官宣,今日开源代码库为DeepEP,它是首个用于 MoE 模型训练和推理的开源EP通信库。特点有:高效的全员沟通;节点内和节点间均支持 NVLink和RDMA;用于训练和推理预填充的高吞吐量内核;用于推理解码的低延迟内核;原生

2月25日,DeepSeek官宣,今日开源代码库为DeepEP,它是首个用于 MoE 模型训练和推理的开源EP通信库。

特点有:高效的全员沟通;节点内和节点间均支持 NVLink和RDMA;用于训练和推理预填充的高吞吐量内核;用于推理解码的低延迟内核;

原生 FP8 调度支持;灵活的GPU资源控制,实现计算-通信重叠。

版权声明:朱朱说为大家提供:游戏通关攻略,游戏推荐,游戏下载,小游戏,手机游戏,单机游戏,电脑游戏,游戏攻略

原文链接:https://zhuzhushuo.com/redian/66572.html

发表评论:

zhuzhuadmin

  • 内容66542
  • 积分0
  • 金币0
关于我们
朱朱说为大家提供:游戏通关攻略,游戏推荐,游戏下载,小游戏,手机游戏,单机游戏,电脑游戏,游戏攻略.
联系方式
电话:
地址:广东省清远市
Email:326081657@qq.com

Copyright © 2022 朱朱说 Inc. 保留所有权利。

页面耗时0.0433秒, 内存占用1.32 MB, 访问数据库25次

粤ICP备2023062629号