2月25日,DeepSeek官宣,今日开源代码库为DeepEP,它是首个用于 MoE 模型训练和推理的开源EP通信库。
特点有:高效的全员沟通;节点内和节点间均支持 NVLink和RDMA;用于训练和推理预填充的高吞吐量内核;用于推理解码的低延迟内核;
原生 FP8 调度支持;灵活的GPU资源控制,实现计算-通信重叠。
版权声明:朱朱说为大家提供:游戏通关攻略,游戏推荐,游戏下载,小游戏,手机游戏,单机游戏,电脑游戏,游戏攻略
工作时间:9:00-17:00
客服电话
电子邮件
326081657@qq.com