- 我的订阅
- 科技
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
DeepSeek第二炸：开源首个用于 MoE 模型训练通信库
快科技2月25日消息，今天是DeepSeek开源周第二日，一早，DeepSeek如约就放出了开源代码库DeepEP王炸。
据了解，DeepEP是首个用于 MoE 模型训练和推理的开源 EP 通信库，它填补了MoE模型专用通信工具的空白，为大规模分布式AI训练和实时推理场景提供了更高效的底层支持。
在这里，简单介绍一下DeepEP的技术性能特点：
1、高效通信架构
支持优化的全对全通信模式，实现节点内和节点间的NVLink与RDMA互联，提升数据传输效率
2、多精度与调度优化
原生支持FP8低精度运算调度，降低计算资源消耗。
3、重性能内核
据介绍，高吞吐量内核可适用于训练和推理预填充场景，最大化数据处理能力；
4、低延迟内核
它针对推理解码场景设计，采用纯RDMA通信和自适应路由技术，减少延迟。
5、资源控制与重叠机制
通过灵活的GPU资源控制策略，实现计算与通信过程的高效重叠，避免资源闲置。
6、深度优化场景
针对NVLink到RDMA的非对称带宽转发场景进行专项优化，提升异构网络下的传输性能；
此外，它还支持SM（Streaming Multiprocessors）数量动态控制，平衡不同任务（如训练与推理）的吞吐量需求。
【本文结束】如需转载请务必注明出处：快科技
责任编辑：秋白
文章内容举报
以上内容为资讯信息快照，由td.fyun.cc爬虫进行采集并收录，本站未对信息做任何修改，信息内容不代表本站立场。
快照生成时间：2025-02-25 14:45:11
本站信息快照查询为非营利公共服务，如有侵权请联系我们进行删除。
信息原文地址：
