我们正处于一个信息大暴发的时代,每天都能产生数以百万计的新闻资讯!
虽然有大数据推荐,但面对海量数据,通过我们的调研发现,在一个小时的时间里,您通常无法真正有效地获取您感兴趣的资讯!
头条新闻资讯订阅,旨在帮助您收集感兴趣的资讯内容,并且在第一时间通知到您。可以有效节约您获取资讯的时间,避免错过一些关键信息。
金融界2025年3月26日消息,国家知识产权局信息显示,北京壁仞科技开发有限公司申请一项名为“一种模型训练的节点组网方法及装置”的专利,公开号CN 119676089 A,申请日期为2024年12月。
专利摘要显示,本公开提供一种模型训练的节点组网方法及装置,其中所述方法包括:在对大模型进行混合并行训练之前,确定大模型在每次训练迭代中的数据并行通信开销的占比以及流水线并行通信开销的占比;若流水线并行通信开销占比大于数据并行通信开销占比,按照数据并行组的正序依次为每个数据并行组分配属于同一叶层交换机的连续节点;若正序分配结束后数据并行组未满足节点分配需求,则继续按照数据并行组的逆序依次为每个包含剩余节点的数据并行组分配属于同一叶层交换机的连续节点,直至分配节点完毕,可以减少跨叶层交换机的通信,且同一叶层交换机下的节点间通信具有更高的亲和性和更低的延迟,进而提高整体训练的性能。
天眼查资料显示,北京壁仞科技开发有限公司,成立于2020年,位于北京市,是一家以从事软件和信息技术服务业为主的企业。企业注册资本10000万人民币,实缴资本5000万人民币。通过天眼查大数据分析,北京壁仞科技开发有限公司专利信息197条,此外企业还拥有行政许可1个。
本文源自:金融界
作者:情报员/阅读下一篇/返回网易首页下载网易新闻客户端
以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。
快照生成时间:2025-03-26 23:45:08
本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。
信息原文地址: