• 我的订阅
  • 财经

Nvidia斥资7亿美金收购GPU集群优化初创公司Run:ai

类别:财经 发布时间:2024-04-26 13:43:00 来源:至顶头条

Nvidia今天透露,已经收购了Run:ai,一家开发优化显卡集群性能软件的初创公司。

此次收购交易的条款并未披露。TechCrunch援引两位知情人士的话报道称,此次交易对Run:ai的估值为7亿美金,这几乎是这家总部位于特拉维夫的初创公司在收购之前筹集的资金金额的6倍。

Nvidia斥资7亿美金收购GPU集群优化初创公司Run:ai

Run:ai的正式名称为Runai Labs Ltd,提供的软件主要用于加速配备了GPU的服务器集群。据该公司称,由其技术支持的GPU环境可以运行的AI工作负载比其他方式要多出10倍,而且它是通过修复几个经常影响GPU驱动的服务器的常见处理效率低下问题来提高AI性能的。

Run:ai解决的第一个问题,源于AI模型通常使用多个显卡进行训练。为了将神经网络分布在GPU集群上,开发人员会将其分成多个软件片段,并在不同的芯片上训练每个片段。这些AI片段必须在训练过程中定期相互交换数据,这可能会导致性能问题。

如果AI片段必须与当前未运行的神经网络的不同部分交换数据,则必须暂停处理,直到后一个模块上线,由此产生的延迟会减慢AI训练的工作流程。Run:ai可以确保促进数据交换所需的所有AI片段同时在线,从而消除不必要的处理延迟。

Run:ai的软件还避免了所谓的内存冲突。在这种情况下,两个AI工作负载会尝试同时使用GPU内存的同一部分。GPU会自动解决此类错误,但故障排除过程需要时间。在AI训练过程中,修复内存冲突所花费的时间会显着增加并减慢处理速度。

在同一GPU集群上运行多个AI工作负载还可能导致其他类型的瓶颈。如果其中一个工作负载需要的硬件超出预期,那么它可能会使用分配给其他应用的基础设施资源并放慢这些应用的速度。Run:ai提供的功能可以确保每个AI模型都获得足够的硬件资源,在没有延迟的情况下完成分配的任务。

Nvidia副总裁、DGX云部门总经理Alexis Bjorlin在一篇博客文章中详细介绍了这一点,他说:“该公司在Kubernetes上构建了一个开放平台,这是现代AI和云基础设施的编排层,支持所有主流的Kubernetes变体,并与第三方AI工具和框架进行了集成。”

Run:ai主要销售核心基础设施优化的平台以及其他两种软件工具。首先是Run:ai Scheduler,它提供了一个为开发团队和AI项目分配硬件资源的接口,其次是Run:ai Dev,可以帮助工程师更快地设置用于训练神经网络的编码工具。

Nvidia已经在自己的多款产品中附带了Run:ai的软件,包括Nvidia Enterprise,是Nvidia为自己数据中心GPU提供的一套开发工具,以及DGX系列AI优化型设备。Run:ai也可在DGX Cloud上使用,并且通过该产品,企业可以访问主流公有云中的Nvidia AI设备。

Bjorlin表示,“在可预见的未来”,Nvidia将继续在当前定价模式下提供Run:ai的工具,与此同时,Nvidia将发布该软件的增强功能,重点关注有助于优化DGX云环境的功能。

Bjorlin详细介绍道:“客户可以期望他们将受益于更好的GPU利用率、改进的GPU基础设施管理以及开放架构带来的更高灵活性。”

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-04-26 14:45:08

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

两个月市值冲上600亿,张一鸣的老对手要翻身了?
...020年,目前只投入了数千万元建设,包含200张显卡的训练集群,并组建了超过200人的研发团队。也就是说,虽然昆仑万维介入了AIGC行业,但目前还没有太大的投入。不过,昆仑万
2023-04-19 14:07:00
市值凭什么破万亿?博通讲了一个ASIC的超大叙事
...,因为Meta同时在囤非常多的H卡(年底60w+)、构建10万卡集群训练Llama4、抢购GB200 Ariel。这部分训练需求后面都可以转推理
2024-12-14 13:56:00
AGI一日要闻:台积电预测2040年GPU芯片性能提升1000倍;Scale估值高达130亿美金
...的精力构建想法原型并大规模训练新架构。而在大型计算集群上训练 LLM 的主要挑战是最大限度提高训练作业的可靠性和正常运行时间。xAI 提出的自定义训练协调器可确保自动检测到有
2024-03-31 04:00:00
小米屈恒:人车家全生态的硬核创新进入到了井喷期
...米超级大压铸全栈自研,不仅自研了材料,还自研了设备集群系统,几乎完成了大压铸产业链里所有环节的自研。在设计方面,该项目首创一体化大压铸的正向闭环设计方法,发明了超长流程材料-
2024-01-06 11:50:00
...要利用采集的数据产生大量场景,在云端搭建数据与仿真集群,来复现或者修改corner case。据51Sim CEO鲍世强介绍,行业过往所用的仿真软件绝大部分都是国外产品,这些
2024-02-27 20:56:00
英伟达新版旗舰AI芯片售价炒到4万美金 “算力垄断”难被打破
...最新版旗舰AI芯片H100近日在网上的售价已经被炒到4万多美金,反映了科技行业对训练和部署人工智能软件的需求仍未被满足。受AI芯片需求的提振,英伟达今年以来股价累计涨幅超过8
2023-04-16 23:42:00
雷军:小米澎湃OS、大压铸团队共同获得小米百万美金技术大奖
...米超级大压铸全栈自研,不仅自研了材料,还自研了设备集群系统,几乎完成了大压铸产业链里所有环节的自研,让小米成为全球唯二、中国唯一同时掌握大压铸集群和大压铸合金自研能力的企业,
2024-01-04 16:15:00
大模型创业太累大牛逃回大厂:融资1亿美金捉襟见肘 还胖了30斤
...像买彩票。并非所有硬件都是一样的。不同算力提供商的集群质量差异非常大,以至于要想训练出好的模型需要付出多大的代价,这简直就是在抽签。简而言之,LLM 时代的硬件彩票。 这与在
2024-11-26 15:30:00
6925亿元!OpenAI将成硅谷史上融资最多公司
...Information报道,2022年OpenAI的亏损大约翻了一番,达到5.4亿美金,主要源于ChatGPT的巨额支出以及从谷歌挖了许多重要人才
2023-05-11 11:43:00
更多关于财经的资讯:
在青岛楼市,海景房才是真改善……
摘要:买到的不只是房子,是一片海,更是青岛的历史与未来!从崂山前海住区到市南滨海区,青岛的一线海景房已经越来越少……如今
2025-10-01 10:17:00
有色行业迎来政策利好
有色金属行业迎来指导高质量发展的重磅文件。9月28日,工业和信息化部等八部门印发《有色金属行业稳增长工作方案(2025-2026年)》
2025-10-01 10:58:00
招商银行科创贷,为科技企业腾飞插上金融羽翼
齐鲁晚报·齐鲁壹点记者 尚青龙招商银行面向科创企业客群焕新推出“科创贷”专属产品第三版,以金融产品创新助推科技企业健康发展
2025-10-01 11:57:00
农行平阴支行营业部:解“薪”忧于网点,暖民心于细微
近日,在农行平阴支行营业部的等候区里,刚坐下的两位老人神色匆匆。大爷攥着老伴的社保卡想取款,却因遗忘密码未能成功;等老伴赶来一同查询余额时
2025-10-01 14:11:00
农行平阴玫瑰支行:百元现金失而复得,真诚服务获客户赞誉
“真是太感谢你们了,农行的服务真是没得说!”近日,在农行济南平阴玫瑰支行营业大厅内,客户李先生紧紧握住大堂经理的手,连声道谢
2025-10-01 14:12:00
双节同庆 大爱共鸣!青岛市儿童福利院等单位联合举办主题文艺汇演
在双节来临之际,9月29日晚,由青岛市民政局局属社会福利院、福彩养老院、儿童福利院、救助服务中心联合举办的“月满中秋·爱暖国庆”文艺汇演在青岛福彩养老院举行
2025-10-01 14:43:00
全景体验 价值驱动 共赢未来 | 山东临工第三届全球合作伙伴大会盛大举行
一场盛会,一次跨越山海的奔赴,山东临工以一场高规格的全球合作伙伴大会,向世界展示了中国制造的韧性与活力。2025年9月28日
2025-10-01 15:53:00
农行烟台莱州莱柴路支行 暖心救助受伤老人 冰棍传递服务温度
近日,农行烟台莱州莱柴路支行发生温馨一幕:一位六旬大叔陪同母亲办理社保卡激活业务后,在自助取款机前不慎挤伤母亲手指。网点内勤行长发现后立即上前关心
2025-10-02 03:03:00
农行智慧金融 让生活更轻快
您是否还在为排队办理业务而烦恼?是否曾因奔波网点而耗时费力?中国农业银行全新升级智慧便携数字化服务,将全能银行装进您的口袋
2025-10-02 03:03:00
农业银行烟台龙口黄城集支行加强风险防范 暖心金融服务
随着老年群体成为电信网络诈骗的易受目标,近日农业银行烟台龙口黄城集支行针对性开展了“反诈宣传,暖心金融服务”主题活动,切实帮助老年人提高风险意识
2025-10-02 03:03:00
辨真伪 保权益 农行烟台龙口市支行开展2025年反假货币宣传月活动
为维护人民币信誉与公众权益,农行烟台龙口市支行于近期积极开展了2025年反假货币宣传月活动。本次活动灵活采用“线上+线下”立体化宣传模式
2025-10-02 03:03:00
情暖养老院!农行员工上门传递金融“安心礼”
“阿姨,陌生人要您银行卡密码可千万别给!”“爷爷,这是防诈骗手册,您平时收到陌生短信别点链接。”近日,农行烟台龙口明德支行走进辖区养老院
2025-10-02 03:03:00
中联重科新设子公司,含多项AI业务
近日,中联重科履带起重机(湖南)有限公司成立,注册资本6亿元,经营范围包含:人工智能基础软件开发;卫星遥感应用系统集成;人工智能硬件销售;人工智能基础资源与技术平台等。企查查股权
2025-09-30 16:00:00
广东省环湾农产品流通保供环网私募基金成立,出资额18亿
近日,广东省环湾农产品流通保供环网私募股权投资合伙企业(有限合伙)成立,出资额18亿元,经营范围包含:以私募基金从事股权投资
2025-09-30 16:00:00
四方精创等成立新公司,含多项AI业务
近日,深圳四方智数科技有限公司成立,注册资本1000万元,经营范围包含:人工智能基础软件开发;人工智能行业应用系统集成服务
2025-09-30 16:00:00