• 我的订阅
  • 科技

amd助力构建全球最大单体人工智能训练集群

类别:科技 发布时间:2024-06-28 02:31:00 来源:浅语科技

amd助力构建全球最大单体人工智能训练集群

6月26日消息,据TheNextPlatform报道,近日AMD执行副总裁兼数据中心解决方案集团总经理ForrestNorrod在接受采访时表示,AMD将助力构建全球最大的单体人工智能(AI)训练集群,将集成高达120万片的GPU。

120万片GPU是一个非常惊人的数字,要知道目前全球最强的超级计算机Frontier所配备的GPU数量才只有37888片,这也意味着AMD所支持的AI训练集群的GPU规模将达到Frontier的30多倍。不过,ForrestNorrod没有透露哪个组织正在考虑构建这种规模的AI系统,但确实提到“非常清醒的人”正在考虑在AI训练集群上花费数百亿到数千亿美元。

目前的AI训练集群通常由几千个GPU构建而成,这些GPU通过跨多个服务器机架或更少的高速互连连接。如果要创建一个拥有高达120万个GPU的单体AI集群,意味着将会面临极为复杂的高速互连网络,并且还会有延迟、功耗、硬件故障等诸多的问题,这似乎是难以实现的。

比如,AI工作负载对延迟非常敏感,尤其是尾部延迟和异常值,其中某些数据传输比其他数据传输花费的时间要长得多,并且会中断工作负载。此外,当今的超级计算机也会面临每隔几个小时就会发生的GPU或其他硬件故障。当扩展到当今最大的超级计算机集群的30倍时。更为关键的是,如此庞大的AI训练集群,将会产生极为庞大的能耗,不仅稳定的供电将会是一个大难题,而且配套的散热解决方案也面临巨大挑战。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-06-28 08:45:06

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

AMD将构建全球最大AI训练集群,集成120万片GPU
...st Norrod在接受采访时表示,AMD将助力构建全球最大的单体人工智能(AI)训练集群,将集成高达120万片的GPU
2024-06-27 14:09:00
AI潮起 共筑数智之基
...自:福建日报AI潮起 共筑数智之基中国移动发布“九天”人工智能基座 开放三大人工智能基地中国移动在峰会现场展示了众多AI机器人应用。AI应用吸引了峰会不少宾客驻足。 中国移
2024-05-25 07:21:00
中国移动董事长:打造一批万卡级智算集群,加快超算等多种类型社会算力并网
“随着新一轮科技革命和产业变革深入发展,人工智能成为新生产工具、数据成为新生产要素。特别是近期,通用人工智能取得突破式进展,引发算力需求爆发式增长。加快构建高科技、高效能、高质量
2024-04-28 13:53:00
机器人大会引领产业动向,卓翼飞思绘制无人系统教科研新蓝图
...深入研究相关政策,围绕“一体两翼”战略方向,聚焦“人工智能+无人机”产品研发和应用,延续军用技术,赋能民用产品,满足低空领域更多场景化需求。通过其数字化科研平台—飞思实验室布
2024-08-30 12:45:00
...,中国移动将基于智算中心(呼和浩特)节点,加快构建人工智能大平台,提供IaaS、PaaS、TaaS和MaaS等多层次智算服务能力,与行业龙头共建共创九天·众擎基座大模型,汇聚
2024-01-05 06:44:00
马斯克宣布训练“世界上最强大的人工智能” !万卡集群背后的算力竞赛迅猛升级
...论区透露,其目标是“今年12月前训练出世界上最强大的人工智能”。制图:卿子秀1马斯克的目标具有挑战性据马斯克介绍,这个集群由10万张液冷H100 GPU组成,而这些芯片是英伟
2024-07-24 14:02:00
算力市场格局生变,谁能“拔得头筹”?
...力应用落地取得积极成效。6月19日消息,近日,中国电信人工智能研究院(TeleAI)联合北京智源人工智能研究院发布了全球首个单体稠密万亿参数语义模型Tele-FLM-1T
2024-06-19 17:06:00
三亚崖州湾科技城海南人工智能计算中心项目主体结构全面封顶
...建八局华南公司海南分公司承建的三亚崖州湾科技城海南人工智能计算中心项目迎来主体结构全面封顶,标志着项目建设取得重要阶段性成果。该项目以打造全省核心算力节点为目标,将通过推动行
2023-08-30 22:39:00
天垓100率先完成百亿级参数大模型训练,天数智芯迎来新的里程碑
...)对外宣布,在天垓100加速卡的算力集群,基于北京智源人工智能研究院(以下简称“智源研究院”)70亿参数的Aquila语言基础模型,使用代码数据进行继续训练,稳定运行19天,
2023-06-13 12:00:00
更多关于科技的资讯: