• 我的订阅
  • 科技

亚马逊aws推出trn2大型ai训练芯片

类别:科技 发布时间:2024-12-04 16:49:00 来源:浅语科技

12月4日消息,亚马逊AWS今日宣布,基于其内部团队所开发AI训练芯片Trainium2的Trn2实例广泛可用,并推出了Trn2UltraServer大型AI训练系统,同时还发布了下代更先进的3nm制程Trainium3芯片。

亚马逊aws推出trn2大型ai训练芯片

▲Trainium2芯片

单个Trn2实例包含16颗Trainium2芯片,各芯片间采用超高速高带宽低延迟NeuronLink互联,可提供20.8petaflops的峰值算力,适合数B参数大小模型的训练和部署。

亚马逊宣称Trn2实例与当前一代基于GPU的EC2P5e和P5en实例相比性价比提高了30-40%。

亚马逊aws推出trn2大型ai训练芯片

▲Trn2实例服务器机架

而更大规模的Trn2UltraServer则用NeuronLink聚合了4台Trn2服务器,总共包含64颗Trainium2芯片,算力峰值进一步线性扩展到83.2petaflops,能满足目前世界上最大规模模型的训练和部署需求。

亚马逊aws推出trn2大型ai训练芯片

▲Trn2UltraServer

亚马逊还正与其投资的AI模型企业Anthropic合作,共同构建一个名为ProjectRainier的EC2UltraCluster巨型计算集群,该集群包含大量Trn2UltraServer,总共拥有数十万颗Trainium2芯片。

IT之家获悉,该集群完成后有望成为迄今为止公开的最大AI计算集群,整体算力达Anthropic目前用于训练最先进Claude模型所需量的5倍以上。

亚马逊AWS还公布了下代Trainium3AI训练芯片,这也是AWS首款采用3nm制程的芯片产品。亚马逊表示基于Trainium3的UltraServer性能可达Trn2UltraServer的4倍,而首批基于Trainium3的实例预计将于2025年底推出。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-12-04 21:45:02

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

下一个OpenAI+微软?Anthropic将使用数十万枚亚马逊自研芯片
Anthropic发展迅速,需要算力;亚马逊重兵布局自研算力芯片,需要紧密绑定的使用者美国西部时间12月2日晚,AI(人工智能)创业公司Anthropic的联合创始人兼首席计算官
2024-12-04 09:49:00
2023 re:Invent——从云计算到AI未来的一场全面重塑之旅
“重塑”一直是亚马逊云科技谈及的高频词汇,作为云计算的开拓者和引领者,十七年来,亚马逊云科技不仅一直通过最安全、最可靠的企业级的能力来赋能客户的应用,直到今天,其仍然拥有业界最广
2024-01-03 15:17:00
苹果现身AWS大会,考虑引入亚马逊AI芯片加速模型预训练
Dupin在会上公开表示,苹果在其广泛的云服务中,已采纳了AWS提供的定制版人工智能芯片。更令人瞩目的是,苹果正积极考虑采用AWS最新的AI芯片——Trainium2
2024-12-04 09:53:00
云巨头大暴走,自研CPU落地200万张!新一轮芯片洗牌开始了
上周,全球最大云计算巨头亚马逊云科技自主研发的Graviton4处理器全面上市,最初为全新实例Amazon EC2 R8g提供支持
2024-07-25 09:27:00
亚马逊被曝启动“登月”计划:部署 10 万颗二代自研芯片
... 26 日消息,彭博社昨日(11 月 25 日)发布博文,报道称亚马逊为减少对英伟达的依赖,已启动“登月”(moonshot)的计划
2024-11-26 09:52:00
16家头部大模型公司上海神秘碰头,现场人挤人人人
...们纷纷聚集到了一起?不卖关子,这正是“云计算一哥”亚马逊云科技所举办的中国峰会,整场活动的关键词就是大热的生成式AI。不过有一说一,自打AIGC大战开局以来,全球科技巨头如谷
2024-05-30 17:18:00
如果MaaS是个伪命题 大模型时代的“云”应该怎么建?
...回答的关键问题。一定程度上,今天凌晨举办的 2024 年 亚马逊云科技 纽约峰会,可以作为观察这个时代之问的最佳切口。 没有一个模型可以一统天下,MaaS 或许是个伪命题一
2024-07-13 09:54:00
NVIDIA将与微软、Meta、亚马逊讨论定制AI芯片
...动因。据了解会面情况的消息人士透露,NVIDIA高管会见了亚马逊、Meta、微软、谷歌和OpenAI的代表,讨论为他们打造定制芯片的支架
2024-02-18 11:53:00
全球五大巨头GPU总量曝光!2025年等效H100或超1240万块
...-420万 Meta有55万-65万块等效H100,明年预计达到190万-250万 亚马逊有25万-40万块等效H100
2024-12-03 13:34:00
为千行百业“附魔”,亚马逊云科技如何修炼生成式AI魔法?
...说:“任何非常先进的技术,初看时都似与魔法无异。”亚马逊云科技,也引用这句话来描述生成式AI的伟力。亚马逊云科技方面也不止一次提到,要把生成式AI的能力“放到每一个构建者和每
2024-06-24 09:41:00
更多关于科技的资讯: