我们正处于一个信息大暴发的时代,每天都能产生数以百万计的新闻资讯!
虽然有大数据推荐,但面对海量数据,通过我们的调研发现,在一个小时的时间里,您通常无法真正有效地获取您感兴趣的资讯!
头条新闻资讯订阅,旨在帮助您收集感兴趣的资讯内容,并且在第一时间通知到您。可以有效节约您获取资讯的时间,避免错过一些关键信息。
12月4日消息,亚马逊AWS今日宣布,基于其内部团队所开发AI训练芯片Trainium2的Trn2实例广泛可用,并推出了Trn2UltraServer大型AI训练系统,同时还发布了下代更先进的3nm制程Trainium3芯片。
▲Trainium2芯片
单个Trn2实例包含16颗Trainium2芯片,各芯片间采用超高速高带宽低延迟NeuronLink互联,可提供20.8petaflops的峰值算力,适合数B参数大小模型的训练和部署。
亚马逊宣称Trn2实例与当前一代基于GPU的EC2P5e和P5en实例相比性价比提高了30-40%。
▲Trn2实例服务器机架
而更大规模的Trn2UltraServer则用NeuronLink聚合了4台Trn2服务器,总共包含64颗Trainium2芯片,算力峰值进一步线性扩展到83.2petaflops,能满足目前世界上最大规模模型的训练和部署需求。
▲Trn2UltraServer
亚马逊还正与其投资的AI模型企业Anthropic合作,共同构建一个名为ProjectRainier的EC2UltraCluster巨型计算集群,该集群包含大量Trn2UltraServer,总共拥有数十万颗Trainium2芯片。
IT之家获悉,该集群完成后有望成为迄今为止公开的最大AI计算集群,整体算力达Anthropic目前用于训练最先进Claude模型所需量的5倍以上。
亚马逊AWS还公布了下代Trainium3AI训练芯片,这也是AWS首款采用3nm制程的芯片产品。亚马逊表示基于Trainium3的UltraServer性能可达Trn2UltraServer的4倍,而首批基于Trainium3的实例预计将于2025年底推出。
以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。
快照生成时间:2024-12-04 21:45:02
本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。
信息原文地址: