• 我的订阅
  • 科技

下一个OpenAI+微软?Anthropic将使用数十万枚亚马逊自研芯片

类别:科技 发布时间:2024-12-04 09:49:00 来源:财经杂志

下一个OpenAI+微软?Anthropic将使用数十万枚亚马逊自研芯片

Anthropic发展迅速,需要算力;亚马逊重兵布局自研算力芯片,需要紧密绑定的使用者

美国西部时间12月2日晚,AI(人工智能)创业公司Anthropic的联合创始人兼首席计算官Tom Brown(汤姆·布朗)在亚马逊AWS的年度全球大会re:Invent上宣布了“雷尼尔计划”(Project Rainier)。

该计划的核心内容是,Anthropic未来将使用一个拥有数十万枚亚马逊自研芯片的算力集群。其芯片数量将是Anthropic现有算力集群的五倍以上。不过,汤姆·布朗并没有在大会上说明,该算力集群将在何时投入使用。汤姆·布朗也没有详细说明,该集群CPU芯片、高端的AI训练芯片、入门AI推理芯片的占比情况。

如果“雷尼尔计划”落地,这意味着Anthropic将用上全球规模最大的AI算力集群中的其中一个。

目前,包括微软、Meta等拥有自研大模型的科技公司,AI训练算力集群规模,普遍不超过10万枚训练芯片。特斯拉创始人马斯克成立人工智能初创公司xAI后,曾宣布要建设拥有10万枚英伟达AI训练芯片的算力集群。马斯克宣布该计划后,主流云计算厂商普遍开启了10万枚AI芯片的算力集群建设计划。

为何要用亚马逊的自研芯片?

Anthropic选用亚马逊自研芯片的一个重要原因是,亚马逊是它的最大投资者。这家公司与亚马逊AWS深度绑定。

11月22日,亚马逊曾宣布向Anthropic启动第三轮投资,投资额为40亿美元。这是亚马逊近30年最大的一笔对外投资。迄今为止,亚马逊总计已向Anthropic投资80亿美元,是Anthropic的最大投资者,持股比例为58.4%。

报道称, 亚马逊此轮投资Anthropic的一个重要条件是,Anthropic必须使用亚马逊AWS的云计算服务。亚马逊还希望Anthropic使用亚马逊自研的Trainium系列AI训练芯片、Inferentia系列AI推理芯片部署其大模型。

目前,Anthropic的Claude系列模型被集成在亚马逊AWS Bedrock模型平台上。Bedrock模型平台上还有其他公司的数十款三方模型,但Anthropic的Claude系列模型地位特殊。一位亚马逊云科技中国区人士向《财经》表示,Anthropic和亚马逊云科技深度合作,大部分亚马逊云科技的客户,都会默认首选Claude系列模型。

在这种合作关系下,Anthropic会带来大量训练、推理算力消耗,直接带动亚马逊AWS的收入增长,甚至还会吸引一批对生成式AI感兴趣的企业客户,进而间接带动其他基础云产品的交叉销售。这场合作的最终最大受益者仍然是亚马逊AWS。

云厂商自研芯片,能和英伟达竞争么?

目前,包括亚马逊、微软、谷歌、阿里云等知名云计算公司均在自研芯片。

一个常见疑问是,目前英伟达、英特尔是全球最主流的芯片厂商。云厂商的自研芯片面对英伟达、英特尔是否拥有竞争力?

亚马逊目前拥有三款自研芯片,分别是——CPU芯片Graviton 4,它主要对标英特尔旗下芯片产品;AI训练芯片Trainium 2,它主要对标英伟达旗下A100/H100等旗舰级别的AI训练芯片;AI推理芯片Inferentia 2,它主要对标英伟达旗下A10等入门级别的AI推理芯片。

亚马逊AWS等云计算公司自研芯片一般有两条逻辑:其一,减少对英特尔、英伟达等芯片供应商的依赖;其二,降低自己的算力成本。

一位中国云厂商芯片负责人曾对《财经》表示,云计算需要降低计算成本。理论上说,在实现量产的前提下,自研芯片通常比英特尔、英伟达的芯片采购成本、运营成本更低。节省下来的成本可以让利给客户,用于降低算力价格,最终实现云计算的规模优势。

云计算公司的自研芯片一般不会直接对外销售,而是用在自己的数据中心之中,由客户选择云化的算力。即便如此,这对芯片供应商仍然有巨大影响。云计算公司目前是英特尔、英伟达服务器芯片的最大采购者。因此,云计算公司自研芯片后,会减少英特尔、英伟达等芯片供应商的芯片采购数量。

亚马逊管理层在2024年三季度财报后的投资者电话会议中曾表示,亚马逊的自研芯片相比英伟达同规格产品拥有更高的性价比。

《财经》从亚马逊云科技相关人士处了解到,在实际使用环境中,Trainium 2与英伟达A100芯片对比,可以至少节省10%以上的成本。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-12-04 12:45:02

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

NVIDIA将与微软、Meta、亚马逊讨论定制AI芯片
...动因。据了解会面情况的消息人士透露,NVIDIA高管会见了亚马逊、Meta、微软、谷歌和OpenAI的代表,讨论为他们打造定制芯片的支架
2024-02-18 11:53:00
微软、谷歌、亚马逊 正在打响大模型时代的云战争
...述道。在这样的前景下,海外几大云服务巨头——微软、亚马逊、谷歌、甲骨文迅速做出了改变。过去数月,云巨头们砸下真金白银,研发大模型、战略投资、自研 AI 芯片……大模型的时代方
2023-07-03 14:00:00
亚马逊云科技,如何用AI再赢一次
亚马逊云科技CEO马特·加曼在re:Invent 2024演讲不是大张旗鼓解决宏大的时代命题,而是一步步填补琐碎细小的技术和应用沟壑文 | 吴俊宇编辑 | 谢丽容IT产业每隔十年技术浪潮就会剧变
2024-12-07 09:54:00
全球科技早报|微软推出两款高端定制芯片;SpaceX星舰将于11月17日再度试飞;需求火爆,德国考虑实施“减肥神药”Ozempic出口禁令;亚马逊推出打击盗窃机器人
...心,这可能会影响诺和诺德的全球供应链和市场策略。5.亚马逊推出打击盗窃机器人亚马逊推出了一款智能机器人Astro for Business
2023-11-16 18:19:00
全球科技早报|英伟达盘中暴跌近8%;高通联合谷歌开发芯片;苹果发布新款ApplePencil和第十代iPad蜂窝版;亚马逊将使用微软Microsoft 365云服务;詹姆斯·韦伯望远镜首次在系外行星大气中发现二氧化硅颗粒
...创意,同时也与苹果其他产品形成了更好的互联性。5、亚马逊将使用微软Microsoft 365云服务,交易金额超10亿美元据外媒
2023-10-18 18:00:00
...,2024年微软向英伟达购买AI芯片的数量,远超包括Meta、亚马逊、谷歌等其它厂商。它在2024年购买了超50万份H系列显卡
2025-01-04 13:37:00
全球五大巨头GPU总量曝光!2025年等效H100或超1240万块
...-420万 Meta有55万-65万块等效H100,明年预计达到190万-250万 亚马逊有25万-40万块等效H100
2024-12-03 13:34:00
科技巨头的AI野心:从云、芯片到应用,控制价值链所有环节
...的所有环节。一直以来,与微软和谷歌等竞争对手不同,亚马逊并未将其业务“触角”过多地伸向通用人工智能(AGI)的开发。但亚马逊已决心改变这块“短板”。当地时间6月29日流出的一
2024-07-01 09:17:00
全球万亿AI军备竞赛开启:BAT投入加起来不敌半个谷歌
...空头指出,英伟达的现金流等于Alphabet(谷歌母公司)、亚马逊、Meta和微软四大科技公司的资本支出。这是一个很有意思的隐喻,事实上美国科技巨头不约而同地正用重金砸向AI
2024-05-29 11:16:00
更多关于科技的资讯: