• 我的订阅
  • 科技

挑战英伟达!AMD推出能运行更大模型的AI芯片 也能写诗

类别:科技 发布时间:2023-06-14 11:18:00 来源:澎湃新闻

挑战英伟达!AMD推出能运行更大模型的AI芯片 也能写诗

AI算力市场的二号玩家、芯片厂商AMD推出全新人工智能GPU MI300系列芯片,与英伟达在人工智能算力市场展开竞争。

北京时间6月14日凌晨,AMD如期举办了“AMD数据中心与人工智能技术首映会”,并在会上推出的AI处理器MI300系列。其中,特别为大语言模型优化的MI300X将于今年晚些时候开始向部分客户发货。

AMD CEO苏姿丰先介绍MI300A,这是全球首款针对AI和高性能计算(HPC)的加速处理器(APU)加速器。在13个小芯片中遍布1460亿个晶体管。相比前代MI250,MI300的性能提高八倍,效率提高五倍。

随后,苏姿丰公布了本场发布会最受关注的产品——MI300X,这是一款为大语言模型进行了优化的版本。

“我喜欢这个芯片,”苏姿丰说,MI300X芯片及其CDNA架构是为大型语言模型和其他尖端人工智能模型设计的。

生成式人工智能应用程序的大型语言模型使用大量内存,因为它们运行越来越多的计算。AMD演示了MI300X运行400亿参数的Falcon模型。OpenAI的GPT-3模型有1750亿个参数。

她还用Hugging Face基于MI300X的大模型写了一首关于活动举办地旧金山的一首诗。

苏姿丰表示,MI300X提供的HBM(高带宽内存)密度是英伟达H100的2.4倍,HBM带宽是竞品的1.6倍。这意味着AMD可以运行比英伟达H100更大的模型。

“模型尺寸越来越大,你实际上需要多个GPU来运行最新的大型语言模型,”苏姿丰指出,随着AMD芯片上内存的增加,开发人员将不需要那么多GPU,可为用户节省成本。

AMD还表示,将推出一款Infinity Architecture,在一个系统中集成8个M1300X加速器。英伟达和谷歌也开发了类似的系统,将8个或更多GPU集成在一个盒子里,用于人工智能应用。

好的芯片不仅是产品本身,还需要有一个好的生态。人工智能开发人员历来偏爱英伟达芯片的一个原因是,它有一个开发完善的软件包,称为CUDA,使他们能够访问芯片的核心硬件功能。

为了对标英伟达的CUDA,AMD推出了自己的芯片软件“ROCm”,打造自己的软件生态。

苏姿丰也对投资者和分析师表示,人工智能是该公司“最大、最具战略意义的长期增长机会”,“我们认为,数据中心人工智能加速器(市场)将以超过50%的复合年增长率,从今年的300亿美元左右增长到2027年的1500亿美元以上。”

以ChatGPT等为首的大语言模型需要最顶尖性能的GPU来进行运算,如今这一市场英伟达处于绝对优势,拥有80%的市场,而AMD则被视为一个有力的挑战者。

虽然AMD未披露价格,但此举可能会给英伟达GPU带来价格压力,如后者的H100,其价格能够达到3万美元以上。较低的GPU价格可能有助于降低服务生成人工智能应用程序的高成本。

不过,AMD这场发布会众多产品从性能上都处于“领导”地位,但资本市场并未拉抬AMD的股价,反而收跌3.61%,而同行英伟达则收涨3.90%,市值首次收于1万亿美元关口上方。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-06-14 13:45:26

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

英伟达推出新一代ai芯片,预计今年晚些时候发货
...日周一,英伟达举办了2024GTCAI大会,被称为今年全球头号人工智能领域开发者大会。这也是英伟达时隔五年首次让年度GTC会议重回线下,被认为是一次重要的AI盛会。在开发者大
2024-03-20 01:28:00
微软难以摆脱英伟达 |焦点分析
作者|杨逍编辑|苏建勋微软推出自研芯片,人工智能市场拉开新序幕。11月16日,微软在其科技大会上发布了两款自研芯片——用于云端训练和推理的AI芯片Azure Maia 100
2023-11-20 13:32:00
AI芯片下半场:英伟达不再一家独大
...的Cobalt芯片。Maia芯片旨在运行大型语言模型。微软云和人工智能部门执行副总裁Scott Guthrie表示
2023-11-16 23:46:00
老黄祭出史上最强 AI 芯片B200!30倍性能提升,AI 迎来新摩尔定律时代|钛媒体AGI
黄仁勋终于揭开了全球最强人工智能(AI)芯片的神秘面纱。北京时间3月19日(星期二)凌晨,在年度GTC大会上,英伟达(Nvidia)首席执行官黄仁勋宣布推出AI超级芯片——Blackwell GB200
2024-03-19 13:00:00
AI竞赛推动英伟达股价暴涨超90% 科技巨头承诺将继续“买买买”
科技公司对于人工智能的强劲需求正在推动芯片巨头英伟达的股价暴涨。今年以来,英伟达股价累计涨幅超过了90%,成为美国科技巨头企业中涨幅最大的公司,英伟达市值目前已经超过6800亿美
2023-05-05 11:20:00
英伟达地表最强,黄教主被称作AI界“霉霉”
...高高挂起,并在下方悬挂着一行醒目的大字:“一场属于人工智能时代的盛会(The Conference for the era of AI)”
2024-03-19 11:56:00
沙特和阿联酋推进AI战略:抢购英伟达芯片,吸收中国人才
...大语言模型相关的应用和云服务做准备。2022年9月,全球人工智能峰会在沙特阿拉伯的利雅得举行。富裕的海湾国家正在加入全球人工智能军备竞赛。据英国《金融时报》8月15日报道,沙
2023-08-16 17:35:00
OpenAI计划研发自己的AI芯片,已有收购目标
...器之心报道编辑:小舟微软和 OpenAI 这对合作伙伴,将在人工智能芯片赛道上成为竞争对手。据路透社报道,OpenAI 正在考虑构建自己的人工智能芯片来为 ChatGPT 提供支持
2023-10-07 16:40:00
...竞相争夺英伟达有限的GPU供应,这些GPU被用于训练和构建人工智能产品,而人工智能行业正蓬勃发展。如今,这家芯片巨头正在利用自家的人工智能系统来加速芯片生产,显然是为了跟上市
2024-02-20 22:21:00
更多关于科技的资讯: