• 我的订阅
  • 科技

挑战英伟达!AMD推出能运行更大模型的AI芯片 也能写诗

类别:科技 发布时间:2023-06-14 11:18:00 来源:澎湃新闻

挑战英伟达!AMD推出能运行更大模型的AI芯片 也能写诗

AI算力市场的二号玩家、芯片厂商AMD推出全新人工智能GPU MI300系列芯片,与英伟达在人工智能算力市场展开竞争。

北京时间6月14日凌晨,AMD如期举办了“AMD数据中心与人工智能技术首映会”,并在会上推出的AI处理器MI300系列。其中,特别为大语言模型优化的MI300X将于今年晚些时候开始向部分客户发货。

AMD CEO苏姿丰先介绍MI300A,这是全球首款针对AI和高性能计算(HPC)的加速处理器(APU)加速器。在13个小芯片中遍布1460亿个晶体管。相比前代MI250,MI300的性能提高八倍,效率提高五倍。

随后,苏姿丰公布了本场发布会最受关注的产品——MI300X,这是一款为大语言模型进行了优化的版本。

“我喜欢这个芯片,”苏姿丰说,MI300X芯片及其CDNA架构是为大型语言模型和其他尖端人工智能模型设计的。

生成式人工智能应用程序的大型语言模型使用大量内存,因为它们运行越来越多的计算。AMD演示了MI300X运行400亿参数的Falcon模型。OpenAI的GPT-3模型有1750亿个参数。

她还用Hugging Face基于MI300X的大模型写了一首关于活动举办地旧金山的一首诗。

苏姿丰表示,MI300X提供的HBM(高带宽内存)密度是英伟达H100的2.4倍,HBM带宽是竞品的1.6倍。这意味着AMD可以运行比英伟达H100更大的模型。

“模型尺寸越来越大,你实际上需要多个GPU来运行最新的大型语言模型,”苏姿丰指出,随着AMD芯片上内存的增加,开发人员将不需要那么多GPU,可为用户节省成本。

AMD还表示,将推出一款Infinity Architecture,在一个系统中集成8个M1300X加速器。英伟达和谷歌也开发了类似的系统,将8个或更多GPU集成在一个盒子里,用于人工智能应用。

好的芯片不仅是产品本身,还需要有一个好的生态。人工智能开发人员历来偏爱英伟达芯片的一个原因是,它有一个开发完善的软件包,称为CUDA,使他们能够访问芯片的核心硬件功能。

为了对标英伟达的CUDA,AMD推出了自己的芯片软件“ROCm”,打造自己的软件生态。

苏姿丰也对投资者和分析师表示,人工智能是该公司“最大、最具战略意义的长期增长机会”,“我们认为,数据中心人工智能加速器(市场)将以超过50%的复合年增长率,从今年的300亿美元左右增长到2027年的1500亿美元以上。”

以ChatGPT等为首的大语言模型需要最顶尖性能的GPU来进行运算,如今这一市场英伟达处于绝对优势,拥有80%的市场,而AMD则被视为一个有力的挑战者。

虽然AMD未披露价格,但此举可能会给英伟达GPU带来价格压力,如后者的H100,其价格能够达到3万美元以上。较低的GPU价格可能有助于降低服务生成人工智能应用程序的高成本。

不过,AMD这场发布会众多产品从性能上都处于“领导”地位,但资本市场并未拉抬AMD的股价,反而收跌3.61%,而同行英伟达则收涨3.90%,市值首次收于1万亿美元关口上方。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-06-14 13:45:26

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

英伟达推出新一代ai芯片,预计今年晚些时候发货
...日周一,英伟达举办了2024GTCAI大会,被称为今年全球头号人工智能领域开发者大会。这也是英伟达时隔五年首次让年度GTC会议重回线下,被认为是一次重要的AI盛会。在开发者大
2024-03-20 01:28:00
微软难以摆脱英伟达 |焦点分析
作者|杨逍编辑|苏建勋微软推出自研芯片,人工智能市场拉开新序幕。11月16日,微软在其科技大会上发布了两款自研芯片——用于云端训练和推理的AI芯片Azure Maia 100
2023-11-20 13:32:00
AI芯片下半场:英伟达不再一家独大
...的Cobalt芯片。Maia芯片旨在运行大型语言模型。微软云和人工智能部门执行副总裁Scott Guthrie表示
2023-11-16 23:46:00
老黄祭出史上最强 AI 芯片B200!30倍性能提升,AI 迎来新摩尔定律时代|钛媒体AGI
黄仁勋终于揭开了全球最强人工智能(AI)芯片的神秘面纱。北京时间3月19日(星期二)凌晨,在年度GTC大会上,英伟达(Nvidia)首席执行官黄仁勋宣布推出AI超级芯片——Blackwell GB200
2024-03-19 13:00:00
AI竞赛推动英伟达股价暴涨超90% 科技巨头承诺将继续“买买买”
科技公司对于人工智能的强劲需求正在推动芯片巨头英伟达的股价暴涨。今年以来,英伟达股价累计涨幅超过了90%,成为美国科技巨头企业中涨幅最大的公司,英伟达市值目前已经超过6800亿美
2023-05-05 11:20:00
英伟达地表最强,黄教主被称作AI界“霉霉”
...高高挂起,并在下方悬挂着一行醒目的大字:“一场属于人工智能时代的盛会(The Conference for the era of AI)”
2024-03-19 11:56:00
沙特和阿联酋推进AI战略:抢购英伟达芯片,吸收中国人才
...大语言模型相关的应用和云服务做准备。2022年9月,全球人工智能峰会在沙特阿拉伯的利雅得举行。富裕的海湾国家正在加入全球人工智能军备竞赛。据英国《金融时报》8月15日报道,沙
2023-08-16 17:35:00
OpenAI计划研发自己的AI芯片,已有收购目标
...器之心报道编辑:小舟微软和 OpenAI 这对合作伙伴,将在人工智能芯片赛道上成为竞争对手。据路透社报道,OpenAI 正在考虑构建自己的人工智能芯片来为 ChatGPT 提供支持
2023-10-07 16:40:00
微软推出自研AI芯片:台积电5nm工艺、Open AI开启试用,想摆脱对英伟达依赖?
...进行改进和测试。“OpenAI首席执行官Sam Altman表示,Azure的人工智能架构与Maia芯片的优化,为训练更有能力的模型铺平了道路
2023-11-16 16:47:00
更多关于科技的资讯:
省数据和政务服务局发布公告公开征集一批河北省高质量数据集河北日报讯(记者解楚楚)9月26日,河北省数据和政务服务局发布公告
2025-10-04 08:03:00
央媒看太原9月30日,央视财经频道《经济信息联播》栏目以《双节市场备货足美食特产受青睐》为题,报道了假期到来,太原市各大综合市场提前备货
2025-10-04 07:17:00
厦门网讯(厦门日报记者 朱道衡)近日,2025鼓浪屿世遗文创作品征集活动启动。此次活动面向全国(含港澳台地区)高校、企业
2025-10-03 08:37:00
厦门网讯(厦门日报记者 楚燕 通讯员 石青青)长假期间,许多人从忙碌的工作中解脱出来,趁机好好休息。可是,如果休息方式不得当
2025-10-03 08:37:00
渤海之潮涌动着澎湃的脉搏,海河之畔镌刻着科技的印记。10年前,一颗带有“清华”基因的种子在天津这片沃土扎根;10年后,它长成一棵枝繁叶茂的参天大树
2025-10-03 09:25:00
太燃了!无人机空中展旗!高新区国庆“氛围组”已上线!
2025-10-03 23:48:00
抖音生活服务联合北京卫视发起“老板驾到”直播活动,吸引用户下单超100万元团购券
9月29日,抖音生活服务联合北京卫视发起“老板驾到”直播活动,助力北京国庆中秋消费。抖音用户在@北京卫视 直播间下单超1万次
2025-10-03 18:36:00
“FutureBOT未来引力”2025北京机器人文化节首日盛况 打造国庆科技打卡新地标
国庆首日,“FutureBOT未来引力”2025北京机器人文化节在北京昌平超极合生汇正式拉开帷幕,成为国庆假期极具科技温度的打卡地
2025-10-03 19:06:00
走到白石山巅的尽头,这家建在悬崖边的“云端咖啡厅”绝对让你惊呼。
2025-10-03 11:37:00
泰康人寿发布新品“泰康百万药无忧(庆典版)医疗保险”(以下‬简称“百万药无忧”),以广覆盖、易投保、强保障、低费率为优势
2025-10-03 09:17:00
厦门网讯(厦门日报记者 翁华鸿 通讯员 林雨新)在近日举行的2025全球数据管理峰会“数据要素分论坛暨大数据统计与人工智能技术创新管理研讨会”上
2025-10-03 08:38:00
兴趣-实践-视野:达芬奇金奖少年带来的教育启示录
摘要:2025“你是达芬奇”全球青少年科学与艺术创新赛圆满落幕,其中金奖获奖少年的亲身实践告诉我们,在AI赋能的新时代
2025-10-02 16:22:00
单日调用近1万亿次,高德助力北斗规模化民用跨入新量级
2025年10月1日,随着国庆长假首日出行高峰的到来,高德基于北斗卫星导航系统的定位数量接近1万亿次,支撑导航总里程数超90亿公里
2025-10-02 22:31:00
10月1日,从太钢获悉,今年以来,太钢不锈进料加工团队以“精准备案、高效协同”为核心,在进料铬铁镍铁资源利用方面取得突破性进展
2025-10-02 17:39:00
厦门网讯(厦门日报记者 林露虹)记者昨日从中国移动咪咕公司获悉,该公司打造的“鼓浪屿AI伴游”服务已正式上线。市民和游客只需打开“鼓浪屿元宇宙”微信小程序
2025-10-02 08:57:00