• 我的订阅
  • 科技

挑战英伟达!AMD推出能运行更大模型的AI芯片 也能写诗

类别:科技 发布时间:2023-06-14 11:18:00 来源:澎湃新闻

挑战英伟达!AMD推出能运行更大模型的AI芯片 也能写诗

AI算力市场的二号玩家、芯片厂商AMD推出全新人工智能GPU MI300系列芯片,与英伟达在人工智能算力市场展开竞争。

北京时间6月14日凌晨,AMD如期举办了“AMD数据中心与人工智能技术首映会”,并在会上推出的AI处理器MI300系列。其中,特别为大语言模型优化的MI300X将于今年晚些时候开始向部分客户发货。

AMD CEO苏姿丰先介绍MI300A,这是全球首款针对AI和高性能计算(HPC)的加速处理器(APU)加速器。在13个小芯片中遍布1460亿个晶体管。相比前代MI250,MI300的性能提高八倍,效率提高五倍。

随后,苏姿丰公布了本场发布会最受关注的产品——MI300X,这是一款为大语言模型进行了优化的版本。

“我喜欢这个芯片,”苏姿丰说,MI300X芯片及其CDNA架构是为大型语言模型和其他尖端人工智能模型设计的。

生成式人工智能应用程序的大型语言模型使用大量内存,因为它们运行越来越多的计算。AMD演示了MI300X运行400亿参数的Falcon模型。OpenAI的GPT-3模型有1750亿个参数。

她还用Hugging Face基于MI300X的大模型写了一首关于活动举办地旧金山的一首诗。

苏姿丰表示,MI300X提供的HBM(高带宽内存)密度是英伟达H100的2.4倍,HBM带宽是竞品的1.6倍。这意味着AMD可以运行比英伟达H100更大的模型。

“模型尺寸越来越大,你实际上需要多个GPU来运行最新的大型语言模型,”苏姿丰指出,随着AMD芯片上内存的增加,开发人员将不需要那么多GPU,可为用户节省成本。

AMD还表示,将推出一款Infinity Architecture,在一个系统中集成8个M1300X加速器。英伟达和谷歌也开发了类似的系统,将8个或更多GPU集成在一个盒子里,用于人工智能应用。

好的芯片不仅是产品本身,还需要有一个好的生态。人工智能开发人员历来偏爱英伟达芯片的一个原因是,它有一个开发完善的软件包,称为CUDA,使他们能够访问芯片的核心硬件功能。

为了对标英伟达的CUDA,AMD推出了自己的芯片软件“ROCm”,打造自己的软件生态。

苏姿丰也对投资者和分析师表示,人工智能是该公司“最大、最具战略意义的长期增长机会”,“我们认为,数据中心人工智能加速器(市场)将以超过50%的复合年增长率,从今年的300亿美元左右增长到2027年的1500亿美元以上。”

以ChatGPT等为首的大语言模型需要最顶尖性能的GPU来进行运算,如今这一市场英伟达处于绝对优势,拥有80%的市场,而AMD则被视为一个有力的挑战者。

虽然AMD未披露价格,但此举可能会给英伟达GPU带来价格压力,如后者的H100,其价格能够达到3万美元以上。较低的GPU价格可能有助于降低服务生成人工智能应用程序的高成本。

不过,AMD这场发布会众多产品从性能上都处于“领导”地位,但资本市场并未拉抬AMD的股价,反而收跌3.61%,而同行英伟达则收涨3.90%,市值首次收于1万亿美元关口上方。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-06-14 13:45:26

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

英伟达推出新一代ai芯片,预计今年晚些时候发货
...日周一,英伟达举办了2024GTCAI大会,被称为今年全球头号人工智能领域开发者大会。这也是英伟达时隔五年首次让年度GTC会议重回线下,被认为是一次重要的AI盛会。在开发者大
2024-03-20 01:28:00
微软难以摆脱英伟达 |焦点分析
作者|杨逍编辑|苏建勋微软推出自研芯片,人工智能市场拉开新序幕。11月16日,微软在其科技大会上发布了两款自研芯片——用于云端训练和推理的AI芯片Azure Maia 100
2023-11-20 13:32:00
AI芯片下半场:英伟达不再一家独大
...的Cobalt芯片。Maia芯片旨在运行大型语言模型。微软云和人工智能部门执行副总裁Scott Guthrie表示
2023-11-16 23:46:00
老黄祭出史上最强 AI 芯片B200!30倍性能提升,AI 迎来新摩尔定律时代|钛媒体AGI
黄仁勋终于揭开了全球最强人工智能(AI)芯片的神秘面纱。北京时间3月19日(星期二)凌晨,在年度GTC大会上,英伟达(Nvidia)首席执行官黄仁勋宣布推出AI超级芯片——Blackwell GB200
2024-03-19 13:00:00
AI竞赛推动英伟达股价暴涨超90% 科技巨头承诺将继续“买买买”
科技公司对于人工智能的强劲需求正在推动芯片巨头英伟达的股价暴涨。今年以来,英伟达股价累计涨幅超过了90%,成为美国科技巨头企业中涨幅最大的公司,英伟达市值目前已经超过6800亿美
2023-05-05 11:20:00
英伟达地表最强,黄教主被称作AI界“霉霉”
...高高挂起,并在下方悬挂着一行醒目的大字:“一场属于人工智能时代的盛会(The Conference for the era of AI)”
2024-03-19 11:56:00
沙特和阿联酋推进AI战略:抢购英伟达芯片,吸收中国人才
...大语言模型相关的应用和云服务做准备。2022年9月,全球人工智能峰会在沙特阿拉伯的利雅得举行。富裕的海湾国家正在加入全球人工智能军备竞赛。据英国《金融时报》8月15日报道,沙
2023-08-16 17:35:00
OpenAI计划研发自己的AI芯片,已有收购目标
...器之心报道编辑:小舟微软和 OpenAI 这对合作伙伴,将在人工智能芯片赛道上成为竞争对手。据路透社报道,OpenAI 正在考虑构建自己的人工智能芯片来为 ChatGPT 提供支持
2023-10-07 16:40:00
微软推出自研AI芯片:台积电5nm工艺、Open AI开启试用,想摆脱对英伟达依赖?
...进行改进和测试。“OpenAI首席执行官Sam Altman表示,Azure的人工智能架构与Maia芯片的优化,为训练更有能力的模型铺平了道路
2023-11-16 16:47:00
更多关于科技的资讯:
“这里的创新土壤,让我们有不怕跌倒的底气”近日,在杭州市余杭区的梦想小镇一见面,32岁的曹道帆就带着记者来到国际科技产业创投中心一楼展厅
2026-02-06 08:08:00
2月5日,太重向明为云南煤矿用户量身打造的皮带机智能集控系统正式全面投产运行。这条陪伴用户多年的煤炭输送线,在太重向明定制化“数智方案”赋能下
2026-02-06 07:05:00
马克予摘要:抽样理论长期以来构成统计推断的基础,其核心功能在于信息受限条件下,通过概率机制实现对总体特征的可靠推断。然而
2026-02-06 07:13:00
江南时报讯 在金融服务日益普及与下沉的今天,丹阳农商银行积极响应国家发展普惠金融号召,坚定“做小做散”战略定位,以收款码业务为抓手深耕本土
2026-02-05 23:52:00
江南时报讯 为深入贯彻落实全行零售业务转型与财富管理升级战略部署,全力锻造一支专业精湛、服务卓越的财富管理队伍,近期,仪征农商银行组织全体财富经理前往南京银行扬州分行
2026-02-06 00:27:00
中亦科技荣膺华为云“2025年度擎帆奖”
2026年1月23日,华为云“同心·共行·致远”北京伙伴大会盛大召开。会上,中亦科技凭借在数据库联合解决方案创新及行业纵深拓展中的卓越表现
2026-02-05 21:33:00
归母净利润预增123% 科沃斯:用专注与具象解码科技
东经120.721093,北纬31.213668,这个坐标点正因一家上市公司的到来,变得充满生机与活力——2月4日16时左右
2026-02-05 19:22:00
合肥年货节设立萌宠专区,把宠物友好写进购物清单
大皖新闻讯 2月5日,2026年第十六届合肥年货节盛大启幕,国内外500余家企业齐聚合肥滨湖国际会展中心。大皖新闻记者发现
2026-02-05 19:59:00
北京海淀开展坚果炒货食品专项检查
近日,北京市海淀区市场监管局开展坚果炒货食品专项检查。本次重点检查产品的生产日期、保质期、生产厂家等信息是否标注清晰,是否存在过期、变质等问题。中国消费者报记者董芳忠摄影报道
2026-02-05 14:37:00
马上元梦 数字新生|元梦空间绘蓝图 马上元梦嘉年华大会蓉城圆满落幕
2026年2月3日,由元梦空间文化传播(成都)有限公司、元界乐享智联(深圳)科技有限公司、全球元宇宙酒店集团、大湾区企业家联合会联合主办的 “马上元梦数字新生——元梦空间2026马上元梦嘉年华大会”在成都温江皇冠假日酒店盛大举行
2026-02-05 15:08:00
第57次《中国互联网络发展状况统计报告》今天发布。报告显示,截至2025年12月,我国网民规模达11.25亿人,互联网普及率突破80%
2026-02-05 15:21:00
2026年1月以来,一款名为OpenClaw(曾用名Clawdbot、Moltbot)的智能体项目在国际开源社区迅速走红
2026-02-05 15:47:00
中国消费者报南京讯(记者桑雪骐)2月4日,苏州奥体中心体育场灯光璀璨,追觅科技与央视携手打造的“敢梦敢为•追觅之夜”演唱会正式举行
2026-02-05 14:37:00
史上首次!米兰冬奥基于阿里千问打造奥运官方大模型
2月5日,米兰冬奥会开幕在即,国际奥委会主席柯丝蒂·考文垂在国际转播中心举行的活动中宣布,国际奥委会已基于阿里千问大模型打造了奥运史上首个官方大模型
2026-02-05 13:40:00
华商观察丨智能儿童手表席卷全球 安全与隐私红灯亮起
智能儿童手表的全球普及浪潮,正伴随技术迭代与家长安全需求快速推进,成为数字时代儿童生活的标志性设备。据 Global Growth Insights 2025 年 12 月发布的行业报告显示
2026-02-05 11:29:00