我们正处于一个信息大暴发的时代,每天都能产生数以百万计的新闻资讯!
虽然有大数据推荐,但面对海量数据,通过我们的调研发现,在一个小时的时间里,您通常无法真正有效地获取您感兴趣的资讯!
头条新闻资讯订阅,旨在帮助您收集感兴趣的资讯内容,并且在第一时间通知到您。可以有效节约您获取资讯的时间,避免错过一些关键信息。
除了玩游戏,NVIDIA的显卡还在AI加速上遥遥领先,不仅科技巨头都在抢A100/H100等显卡,GeForce游戏卡也是普通人搞AI炼丹的选择,AMD显卡在这方面落后不少。
好消息是AMD现在也能追上来了,深度学习领域的华人大神、OctoMLCTO陈天奇带领团队在AMD显卡上做出了大模型推理的方案,这意味着业界又有NVIDI之外的选择,不用为N卡抢破头、加价而困扰了。

根据他的优化算法,在Llama2的7B和13B大模型中,用RX7900XTX显卡也能跑出让人满意的性能,性能已经达到了RTX4090显卡82%或者RTX3090Ti显卡的94%水平。

不仅是性能追上来了,AMD显卡的性价比也要高得多,RX7900XTX跟其他两款显卡都是24GB显存,但只要999美元,RTX4090、RTX3090Ti分别是1599、1999元,价格高出60-100%。
当然,RX7900XTX现在的价格早就松动了,实际售价比999美元便宜不少,而N卡价格一直坚挺。

究其根底,A卡在AI炼丹能力上的提升,尤其是RX7900XTX这样的游戏卡能有质变,还是AMD最近在ROCm软件生态上的改进,以前后者对游戏卡及Win平台的支持很差,4月份开始不仅支持Windows系统,也加入了对RX7900及工作站显卡的支持。
同时AMD还发布了ROCmHIPSDK,允许开发者将针对CUDA平台开发的代码轻松迁移到AMD平台,这有是陈天奇等大神可以在AMD显卡上推动AI能力提升的基础。
以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。
快照生成时间:2023-08-13 23:45:56
本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。
信息原文地址: