• 我的订阅
  • 科技

AMD锐龙AI处理器轻松本地跑DeepSeek:最高支持70B参数

类别:科技 发布时间:2025-02-12 18:19:00 来源:浅语科技

快科技2月12日消息,DeepSeek持续火爆,大家都在体验,但因为服务器承受能力有限,经常会遇到无响应,因此本地部署体验就成了更好的选择,具体规模取决于硬件配置。

AMD是最早在x86处理器领域引入AI能力的,锐龙7040系列就率先集成了独立的NPU AI引擎,此后的锐龙8040系列、锐龙AI 300系列、锐龙AI MAX 300系列都越发强大。

AMD锐龙AI处理器拥有目前行业最强的NPU,算力高达50 TOPS(每秒50万亿次计算),自然是体验DeepSeek的上佳选择。

如果你有一台锐龙AI笔记本,现在就可以通过LM Studio,轻松在本地部署、体验DeepSeek R1精简版推理模型。

AMD锐龙AI处理器轻松本地跑DeepSeek:最高支持70B参数

具体操作方式如下:

1、安装AMD Adrenalin 25.1.1或更新版显卡驱动。

2、打开lmstudio.ai/ryzenai,并下载LM Studio 0.3.8或更新版本。

3、安装启动LM Studio,可以直接跳过引导屏幕。

4、点击“发现”(discover)标签页。

5、选择适合自己的DeepSeek R1 Distill。具体如何选择见后。

6、在软件页面右侧,勾选“Q4 K M”量化模式,然后点击“下载”。

7、下载完成后,返回聊天选项页,从下拉菜单中选择DeepSeek R1 distill,并确保勾选“手动选择参数”(manually select parameters)选项。

8、在“GPU卸载”(GPU offload)中,将滑块移到最大值。

9、点击“模型加载”(model load)。

10、好了,可以在本地体验DeepSeek R1推理模型了!

AMD锐龙AI处理器轻松本地跑DeepSeek:最高支持70B参数

AMD锐龙AI处理器轻松本地跑DeepSeek:最高支持70B参数

不同参数规模的大模型,决定了其性能和体积,因此不同的硬件设备需要选择最适合自己的参数量。

如果是顶级的锐龙AI MAX+ 395处理器,搭配64GB、128GB内存,最高可以支持DeepSeek-R1-Distill-Llama-70B,注意64GB内存的话需要将可变显存设置为高。

搭配32GB内存,可变显存自定义为24GB,则能支持到DeepSeek-R1-Distill-Qwen-32B。

如果是锐龙AI HX 370、AI 365处理器,搭配24GB、32GB内存,可以支持DeepSeek-R1-Distill-Qwen-14B。

如果是锐龙7040/8040系列,需要搭配32GB内存,才能支持到DeepSeek-R1-Distill-Qwen-14B。

AMD锐龙AI处理器轻松本地跑DeepSeek:最高支持70B参数

另外,AMD推荐将所有Distill运行在Q4 K M量化模式。

如果你使用的是台式机,AMD RX 7000系列显卡也都已支持本地部署DeepSeek R1。

其中,RX 7900 XTX旗舰显卡最高支持DeepSeek-R1-Distill-Qwen-32B,RX 7900 XT、7900 GRE、7800 XT、7700 XT、7600 XT均可以支持到DeepSeek-R1-Distill-Qwen-14B,RX 7600以及新发布的RX 7650 GRE则适合到DeepSeek-R1-Distill-Llama-8B。

AMD锐龙AI处理器轻松本地跑DeepSeek:最高支持70B参数

【本文结束】如需转载请务必注明出处:快科技

责任编辑:上方文Q

文章内容举报

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2025-02-12 20:45:09

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

想换机的用户别着急,有5款新机均在路上,参数基本都清晰了
...都不会缺席。而且核心配置方面也不差,将搭载骁龙8Gen3处理器,并且镜头方面采用50Mp搭配素质不错的3X中长焦,可以轻松满足用户的拍照需求。重点续航方面也不差,有望内置52
2023-07-27 11:55:00
目前最值得入手的10款千元机,性价比高,能用三年
...考价格:1499元——12G+256G。配置参数:搭载天玑8200-ultra处理器,有一块6.6英寸中孔LCD直屏
2023-10-22 11:08:00
千元平板选购指南,这4款屏幕高清流畅,满足日常使用需求
...看。参考价格:1299元——8G+128G。基本参数:搭载骁龙870处理器,有一块11.2英寸OLED大屏,支持2560x1536像素分辨率
2024-01-17 17:12:00
如何判断英特尔b85主板定位
...持四代英特尔接口为22纳米LGA1150的赛扬,奔腾,酷睿i3i5i7处理器,内存方面最大支持32GDDR3频率为1066到1600的内存条
2022-12-28 17:28:00
六款中端手机即将震撼登场,堆料参数大比拼,谁能更胜一筹?
...刷新率和高频护眼调光技术;核心配置搭载高通骁龙7+Gen3处理器,这款芯片和骁龙8Gen3属于同宗同源,性能方面的表现非常的逼近骁龙8Gen2处理器
2024-03-09 14:12:00
超越期待!Redmi Note 12 Turbo硬件参数揭秘
...参数,看看它到底有何过人之处!首先,RedmiNote12Turbo在处理器方面可谓强大。搭载了联发科Dimensity900U处理器
2023-04-26 00:22:00
红米k60和k60pro有什么区别
...两款手机的外观设计也保持一致,起步售价相差800元。 处理器配置红米K60:搭载骁龙8+Gen1处理器,主频最高支持3
2023-01-09 14:00:00
四款新机均在路上,参数各有千秋,谁将成为下一个爆款?
...刷新率和高频护眼调光技术,而且核心配置搭载骁龙7 Gen3处理器,采用先进的制程工艺,具备出色的性能和功耗控制,内存规格有12G+512GB的选项
2024-03-06 09:30:00
三对一!vivo三款Pad对比OPPO Pad3,到底谁会更胜一筹?
...体验。核心配置方面也是不弱,搭载的是高通骁龙8s Gen3处理器,尽管比不过骁龙8 Gen2处理器,但主流游戏的运行压力不大
2024-05-21 09:25:00
更多关于科技的资讯: