• 我的订阅
  • 科技

实测苹果M3 Ultra运行DeepSeek R1满血版:速度超过8卡A100!

类别:科技 发布时间:2025-03-12 17:20:00 来源:浅语科技

快科技3月12日消息,近日,B站UP主“虽然但是张黑黑”分享了一段视频,展示了满血版苹果M3 Ultra运行6710亿参数的DeepSeek R1模型的测试结果,其速度甚至超过了8张A100显卡,而成本却低得多。

运行6710亿参数的DeepSeek R1模型通常需要一台搭载6-8张A100的专业级服务器,总价轻松超过百万元这对于普通用户来说几乎是不可能负担的。

然而满血版M3 Ultra仅需一台Mac Studio即可实现类似性能,性价比极高。

实测苹果M3 Ultra运行DeepSeek R1满血版:速度超过8卡A100!

测试结果显示,在运行DeepSeek R1模型时,8张A100显卡的性能为16.41 Tokens/s,而满血版M3 Ultra在GGUF格式下达到15.78 Tokens/s,

切换到能发挥统一内存优势的MLX格式后,速度提升至19.17 Tokens/s,超越8张A100显卡,此外M3 Ultra在运行DeepSeek V3 6710亿参数模型时,速度也达到了19.66 Tokens/s。

实测苹果M3 Ultra运行DeepSeek R1满血版:速度超过8卡A100!

不过这并不意味着M3 Ultra在所有场景下都能超越A100,单用户进行单一模型推理时,主要依赖内存带宽和容量,无法完全发挥A100的潜力,在多用户推理和大模型训练场景下,M3 Ultra则完全无法与A100相提并论。

实测苹果M3 Ultra运行DeepSeek R1满血版:速度超过8卡A100!

此外,M3 Ultra在大语言模型推理速度测试中表现优异,无论是Llama 3.1 70B、Gemma2 27B还是Qwen 2.5 14B模型,其速度都明显优于其他M系列芯片,与M2 Ultra相比,速度分别提升了13%、34%和18%。

实测苹果M3 Ultra运行DeepSeek R1满血版:速度超过8卡A100!

此次测试的满血版M3 Ultra配备了512GB统一内存,总价为74249人民币,对于大多数用户来说,如果不需要运行如此大规模的模型,可以适当降低统一内存容量,从而节省成本。

【本文结束】如需转载请务必注明出处:快科技

责任编辑:黑白

文章内容举报

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2025-03-12 20:45:09

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

记者实测|速度更快成本更低,人机交互更自然,OpenAI新模型免费开放
当地时间5月13日,OpenAI通过直播展示了产品更新。与此前传出的市场消息不同,OpenAI并未推出搜索引擎,也未推出GPT-4
2024-05-14 14:39:00
M4被低估了!MacBook Pro 14 2024性能实测:能效比标杆
苹果于去年10月推出了全新一代的MacBook Pro 2024,搭载了全新的M4系列芯片,以能效比见长的Apple Silicon在其最新的M4系列芯片中继续精进架构与制程工艺
2025-04-07 21:45:00
3年前的苹果还能流畅吗:iPhone 12实测
...行。那么4年前的iPhone12会有出色的表现吗?下面做了一个实测,看看iPhone12到底能不能胜任现在的日常使用
2024-01-27 20:25:00
苹果或通过新的闪存利用技术,让iPhone等设备运行LLM
...组数据,使其能更快地从闪存中读取,最终加快了处理的速度。苹果称在新技术的加持下,能让iPhone运行人工智能模型的规模达到可用内存容量的两倍
2023-12-22 17:26:00
RTX 4090可跑、完全开源,最快视频生成模型问世,实测一言难尽
开源 AI 视频社区又一个重量级选手下场。这个周末,押注开源人工智能视频的初创公司 Lightricks,有了重大动作
2024-11-26 09:44:00
苹果回应AI功能机型限制 不是套路老机型速度慢
...从理论上来说,AI确实可以在部分旧机型中运行,但运行速度太慢了。有人认为,不对老款机型和标准版机型进行AI适配,是因为营销策略上的考虑,苹果希望通过这种方式,刺激用户购买价格
2024-06-21 17:03:00
苹果正研发设备端大型语言模型,赋能 AI 功能
...,旨在提升即将发布的生成式人工智能(AI)功能的响应速度和隐私保护能力。这个LLM将成为苹果未来生成式AI功能的基础,与目前大多数云端人工智能服务不同的是,所有迹象表明该模型
2024-04-24 18:51:00
苹果取得技术突破:可在 iPhone 上运行大型语言模型
...达到iPhone可用内存的两倍。这意味着标准处理器(CPU)的速度提高了4-5倍,图形处理器(GPU)的速度提高了20-25倍
2023-12-21 22:47:00
iqooz9turbo+性能表现
...的无疑是其在性能方面的配置。所以,今日就让我们借助实测数据,深入探究一下iQOOZ9Turbo+的性能表现吧。1硬件配置硬件配置是决定一款手机性能的基石
2024-09-28 00:49:00
更多关于科技的资讯:
节日我在岗丨十堰高周波:抓创新赶订单 全力冲刺年度目标
十堰广电讯(全媒体记者 陈林)在国庆中秋假期,位于十堰经济开发区的十堰高周波科工贸有限公司抓创新赶订单,全力冲刺年度目标
2025-10-05 20:21:00
节日我在岗丨艾斯卓智能科技:节日不休 赶制订单
十堰广电讯(全媒体记者 耿吉国)放假不放松,生产不停工。国庆中秋长假,我市各生产企业铆足干劲抓生产、赶订单,奋力冲刺年度目标任务
2025-10-05 20:21:00
普阳钢铁工程机械用高强高韧宽厚板全国市场占有率名列前茅一块宽厚板的靶向发力——“铁疙瘩”怎样变成“金娃娃”(十)从矿山到港口
2025-10-05 07:47:00
人气旺 厦门多个商场假日客流爆棚、销售额亮眼
集美大悦城商圈内,小朋友和机器人亲密互动。(本组图/厦门日报记者 黄晓珍 摄)国庆中秋假期, 厦门SM购物中心潮玩店内人气火爆
2025-10-04 09:20:00
省数据和政务服务局发布公告公开征集一批河北省高质量数据集河北日报讯(记者解楚楚)9月26日,河北省数据和政务服务局发布公告
2025-10-04 08:03:00
央媒看太原9月30日,央视财经频道《经济信息联播》栏目以《双节市场备货足美食特产受青睐》为题,报道了假期到来,太原市各大综合市场提前备货
2025-10-04 07:17:00
厦门网讯(厦门日报记者 朱道衡)近日,2025鼓浪屿世遗文创作品征集活动启动。此次活动面向全国(含港澳台地区)高校、企业
2025-10-03 08:37:00
厦门网讯(厦门日报记者 楚燕 通讯员 石青青)长假期间,许多人从忙碌的工作中解脱出来,趁机好好休息。可是,如果休息方式不得当
2025-10-03 08:37:00
渤海之潮涌动着澎湃的脉搏,海河之畔镌刻着科技的印记。10年前,一颗带有“清华”基因的种子在天津这片沃土扎根;10年后,它长成一棵枝繁叶茂的参天大树
2025-10-03 09:25:00
太燃了!无人机空中展旗!高新区国庆“氛围组”已上线!
2025-10-03 23:48:00
抖音生活服务联合北京卫视发起“老板驾到”直播活动,吸引用户下单超100万元团购券
9月29日,抖音生活服务联合北京卫视发起“老板驾到”直播活动,助力北京国庆中秋消费。抖音用户在@北京卫视 直播间下单超1万次
2025-10-03 18:36:00
“FutureBOT未来引力”2025北京机器人文化节首日盛况 打造国庆科技打卡新地标
国庆首日,“FutureBOT未来引力”2025北京机器人文化节在北京昌平超极合生汇正式拉开帷幕,成为国庆假期极具科技温度的打卡地
2025-10-03 19:06:00
走到白石山巅的尽头,这家建在悬崖边的“云端咖啡厅”绝对让你惊呼。
2025-10-03 11:37:00
泰康人寿发布新品“泰康百万药无忧(庆典版)医疗保险”(以下‬简称“百万药无忧”),以广覆盖、易投保、强保障、低费率为优势
2025-10-03 09:17:00
厦门网讯(厦门日报记者 翁华鸿 通讯员 林雨新)在近日举行的2025全球数据管理峰会“数据要素分论坛暨大数据统计与人工智能技术创新管理研讨会”上
2025-10-03 08:38:00