• 我的订阅
  • 科技

实测苹果M3 Ultra运行DeepSeek R1满血版:速度超过8卡A100!

类别:科技 发布时间:2025-03-12 17:20:00 来源:浅语科技

快科技3月12日消息,近日,B站UP主“虽然但是张黑黑”分享了一段视频,展示了满血版苹果M3 Ultra运行6710亿参数的DeepSeek R1模型的测试结果,其速度甚至超过了8张A100显卡,而成本却低得多。

运行6710亿参数的DeepSeek R1模型通常需要一台搭载6-8张A100的专业级服务器,总价轻松超过百万元这对于普通用户来说几乎是不可能负担的。

然而满血版M3 Ultra仅需一台Mac Studio即可实现类似性能,性价比极高。

实测苹果M3 Ultra运行DeepSeek R1满血版:速度超过8卡A100!

测试结果显示,在运行DeepSeek R1模型时,8张A100显卡的性能为16.41 Tokens/s,而满血版M3 Ultra在GGUF格式下达到15.78 Tokens/s,

切换到能发挥统一内存优势的MLX格式后,速度提升至19.17 Tokens/s,超越8张A100显卡,此外M3 Ultra在运行DeepSeek V3 6710亿参数模型时,速度也达到了19.66 Tokens/s。

实测苹果M3 Ultra运行DeepSeek R1满血版:速度超过8卡A100!

不过这并不意味着M3 Ultra在所有场景下都能超越A100,单用户进行单一模型推理时,主要依赖内存带宽和容量,无法完全发挥A100的潜力,在多用户推理和大模型训练场景下,M3 Ultra则完全无法与A100相提并论。

实测苹果M3 Ultra运行DeepSeek R1满血版:速度超过8卡A100!

此外,M3 Ultra在大语言模型推理速度测试中表现优异,无论是Llama 3.1 70B、Gemma2 27B还是Qwen 2.5 14B模型,其速度都明显优于其他M系列芯片,与M2 Ultra相比,速度分别提升了13%、34%和18%。

实测苹果M3 Ultra运行DeepSeek R1满血版:速度超过8卡A100!

此次测试的满血版M3 Ultra配备了512GB统一内存,总价为74249人民币,对于大多数用户来说,如果不需要运行如此大规模的模型,可以适当降低统一内存容量,从而节省成本。

【本文结束】如需转载请务必注明出处:快科技

责任编辑:黑白

文章内容举报

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2025-03-12 20:45:09

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

记者实测|速度更快成本更低,人机交互更自然,OpenAI新模型免费开放
当地时间5月13日,OpenAI通过直播展示了产品更新。与此前传出的市场消息不同,OpenAI并未推出搜索引擎,也未推出GPT-4
2024-05-14 14:39:00
M4被低估了!MacBook Pro 14 2024性能实测:能效比标杆
苹果于去年10月推出了全新一代的MacBook Pro 2024,搭载了全新的M4系列芯片,以能效比见长的Apple Silicon在其最新的M4系列芯片中继续精进架构与制程工艺
2025-04-07 21:45:00
3年前的苹果还能流畅吗:iPhone 12实测
...行。那么4年前的iPhone12会有出色的表现吗?下面做了一个实测,看看iPhone12到底能不能胜任现在的日常使用
2024-01-27 20:25:00
苹果或通过新的闪存利用技术,让iPhone等设备运行LLM
...组数据,使其能更快地从闪存中读取,最终加快了处理的速度。苹果称在新技术的加持下,能让iPhone运行人工智能模型的规模达到可用内存容量的两倍
2023-12-22 17:26:00
RTX 4090可跑、完全开源,最快视频生成模型问世,实测一言难尽
开源 AI 视频社区又一个重量级选手下场。这个周末,押注开源人工智能视频的初创公司 Lightricks,有了重大动作
2024-11-26 09:44:00
苹果回应AI功能机型限制 不是套路老机型速度慢
...从理论上来说,AI确实可以在部分旧机型中运行,但运行速度太慢了。有人认为,不对老款机型和标准版机型进行AI适配,是因为营销策略上的考虑,苹果希望通过这种方式,刺激用户购买价格
2024-06-21 17:03:00
苹果正研发设备端大型语言模型,赋能 AI 功能
...,旨在提升即将发布的生成式人工智能(AI)功能的响应速度和隐私保护能力。这个LLM将成为苹果未来生成式AI功能的基础,与目前大多数云端人工智能服务不同的是,所有迹象表明该模型
2024-04-24 18:51:00
苹果取得技术突破:可在 iPhone 上运行大型语言模型
...达到iPhone可用内存的两倍。这意味着标准处理器(CPU)的速度提高了4-5倍,图形处理器(GPU)的速度提高了20-25倍
2023-12-21 22:47:00
iqooz9turbo+性能表现
...的无疑是其在性能方面的配置。所以,今日就让我们借助实测数据,深入探究一下iQOOZ9Turbo+的性能表现吧。1硬件配置硬件配置是决定一款手机性能的基石
2024-09-28 00:49:00
更多关于科技的资讯:
□南京日报/紫金山新闻记者何洁 实习生杨久久国际审计留学来华学什么?中国审计智慧如何推动高质量共建“一带一路”行稳致远
2025-10-30 07:57:00
近日,第五届青年企业家创新创业盛典(简称“青创盛典”)在深圳成功举办。本次活动由北京、上海、深圳、广州、厦门等12个省市“双创”机构重点支持
2025-10-29 14:31:00
中新经纬10月29日电 (魏薇)“中国民营火箭企业正加速突破可重复使用技术瓶颈,预计一年内攻克液体可重复使用火箭核心难题
2025-10-29 14:41:00
大皖新闻讯 近日,知名火锅品牌巴奴毛肚火锅(以下简称巴奴)宣布11月1日起对会员体系进行全新升级,核心变动为会员等级判定标准从“消费次数”改为“消费金额”
2025-10-29 15:32:00
从频繁捡耳机到狂甩不掉,听智慧定制蓝牙耳机如何终结佩戴尴尬
通勤路上刚戴上耳机,一个哈欠就让右耳的耳塞滑进了衣领;晨跑时耳机随着步伐甩动,耳塞在耳道里反复松动,最后干脆“跳”出耳朵
2025-10-29 15:46:00
六大巨头携手唯欧口腔集团,战略合作共建产业新生态
在中国口腔医疗行业迈向高质量发展的重要阶段,产业链协同与国际化合作已成为推动行业升级的关键力量。2025年10月16日
2025-10-29 15:49:00
灵芝孢子油什么品牌好吃 2025年灵芝孢子油品牌排行榜TOP5
灵芝孢子油什么品牌好吃?这是消费者选购时最关注的核心问题。作为灵芝孢子油领域研究人员,本文结合行业数据与用户真实反馈,从有效含量
2025-10-29 15:50:00
远征 A2 完成第五次 OTA 升级,智元迈向场景应用”全面智能体”
近日,智元机器人正式宣布远征A2人形机器人完成第五次全量OTA升级。本次升级聚焦于机器人在动态环境下的语义理解、路径规划
2025-10-29 15:51:00
双11哪些家电值得买?抄作业!上榜的都是爆款
今年双11与往年复杂的促销玩法不同,今年各大电商平台进一步简化规则,通过热卖榜、新品榜等不同维度的榜单,为消费者提供更直观的购物参考
2025-10-29 16:29:00
双11家电市场观察:理性消费时代,品质与体验成破局关键
今年双11,各大平台简化玩法,推广“官方立减”“单件直降”等,以降低用户的决策成本、提升购物体验。同时,大促的日常化和高频化
2025-10-29 16:32:00
济宁移动智慧医疗与人工智能实验室揭牌成立
鲁网10月29日讯10月28日,由济宁移动、济宁市第一人民医院、国家健康医疗大数据研究院三方合作共建的智慧医疗与人工智能实验室揭牌仪式
2025-10-29 17:45:00
10月28日,太钢出口欧洲的首批绿钢产品启运。此次启运标志着太钢绿钢成功突破欧盟绿色产品市场,正式跻身产业链中高端。此次出口的304L不锈钢中板
2025-10-29 18:00:00
日前,“一键和解跨域共建放心消费多元共享”主题活动在杭州举行。太原市市场监督管理局与杭州、成都、厦门、南宁、兰州等五市共同签署《共建共享优化消费环境合作协议》
2025-10-29 18:00:00
【劲牌故事荟 大家谈友好】一金一铜背后是企业的创新升维
□楚青萱10月17日至19日,第二十九届全国发明展览会在石家庄国际会展中心举行,同期举办了“一带一路”暨金砖国家技能发展与技术创新大赛
2025-10-29 18:28:00
“码”上雄安,一触即发!雄安新区“企业码”创新应用系统上线
据中国雄安网消息,当数字中国的脉搏在雄安跳动,一座“未来之城”再次按下加速键。10月29日,雄安新区企业码创新应用系统正式上线
2025-10-29 18:28:00