• 我的订阅
  • 科技

苹果手机不会上大模型,内存太小吃不消

类别:科技 发布时间:2024-01-17 11:19:00 来源:浅语科技

最近这两年,随着ChatGPT和各种国产大模型的出现,“人工智能”成为了热度最高的字眼之一。有机构预测称,2024年将会是AIPC元年。而在手机市场上,华为、荣耀、小米、OPPO、vivo等手机厂商也开始扎堆发展大模型。不过,近日手机中国注意到,有爆料人士预测,苹果手机不会上大模型,因为它们的内存太小吃不消。

苹果手机不会上大模型,内存太小吃不消

该爆料人士表示:苹果手机不会上端侧大模型(起码短期内),主要原因就是端侧大模型是比较吃空间的,在int4的量化級別下,7B模型大概圧到3.5G内存,按PDDR5xQ带宽计算,支持10-12token/s的速度。安卓手机运存至少是8G起步,主流也达到了12GBRAM,7B模型至少是跑得动的。考虑到苹果运存很小,加载一个3.5G的大模型在后台,苹果手机的运存彻底吃不消。

苹果手机不会上大模型,内存太小吃不消

值得一提的是,在2023年,随着整个行业供需失衡等原因,手机所需要的内存芯片和存储芯片价格开始出现大幅度降价,不少厂商选择普及大内存和大存储,甚至推出了很多24GB运行内存+1TB机身存储的智能手机。而在2024年,随着上游厂商的减产+控价,大内存手机和大存储手机的成本也会开始上升,售价可能也会受到影响,有需求的消费者可早做准备。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-01-17 15:45:28

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

大模型猛吃存储空间,AI手机开堆大内存
...越来越依赖充足的手机运行内存了。一、3.8亿参数量的小模型,却占了近1/4的手机运行内存设想你手上拿着一台搭载了AI功能的手机,正忙着回复客户消息。此时,你收到老板发来的一封
2024-09-18 13:35:00
AI手机没有独家大模型供应商
...浪潮便席卷而来。手机,作为全民终端产品,更是成为大模型硬件落地潮的浪头。国内手机厂商方面,OPPO宣布2024是AI手机元年,魅族则称将正式停止传统智能手机新项目,双双All
2024-07-25 11:54:00
凉了,小米与苹果!或终止该系列手机研发
...可能会都不再配备8GB的运存了。主要是因为手机上的AI大模型需要更多的内存空间。其实这个趋势去年就开始显现了。当时iPhone16的消息刚出来的时候
2024-11-02 14:53:00
生成式AI慢人一步的苹果,选择与百度合作,是正确的选择吗?
...216家莆田医院。”先不谈两家合作是好是坏,至少在AI大模型引入手机这一方面,苹果已经落后于国内的其它手机厂商。 而这也不是苹果第一次“落后”,比如充电功率过低、拍照不如国
2024-03-29 09:49:00
为了强化AI,iPhone拉着三星让内存「独立」
...是为了AppleIntelligence。逻辑不难理解,从训练到推理,大模型性能的一大瓶颈就是内存带宽,而当前手机普遍采用的PoP封装——将内存直接堆叠在SoC上
2024-12-11 20:12:00
处理器不背锅 iPhone 15不支持AI只因内存太小
...B的内存差距,成了AI功能适配的关键因素。在端侧部署大模型,需要AI算力与大量内存空间,苹果使用的大语言模型是30亿参数的,在使用压缩后,预计要占据0.7GB-1.5GB之间
2024-06-13 13:45:00
生成式AI:手机厂商高端梦最后的希望
...户无需担心的是,据博主@Tech_Reve爆料,三星高斯的语言模型不仅支持韩语,还支持英语、法语、西班牙语、中文和日语
2024-01-10 09:58:00
苹果大模型,不藏了
岁末年初,苹果加快了在大模型领域的步伐。上个月,苹果先是推出了名为Ferret的多模态大语言模型,图像处理技术堪称惊艳;而后又发布了一篇题为《闪存中的大型语言模型:在有限内存下高
2024-01-06 09:10:00
iPhone 16最大的卖点,竟是苹果花钱买来的?!
...积极的回答。而在产品层面,苹果目前尚未打造出任何大模型、生成式AI等流行AI技术加持的应用场景。当下在各行业掀起的AI大潮,仿佛和苹果无关。大家普遍认为,苹果在AI技术布局上
2024-03-28 09:19:00
更多关于科技的资讯: