• 我的订阅
  • 科技

大模型猛吃存储空间,AI手机开堆大内存

类别:科技 发布时间:2024-09-18 13:35:00 来源:智东西

智东西9月13日消息,据The Verge昨日报道,多家AI手机开发商扩大了设备的运行内存(RAM),以支持端侧AI功能的正常使用。

iPhone 16系列已于9月10日正式发布,内嵌的苹果AI原生系统Apple Intelligence成为其最大卖点。发布会上,苹果公司声称Apple Intelligence能够在手机端支持一系列AI功能,包括改写电子邮件、生成自定义表情符号、调用升级版的Siri语音助手等。

但AI给iPhone带来的改变不止于此。目前,这些AI功能在手机端流畅地运行,其背后已经越来越依赖充足的手机运行内存了。

一、3.8亿参数量的小模型,却占了近1/4的手机运行内存

设想你手上拿着一台搭载了AI功能的手机,正忙着回复客户消息。此时,你收到老板发来的一封数百字的加急电子邮件,却一时半会儿腾不出手来处理。

于是,你想起了手机里的AI助手,打算让它帮你快速提炼总结一段邮件摘要,以便节省一些工作量。

然而,由于手机运行内存不够,AI模型加载不出来,甚至崩溃。亦或者AI模型被内嵌在硬盘当中,而非运行内存,使用时只能从头开始加载,你越等越烦躁和恼怒。

这解释了为什么AI手机需要充足的运行内存。运行内存可以随时读写,其响应速度比硬盘等用于长期存储的介质快得多。因此,若想实现手机用户快速调用AI功能的效果,最高效的方法是让AI模型一直在运行内存中加载,即“时刻准备着”。

问题是,对于过往的手机设备来说,即便只是一个小语言模型,也是难以负担的。

以微软的AI模型Phi-3-mini为例,该模型的参数量仅有3.8亿,但也要占用1.8GB的运行内存,挤占了手机内其他软件原本的运行空间。

二、iPhone 16全系运行内存增加了2GB,支持苹果首个AI系统

尽管苹果公司从未在发布会上提及过手机RAM容量的变化,但据苹果爆料网站MacRumors的消息,最新款的iPhone 16全系配备了8GB的运行内存,而去年的iPhone 15和iPhone 15 Plus机型运行内存只有6GB。

虽然最新款iPhone机型的运行内存增加得并不多,只扩大了2GB,但对于苹果公司而言是十分罕见的改变,同时iPhone用户也将收获不一样的使用体验。

大模型猛吃存储空间,AI手机开堆大内存

▲苹果iPhone 16系列AI手机(图源:The Verge)

今年6月,苹果机器学习与AI战略高级副总裁John Giannandrea曾接受了苹果爆料网站Daring Fireball的采访。当时他透露iPhone 15系列机型的带宽和芯片性能不够,带不动AI功能。

苹果软件工程高级副总裁Craig Federighi也参与了上述访谈,他提到运行内存是影响其整体性能的原因之一。

苹果方面尚未明确Apple Intelligence需要多少运行内存,不过目前来看,每一款支持该AI系统的设备,至少配备了8GB的运行内存。其中,包括早在2020年就推出的MacBook Air,搭载的是苹果自研的M1芯片,以及去年发布的iPhone 15 Pro。

然而,只有6GB运行内存的标准版iPhone 15,则不支持Apple Intelligence。

三、谷歌Pixel 9全系运行内存增加了4GB,还为AI划定了专用空间

不仅仅是苹果,谷歌也扩大了其Pixel 9系列AI手机的运行内存容量。

谷歌去年推出的标准版机型Pixel 8就是一个典型的例子。由于“硬件限制”,谷歌起初并未开放Pixel 8的本地AI功能。

今年3月,谷歌设备与服务软件副总裁Seang Chau曾解释道,Pixel 8的运行内存只有8GB,而Pixel 8 Pro版的运行内存为12GB,富余了4GB,从而能够更好地处理谷歌较小的AI模型Gemini Nano。

Seang Chau当时提到谷歌之所以不打算在Pixel 8上启用AI功能,是因为Gemini Nano在手机端“跑通”依赖的是运行内存。如果Pixel 8默认使用该AI模型,会占用过多的运行内存。

即使谷歌最终允许了Gemini Nano在Pixel 8上运行,但也只提供了开发者模式。

大概是考虑到前车之鉴,谷歌决定为Pixel 9系列的所有机型增加运行内存。

上个月召开的Made by Google大会上,谷歌发布了包括Pixel 9、Pixel 9 Pro、Pixel 9 Pro XL和Pixel 9 Pro Fold在内的4款AI手机,所有机型的运行内存配置12GB起步。

与上一代Pixel 8 Pro版相比,Pixel 9 Pro版除了运行内存上限从12GB增加至16GB,还为AI功能预留了3GB的专用运行内存,即非AI软件的实际运行内存为13GB。

据谷歌产品经理Stephanie Scott透露,该公司不希望为了引入体量更大的模型,而舍弃手机其他功能的丝滑体验,最终选择扩大总运行内存来提供更好的AI服务。

那么,这些额外的运行内存是AI专用的吗,用户又是否能感受到性能上的全面提升?

谷歌方面声称,这很大程度上取决于AI模型的运作方式,以及它们的规模大小。以Pixel 9系列为例,用户在享受手机整体性能增强的同时,也能获得更好的AI体验。

Stephanie Scott补充说,Pixel 9系列未来将兼容更先进的AI模型。不过,如果下一代AI模型的规模越来越大,可能会占用手机内更多运行内存。

四、微软AI PC全系运行内存16GB起步,说是刚好够用

手机运行内存不断扩大的趋势,已蔓延至PC领域。

今年早些时候,微软规定只有配备至少16GB运行内存的设备,才是Copilot+PC。换句话说,运行内存16GB以上的PC,才能在Windows本地“跑通”AI功能。

有市场传闻称,苹果公司也计划在其下一代PC产品中提高运行内存的配置,可能会改变其多年以来提供8GB运行内存的惯例。

如果PC开发商希望在本地设备上运行更大的AI模型,那么提高运行内存的配置则是关键的一步。

Julien Chaumond是美国开源AI独角兽Hugging Face的首席技术官。他认为,大多数PC操作系统将至少内嵌一个大语言模型,而6至8GB的运行内存会是一个“甜点区”,使原系统功能和AI模型可以同步流畅运行。

除此之外,设备运行内存充足的前提下,PC操作系统还可以在此基础上,增加或减少“一个小模型”,以提供某些特定AI功能。例如,定制AI图像的风格,或是引入一些专业领域的语言模型。

运行内存扩容速度,需追赶AI模型增长的步伐

当前,AI已成为智能手机的必备功能。与此同时,它也是一项非常消耗和依赖运行内存的技术。无论手机开发商们是否公开承认过这件事,但他们最后还是选择通过增加设备的运行内存,来保证用户可以正常使用AI功能。换句话说,AI成为了手机开发商们相继升级运行内存的幕后推手。

The Verge称,我们不知道Apple Intelligence能帮上多少忙,以及小幅度扩容后的运行内存,是否能满足iPhone的所有AI功能。不过,有一点是可以肯定的,那便是随着AI被广泛应用于电子消费品行业,类似的硬件升级现象也会越来越多。

来源:The Verge

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-09-18 15:45:01

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

苹果手机不会上大模型,内存太小吃不消
...和存储芯片价格开始出现大幅度降价,不少厂商选择普及大内存和大存储,甚至推出了很多24GB运行内存+1TB机身存储的智能手机。而在2024年,随着上游厂商的减产+控价,大内存手
2024-01-17 11:19:00
手机行业普及大内存?“APP刺客”立大功
...储空间早已追赶上这个数字。内存扩容,存储内卷,追逐大内存的意义是什么?大内存大存储优势在哪?严格来说,我们常规意义上表述的“大内存大存储”实际上包含两个方面:一则是更大的内存
2023-03-07 13:00:00
不用买大内存手机了!小米NAS官宣,云端扩容手机
继华为之后,又一家手机厂商盯上了NAS行业。日前,小米生态链总经理陈波发视频称,小米针对NAS核心技术已经展开了几个月的预研,目标是打造最适合米家用户的家庭存储产品。尽管陈波并未
2024-11-04 22:03:00
一加24GB大内存实测:爽到飞起!
...产商用,再一次打响“内存”战。内存扩容,存储内卷,大内存大存储的优势在哪里?追逐大内存的意义又是什么?24GB大内存体验爽翻了通俗来讲,手机“大内存大存储”应该被拆解为两个方
2023-09-01 20:34:00
手机厂商开始卷内存了!这背后“微信”们得背一口锅
...要卷不死,就往死里卷”的敬业精神,厂商们开始选择将大内存作为了新的内卷赛道,2023年初问世的这一批机型,就足以说明这一点。毕竟,对于很多消费者来说,大内存确实具有很强的吸引
2023-02-16 18:00:00
又降价!120W闪充+跑分90W万+12GB+256GB大内存,1499元!
...大型应用程序,电子时代很多的精彩内容一定要留存好,大内存为您日常用机很方便。 在充电方面,vivo Neo 7 SE配备了120W超级闪充技术
2023-12-05 09:30:00
国产手机普及24GB大内存!最高兴的是App开发商?
...降价可以说拯救了中端机市场,手机厂商们卷起了16GB+1TB大内存手机,而且大获成功。OPPO曾发过一组数据:在中国超过10亿的手机用户中,有超过5亿用户使用中端机。此前中端
2023-08-11 19:00:00
vivo新机热卖,“24GB大内存”加持,512GB仅卖1599元
...voY100i还至此了12GB虚拟内存拓展,扩容后将可以获得24GB超大内存,多程序运行无压力,至高后台保活APP达到了37个
2023-12-06 16:02:00
比电脑还大:手机或进入24GB运存时代!
...起,最高的存储配置也早已达到1TB。除了配备大存储外,大内存也成为部分手机品牌主打的卖点。近日,知名据数码博主@数码闲聊站爆料,一加Ace2Pro除了搭载骁龙8Gen2外,其
2023-06-30 09:40:00
更多关于科技的资讯: