• 我的订阅
  • 头条热搜
挑战Scaling Law,Meta发布移动端350M小模型MobileLLM,性能比肩7B LLaMA-v2
【新智元导读】Scaling Law还没走到尽头,「小模型」逐渐成为科技巨头们的追赶趋势。Meta最近发布的MobileLLM系列,规模甚至降低到了1B以下,两个版本分别只有125M和350M参数,但却实现了比更大规模模型更优的性能。从5月和6月...……更多
掰开安卓手机 满屏都是三个字:大模型
这年头,安卓厂商没个大模型,都不敢开手机发布会了。前脚OPPO刚用大模型升级了语音助手,后脚vivo就官宣自研手机AI大模型;小米发布会则直接将大模型当场塞进手机系统……其竞争激烈程度,不亚于抢芯片首发。到底是怎...……更多
高通打响围攻英特尔的第一枪
...升 25%,目前骁龙 8Gen 3 已支持运行 100 亿参数的生成式 AI 模型。如果使用搭载 8Gen 3 平台的智能手机运行 Stable Diffusion,只需不到 1 秒就可以用文本生成图像。图片来源:高通如果只对比参数,100 亿模型参数要较 GPT 4 和 Llama2 等..……更多
高通骁龙:端侧AI 启幕移动智能“芯”时代
...界面里看到的那些“AI”还不太一样,今年的AI专指“AI大模型”这个随ChatGPT火到已经泛滥的概念,是一种基于生成式AI技术的大语言/大视觉模型,主要用于图文相关的自然语义理解、处理乃至于创作生成——即与AI大模型概念同...……更多
MediaTek发布天玑9300旗舰5G生成式AI 移动芯片,开启全大核计算时代
...可实现更加高速且安全的边缘AI计算,深度适配Transformer模型进行算子加速,处理速度是上一代的8倍,1秒内可生成图片。基于亿级参数大语言模型特性,MediaTek开发了混合精度 INT4 量化技术,结合MediaTek特有的内存硬件压缩技术Ne...……更多
最强安卓SoC!联发科天玑9300正式发布
...可实现更加高速且安全的边缘AI计算,深度适配Transformer模型进行算子加速,处理速度是上一代的8倍,1秒内可生成图片。 基于亿级参数大语言模型特性,联发科开发了混合精度INT4量化技术,结合联发科特有的内存硬件压缩技术...……更多
​全大核天玑9300登场!实测性能、能效兼优站稳旗舰!
...备行业首款内存硬件压缩技术NeuroPilot Compression,能让大模型的内存占用大幅降低,从而使用生成式AI应用更加流畅。联发科表示,天玑9300是首个在移动芯片上成功运行了行业最高的330亿参数AI 大语言模型的芯片。这样一来,时...……更多
oppo首个端侧应用70亿参数大模型findx7系列
...的首个听筒/免提双模卫星通话,首个端侧应用70亿参数大模型,首次亮相的潮汐架构等诸多前沿技术。此次宣布的全新技术组合将全面落地下一代旗舰产品FindX7系列,为2024年旗舰手机树立全新的技术标杆,并为消费者带来刷新...……更多
手机市场深陷泥沼,厂商如何破冰?
...题,在这一关键节点,厂商们亟需新的解题思路。3、大模型被认为是下一突破点,但仍没合适的落地方式。自2023年初大模型成为互联网发展技术趋势的关键词,手机厂商关于大模型的探讨就一直没有停止。从逻辑上讲,手机厂...……更多
双模卫星通话、70亿参数大模型......OPPO提前发布了一大波Find X7系列新技术
...统性介绍了相关的新特性。首先登场的当然是AI,当前大模型的相关应用已经是行业最热门的概念,这次的Find X7系列自然也不甘落后。OPPO宣布,将在 Find X7 系列上实现行业首个端侧应用的70亿参数的模型。为了能够将这套大模型...……更多
全新一代天玑9300全大核架构,到底有何玄机?
...可实现更加高速且安全的边缘AI计算,深度适配Transformer模型进行算子加速,处理速度是上一代的8倍,1秒内可生成图片。APU790还支持混合精度度INT4量化技术,结合联发科独有的内存硬件压缩技术NeuroPilotCompression,可以更高效地...……更多
微软连发3款Phi-3.5模型:128K上下文,首用MoE架构,部分性能超GPT-4o mini
...东西8月21日消息,今天,微软一口气甩出3款超强轻量级模型!微软本次发布的轻量级模型系列名为Phi-3.5,适合在内存和算力受限的环境中运行,均支持128k上下文长度。Phi-3.5-mini-instruct主要面向基础快速推理任务,Phi-3.5-MoE-instru...……更多
amd发布代号lunarlake的下一代移动处理器
...SV独立软件供应商的支持,AI加速功能已经超过300项,AI大模型加速优化已经超过500项,遍布各行各业。Intel预计,到2025年底,Intel平台的AIPC全球出货量将超过1亿台,涵盖超过230款产品设计、250多家零售商、48个国家和地区。目前...……更多
比Stable Diffusion便宜118倍!1890美元训出11.6亿参数高质量文生图模型
...研究人员,利用延迟掩蔽、MoE、分层扩展等策略,将扩散模型的训练成本降到了1890美元。训练一个扩散模型要多少钱?之前最便宜的方法(Wuerstchen)用了28400美元,而像Stable Diffusion这样的模型还要再贵一个数量级。大模型时代...……更多
让AI无处不在 高通全面开启终端侧生成式AI大门
...,AI将重塑消费者对用户体验的感知,骁龙将成为所有AI模型在终端侧运行的首选平台。基于这样的价值考量,在今年骁龙峰会上,高通推出了两款全新平台,二者无不强调了终端侧生成式AI体验的需求,从底层为用户提供贴近生...……更多
传统与AI性能两开花:AMD Zen 5架构处理器全解析
如今我们早已进入了AI时代,包括ChatGPT、LLM等模型应用已经让人们的生活得到天翻地覆的变化,对于CPU等硬件厂商来说,AI大规模普及带来的算力要求达到了前所未有的程度,除了面向AI训练的服务器级别的硬件之外,主要用于A...……更多
小模型正在成为AI界的新宠
大模型的发展已经进入了万亿级参数时代。DeepMind 联合创始人穆斯塔法・苏莱曼(Mustafa Suleyman)预测, 仅在未来三年内,大模型规模以惊人的速度继续扩张,将增长 1000 倍。一方面,模型的参数量与其能够处理和学习的复杂性...……更多
Find X7正式发布!天玑9300带来极致性能
...的“年度AI移动平台”。而OPPOFindX7作为规模化应用70亿大模型的旗舰手机,也将为大家带来令人惊艳的生成式AI体验。”生成式AI是一种能够根据用户的需求,自动生成内容的技术,比如图片、视频、音乐、文本等。生成式AI的应...……更多
天玑9300抢先实测:全大核架构将如何改变手机体验?
...在游戏体验上将为我们带来哪些新的提升。 而在端侧大模型、生成式AI成为行业热点的今天,天玑9300今年也在AI领域发力。其内置的MediaTek第七代AI处理器APU 790采用生成式AI而设计,它的整数运算和浮点运算的性能是前一代的2倍...……更多
中国最大开源MoE模型,255B参数无条件免费商用,元象发布
元象XVERSE发布中国最大MoE开源模型:XVERSE-MoE-A36B,该模型总参数255B,激活参数36B,达到100B模型性能的「跨级」跃升。同时训练时间减少30%,推理性能提升100%,使每token成本大幅下降。在多个权威评测中,元象MoE效果大幅超越多...……更多
发哥要“屠龙”!全大核设计、天玑9300跑分突破200万!
...升30%,GPU性能提升25%,NPU性能提升98%,支持100亿参数的大模型之前的传闻显示,骁龙8Gen3基于台积电4nm工艺制程,采用了1+3+2+2的全新八核四丛集架构设计,包括一颗Cortex-X4超大核,三颗Cortex-A720大核,还有两颗主频略低的Cort...……更多
引领全大核性能时代 联发科天玑9300旗舰芯体验解析
...临着很多痛点,比如终端内存限制、端侧生成速率以及大模型数量受限等。为此发哥通过多项技术上的突破,成功解决了这些痛点。首先是大模型对于手机内存占用的问题,以130亿参数大模型为例,正常情况下它所需的内存为13G...……更多
天玑9300 苏黎世AI跑分超2000,AI性能第一
...AI引擎,带来又快又安全的边缘AI计算,深度适配Transformer模型进行算子加速,处理速度是上一代的8倍,AI生成图片快到只需要1秒。为了将亿级参数AI大语言模型“塞”进手机,联发科开发了混合精度INT4量化技术,结合其特有的...……更多
把大模型装进手机,总共分几步?
...去上海参加华为春季新品发布会,用一页keynote提到了大模型技术与手机硬件的结合。虽然只有短短的一两分钟,但我专门发了一条朋友圈,看好自然语言交互能力在手机上的应用。当时我就有预感,大语言模型跟手机结合,应...……更多
OPPO Find X7系列AIGC一键消除太优秀
...外,Find X7 Ultra还带来行业首个端侧部署70 亿参数大模型以及领先的端侧视觉大模型性能。 随着智能手机硬件和软件的不断升级,手机用户对于手机性能和体验的要求也越来越高。端侧视觉大模型的出现可以让手机更加智...……更多
1890美元,就能从头训练一个还不错的12亿参数扩散模型
...只用1890美元、3700 万张图像,就能训练一个还不错的扩散模型。现阶段,视觉生成模型擅长创建逼真的视觉内容,然而从头开始训练这些模型的成本和工作量仍然很高。比如 Stable Diffusion 2.1 花费了 200000 个 A100 GPU 小时。即使研...……更多
天玑 9300 安兔兔跑分曝光:200 万分逆天
...前曾宣布,双方在手机领域首次实现了10亿和70亿AI大语言模型和10亿AI视觉大模型,可以猜到双方在该领域的合作,显然是基于即将推出的天玑9300旗舰芯片以及vivoX100系列。也就是说天玑9300具备非常强大的AI算力,足以支持70亿这...……更多
林达华谈大模型发展之路:未来会有更高效的模型结构出现
大模型的上下文长度快速增长,超长上下文解锁新应用,但推理计算代价高昂,上下文本身对于信息不会进行压缩,不能直接捕捉其中的深层知识和规律。上海人工智能实验室领军科学家林达华。过去一年,人工智能领域风起...……更多
承前启后 第三代骁龙8展开AI时代骁龙生态
...台”。目前,第三代骁龙8支持在终端侧运行100亿参数的模型,面向70亿参数大预言模型每秒生成高达20个token;在终端侧通过Stable Diffusion生成图片只需要不到一秒。在AI等新特性加持下,第三代骁龙8集成了三个18-bit的感知ISP,最...……更多
谷歌开源最强端侧小模型:2B参数越级跑赢GPT-3.5-Turbo
谷歌也来卷「小」模型了,一出手就是王炸,胜过了比自己参数多得多的GPT-3.5、Mixtral竞品模型。今年 6 月底,谷歌开源了 9B、27B 版 Gemma 2 模型系列,并且自亮相以来,27B 版本迅速成为了大模型竞技场 LMSYS Chatbot Arena 中排名最...……更多
更多关于科技的资讯:
华为全新三折叠专利公布:双铰链联动 可一次性完全展开屏幕
快科技9月20日消息,全球首款三折叠手机华为Mate XT今天已经正式开售,19999元的起售价依然被秒抢光,展示了空前热度
2024-09-20 18:24:00
超重磅企业名单一览 数百家央国企、上市公司将齐聚9.26武汉大宗供应链业务对接会!
9月26日,2024新质生产力赋能大宗商品供应链创新发展论坛超重磅拟邀参会名单一览,你想合作的对象都来了。这将是一场全国性大宗商品供应链生态企业商机对接大会
2024-09-20 19:23:00
合肥海关截获输入性蝇蛹2300余只:可传播多种疾病
9月20日消息,据媒体报道,合肥海关所属铜陵海关关员在对两批次装载铅矿石和锌矿石的入境集装箱实施检疫查验时截获蝇蛹2300余只
2024-09-20 19:24:00
新研究发现:少一颗牙大脑衰老近一岁
快科技9月20日消息,据媒体报道,一项发表在《神经科学杂志》上的研究指出,每缺失一颗牙齿,大脑的衰老程度可能接近一岁。研究团队通过定期的认知功能评估与牙齿健康状况记录
2024-09-20 19:24:00
香港小姐正式开撕!亚军回应花钱买奖人品差等传闻
《2024香港小姐竞选》决赛日前圆满结束,出炉冠亚季军分别是2号“城大李嘉欣”倪乐琳(Ellyn)、11号梁嘉莹(Emily)及4号杨梓瑶(Amina)
2024-09-20 19:24:00
历经20年 Linux主线内核终合并史诗级补丁PREEMPT_RT!微秒内响应事件
快科技9月20日消息,在2024年9月的欧洲开源峰会上,Linux创始人Linus Torvalds宣布,“PREEMPT_RT”(实时Linux)补丁已被正式合并进Linux主线内核
2024-09-20 19:24:00
风华十五载!拿声国际水润征程 声动未来
拿声国际,于2009年起碇扬帆,是目前国内唯一一家专门服务于饮用水行业的品牌营销策划公司。立业十五载,拿声国际不仅见证着众多饮用水品牌从无到有
2024-09-20 19:26:00
Lavazza跨界联名“玩”出新高度 续写上海大师赛佳话
在全球市场一体化的时代潮流中,品牌间跨界合作的营销模式屡见不鲜。这种强强联合不仅能共享资源,更能爆发出1+1大于2的效果
2024-09-20 19:26:00
李斌艾铁成共同透露:乐道第二款中大型SUV将于2025年推出
快科技9月20日消息,在9月20日的乐道品牌媒体见面会上,蔚来创始人、董事长兼CEO李斌和蔚来高级副总裁兼乐道汽车总裁艾铁成回答了关于乐道品牌发展的多个问题
2024-09-20 19:54:00
挑战世界级难题!华为主机上云方案正式发布:2秒内发现故障
快科技9月20日消息,在今天的华为全联接大会2024上,华为常务董事、华为云CEO张平安正式发布了华为主机上云解决方案
2024-09-20 19:54:00
2199元!锐龙5 7600X3D正式开卖:102MB缓存超所有Zen5
快科技9月20日消息,AMD锐龙5 7600X3D游戏处理器今日起正式在京东开卖,定价2199元,晒单还有机会赢取50元的京东E卡
2024-09-20 19:55:00
上一款改名的是骁龙888!曝高通骁龙8 Gen4又要改名:网友热议
快科技9月20日消息,博主数码闲聊站暗示,高通下一代骁龙平台不叫骁龙8 Gen4,高通会有新的命名。在评论区,不少网友给骁龙8 Gen4起名
2024-09-20 19:55:00
民宿客人住9天留下358个空酒瓶:屋内整整齐齐摆满
9月20日消息,据媒体报道,辽宁一位民宿老板娘在客人退房后收拾房间,打开房间后却被眼前一幕惊呆,房子里整整齐齐摆满了啤酒瓶子
2024-09-20 19:55:00
《黑神话:悟空》DLC剧情似泄露!美术总监杨奇暗示鹤仙人不能打
快科技9月20日消息,《黑神话:悟空》凭借其深厚的文化底蕴和出色的游戏品质,取得了令人瞩目的成绩,其中的剧情也获得了众多玩家的讨论
2024-09-20 19:55:00
北京首例花木数据资产入表 引领花卉产业数智化转型
本文转自:人民网-北京频道人民网北京9月20日电 (记者鲍聪颖)9月20日,“产业链协同下的花木产业数智化转型”研讨会暨国内首个花木数据资产入表案例发布仪式在北京花乡花木集团开启
2024-09-20 20:01:00