• 我的订阅
  • 头条热搜
挑战Scaling Law,Meta发布移动端350M小模型MobileLLM,性能比肩7B LLaMA-v2
【新智元导读】Scaling Law还没走到尽头,「小模型」逐渐成为科技巨头们的追赶趋势。Meta最近发布的MobileLLM系列,规模甚至降低到了1B以下,两个版本分别只有125M和350M参数,但却实现了比更大规模模型更优的性能。从5月和6月...……更多
掰开安卓手机 满屏都是三个字:大模型
这年头,安卓厂商没个大模型,都不敢开手机发布会了。前脚OPPO刚用大模型升级了语音助手,后脚vivo就官宣自研手机AI大模型;小米发布会则直接将大模型当场塞进手机系统……其竞争激烈程度,不亚于抢芯片首发。到底是怎...……更多
高通打响围攻英特尔的第一枪
...升 25%,目前骁龙 8Gen 3 已支持运行 100 亿参数的生成式 AI 模型。如果使用搭载 8Gen 3 平台的智能手机运行 Stable Diffusion,只需不到 1 秒就可以用文本生成图像。图片来源:高通如果只对比参数,100 亿模型参数要较 GPT 4 和 Llama2 等..……更多
高通骁龙:端侧AI 启幕移动智能“芯”时代
...界面里看到的那些“AI”还不太一样,今年的AI专指“AI大模型”这个随ChatGPT火到已经泛滥的概念,是一种基于生成式AI技术的大语言/大视觉模型,主要用于图文相关的自然语义理解、处理乃至于创作生成——即与AI大模型概念同...……更多
MediaTek发布天玑9300旗舰5G生成式AI 移动芯片,开启全大核计算时代
...可实现更加高速且安全的边缘AI计算,深度适配Transformer模型进行算子加速,处理速度是上一代的8倍,1秒内可生成图片。基于亿级参数大语言模型特性,MediaTek开发了混合精度 INT4 量化技术,结合MediaTek特有的内存硬件压缩技术Ne...……更多
最强安卓SoC!联发科天玑9300正式发布
...可实现更加高速且安全的边缘AI计算,深度适配Transformer模型进行算子加速,处理速度是上一代的8倍,1秒内可生成图片。 基于亿级参数大语言模型特性,联发科开发了混合精度INT4量化技术,结合联发科特有的内存硬件压缩技术...……更多
​全大核天玑9300登场!实测性能、能效兼优站稳旗舰!
...备行业首款内存硬件压缩技术NeuroPilot Compression,能让大模型的内存占用大幅降低,从而使用生成式AI应用更加流畅。联发科表示,天玑9300是首个在移动芯片上成功运行了行业最高的330亿参数AI 大语言模型的芯片。这样一来,时...……更多
oppo首个端侧应用70亿参数大模型findx7系列
...的首个听筒/免提双模卫星通话,首个端侧应用70亿参数大模型,首次亮相的潮汐架构等诸多前沿技术。此次宣布的全新技术组合将全面落地下一代旗舰产品FindX7系列,为2024年旗舰手机树立全新的技术标杆,并为消费者带来刷新...……更多
手机市场深陷泥沼,厂商如何破冰?
...题,在这一关键节点,厂商们亟需新的解题思路。3、大模型被认为是下一突破点,但仍没合适的落地方式。自2023年初大模型成为互联网发展技术趋势的关键词,手机厂商关于大模型的探讨就一直没有停止。从逻辑上讲,手机厂...……更多
苹果发布mm1.5-ui模型
...13日消息,近日,苹果公司推出了300亿参数的多模态AI大模型MM1.5,该版本是在前代MM1的架构基础上发展而来的。该模型继续遵循数据驱动的训练原则,着重探究在不同训练周期中混合各类数据对模型性能产生的影响,相关模型文...……更多
首个多模态连续学习综述,港中文、清华、UIC联合发布
...态连续学习的最新进展连续学习(CL)旨在增强机器学习模型的能力,使其能够不断从新数据中学习,而无需进行所有旧数据的重新训练。连续学习的主要挑战是灾难性遗忘:当任务按顺序训练时,新的任务训练会严重干扰之前...……更多
大模型新趋势之MoE:现状、挑战及研究方向
2024年,全球主流企业加快推出MoE大模型,1-5月发布千亿以上大模型均采用MoE优化架构,且数量超过近三年总和。MoE大模型架构凭借平衡大模型训推成本和计算效率等优势,更适合处理大规模数据和复杂任务,已成谷歌、OpenAI、...……更多
双模卫星通话、70亿参数大模型......OPPO提前发布了一大波Find X7系列新技术
...统性介绍了相关的新特性。首先登场的当然是AI,当前大模型的相关应用已经是行业最热门的概念,这次的Find X7系列自然也不甘落后。OPPO宣布,将在 Find X7 系列上实现行业首个端侧应用的70亿参数的模型。为了能够将这套大模型...……更多
骁龙8至尊版混合架构、成本揭秘:更贵是不可避免的!
...NPU的性能和AI的运用,比如NPU可以在后台灵活调度大语言模型的推理。这正是Hexagon NPU架构设计的初衷,其不仅性能卓越,而且能效显著提升,对比上代每瓦性能提升了多达45%。同时,新的架构可以针对广泛的应用场景,提供相...……更多
全新一代天玑9300全大核架构,到底有何玄机?
...可实现更加高速且安全的边缘AI计算,深度适配Transformer模型进行算子加速,处理速度是上一代的8倍,1秒内可生成图片。APU790还支持混合精度度INT4量化技术,结合联发科独有的内存硬件压缩技术NeuroPilotCompression,可以更高效地...……更多
微软连发3款Phi-3.5模型:128K上下文,首用MoE架构,部分性能超GPT-4o mini
...东西8月21日消息,今天,微软一口气甩出3款超强轻量级模型!微软本次发布的轻量级模型系列名为Phi-3.5,适合在内存和算力受限的环境中运行,均支持128k上下文长度。Phi-3.5-mini-instruct主要面向基础快速推理任务,Phi-3.5-MoE-instru...……更多
amd发布代号lunarlake的下一代移动处理器
...SV独立软件供应商的支持,AI加速功能已经超过300项,AI大模型加速优化已经超过500项,遍布各行各业。Intel预计,到2025年底,Intel平台的AIPC全球出货量将超过1亿台,涵盖超过230款产品设计、250多家零售商、48个国家和地区。目前...……更多
比Stable Diffusion便宜118倍!1890美元训出11.6亿参数高质量文生图模型
...研究人员,利用延迟掩蔽、MoE、分层扩展等策略,将扩散模型的训练成本降到了1890美元。训练一个扩散模型要多少钱?之前最便宜的方法(Wuerstchen)用了28400美元,而像Stable Diffusion这样的模型还要再贵一个数量级。大模型时代...……更多
让AI无处不在 高通全面开启终端侧生成式AI大门
...,AI将重塑消费者对用户体验的感知,骁龙将成为所有AI模型在终端侧运行的首选平台。基于这样的价值考量,在今年骁龙峰会上,高通推出了两款全新平台,二者无不强调了终端侧生成式AI体验的需求,从底层为用户提供贴近生...……更多
传统与AI性能两开花:AMD Zen 5架构处理器全解析
如今我们早已进入了AI时代,包括ChatGPT、LLM等模型应用已经让人们的生活得到天翻地覆的变化,对于CPU等硬件厂商来说,AI大规模普及带来的算力要求达到了前所未有的程度,除了面向AI训练的服务器级别的硬件之外,主要用于A...……更多
小模型正在成为AI界的新宠
大模型的发展已经进入了万亿级参数时代。DeepMind 联合创始人穆斯塔法・苏莱曼(Mustafa Suleyman)预测, 仅在未来三年内,大模型规模以惊人的速度继续扩张,将增长 1000 倍。一方面,模型的参数量与其能够处理和学习的复杂性...……更多
Find X7正式发布!天玑9300带来极致性能
...的“年度AI移动平台”。而OPPOFindX7作为规模化应用70亿大模型的旗舰手机,也将为大家带来令人惊艳的生成式AI体验。”生成式AI是一种能够根据用户的需求,自动生成内容的技术,比如图片、视频、音乐、文本等。生成式AI的应...……更多
天玑9300抢先实测:全大核架构将如何改变手机体验?
...在游戏体验上将为我们带来哪些新的提升。 而在端侧大模型、生成式AI成为行业热点的今天,天玑9300今年也在AI领域发力。其内置的MediaTek第七代AI处理器APU 790采用生成式AI而设计,它的整数运算和浮点运算的性能是前一代的2倍...……更多
中国最大开源MoE模型,255B参数无条件免费商用,元象发布
元象XVERSE发布中国最大MoE开源模型:XVERSE-MoE-A36B,该模型总参数255B,激活参数36B,达到100B模型性能的「跨级」跃升。同时训练时间减少30%,推理性能提升100%,使每token成本大幅下降。在多个权威评测中,元象MoE效果大幅超越多...……更多
AI大模型行业报告:大模型发展迈入爆发期,开启AI新纪元(附下载)
技术:大模型发展呈现“规模定律”,Transformer为技术基座1.1 大模型“大力出奇迹”的背后:Scaling Law大规模语言模型(Large Language Models,LLM)泛指具有超大规模参数或者经过超大规模数据训练所得到的语言模型。与传统语言模...……更多
发哥要“屠龙”!全大核设计、天玑9300跑分突破200万!
...升30%,GPU性能提升25%,NPU性能提升98%,支持100亿参数的大模型之前的传闻显示,骁龙8Gen3基于台积电4nm工艺制程,采用了1+3+2+2的全新八核四丛集架构设计,包括一颗Cortex-X4超大核,三颗Cortex-A720大核,还有两颗主频略低的Cort...……更多
引领全大核性能时代 联发科天玑9300旗舰芯体验解析
...临着很多痛点,比如终端内存限制、端侧生成速率以及大模型数量受限等。为此发哥通过多项技术上的突破,成功解决了这些痛点。首先是大模型对于手机内存占用的问题,以130亿参数大模型为例,正常情况下它所需的内存为13G...……更多
北大林宙辰团队全新混合序列建模架构MixCon:性能远超Mamba
...领域中,序列建模是一项至关重要的任务。然而,现有的模型在捕捉长程依赖关系和高效建模序列方面仍面临诸多挑战。因此,北京大学林宙辰、徐鑫提出了一种全新混合序列建模架构 ——MixCon,它为解决这些难题带来了创新...……更多
《永劫无间》手游首次将具有18亿参数的大语言模型引入终端侧
...,高通公司宣布和智谱、腾讯混元合作,共同推动端侧AI模型部署和落地。骁龙8至尊版芯片AI性能HexagonNPU融合了包含标量(scalar)、向量(vector)和张量(tensor)等AI加速器架构,支持INT4、INT8、INT16和FP16精度,能够利用大型语...……更多
天玑9300 苏黎世AI跑分超2000,AI性能第一
...AI引擎,带来又快又安全的边缘AI计算,深度适配Transformer模型进行算子加速,处理速度是上一代的8倍,AI生成图片快到只需要1秒。为了将亿级参数AI大语言模型“塞”进手机,联发科开发了混合精度INT4量化技术,结合其特有的...……更多
更多关于科技的资讯:
荣耀平板v9正式开售:搭载联发科8350处理器
12月16日晚,荣耀正式发布荣耀平板V9。12月24日,CNMO注意到,据荣耀官方消息,荣耀平板V9正式开售时间为今日早上10点08分
2024-12-25 16:43:00
“树人托管惊爆招商新政策,千万别错过这波机遇!“
在当前经济波动和服务业不断深入发展的大背景下,家庭服务业的细分行业——中小学生校外托管行业也面临前所未有的发展机遇,受到广泛的关注
2024-12-25 16:45:00
通讯员 李国秀 王俊菲走进山东厚丰汽车散热器有限公司的研发基地,精密的仪器彰显着高端的科技,其中整车环境模拟实验室可以将环境温度保持在-40℃—60℃的范围内进行试验
2024-12-25 16:54:00
小米官宣:与蔚来、小鹏、理想合作
12月25日,小米汽车通过官方微博宣布,正式与蔚来汽车、小鹏汽车、理想汽车展开充电补能网络合作。此次合作旨在为用户提供更高效便捷的充电服务
2024-12-25 16:55:00
拼多多代运营领域靠谱的代运营团队,电商代运营公司十大排名
在拼多多这个竞争超级激烈的电商平台里混,商家们的日子可不容易。流量就那么多,大家都在抢,想多卖点货、多赚点钱,简直难如登天
2024-12-25 17:10:00
2024“星鲨杯”全球虚拟现实内容大赛颁奖典礼暨《虚拟/增强现实内容制作流程规范》国家标准系列宣贯活动在京举行
中国消费者报北京讯(记者董芳忠)由虚拟现实内容制作中心、星鲨科技集团有限公司主办,青岛星鲨虚拟现实技术研究院协办的2024“星鲨杯”全球虚拟现实内容大赛颁奖典礼于近日在北京举行
2024-12-25 17:46:00
发展新质生产力看山西国企:山西省首个数字孪生隧道全息感知平台正式上线
近日,山西交控交科集团智研院公司研发的山西省首个数字孪生隧道全息感知平台正式上线,并在大南山隧道管理站正式投入使用。此平台是基于数字时空底座能力
2024-12-25 17:47:00
让顺风车用户再次同行更便捷 嘀嗒出行上线顺风车“再次同行邀请”功能
顺风出行,如何更方便地与同行过的同路人再次同行呢?近日,嘀嗒出行推出全新的再次“同行邀请“功能,让曾同行过的车主乘客,下次同行更方便
2024-12-25 17:48:00
嘉桦白桦树汁品牌践行人与自然和谐共生
12月18日,第七届界面财经年会在上海举行,嘉桦白桦树汁品牌凭借其卓越的创新能力和可持续发展实践,荣膺年度臻善企业奖,彰显了品牌在行业内的领先地位与社会责任感
2024-12-25 17:49:00
临沂:企业开足马力赶订单 奋力冲刺“全年红”
冲刺四季度,打好收官战。连日来,临沂市各企业纷纷按下生产“快进键”,开足马力赶订单,奋力夺取“全年红”。
2024-12-25 17:49:00
“潮好玩冰雪季”圆满收官,耕升带你回顾趣味瞬间!
“潮好玩冰雪季”已于2024年12月22日在吉林圆满收官!为了让众多游戏迷和科技爱好者积极参与到这次盛大的活动中,耕升上演一场科技与冰雪的激情碰撞
2024-12-25 17:58:00
中新经纬12月25日电 据工信部官网25日消息,近日,工业和信息化部、国务院国有资产监督管理委员会及中华全国工商业联合会联合印发《制造业企业数字化转型实施指南》(以下简称“《指南》”)
2024-12-25 17:58:00
华商网获评2024年搜狐网年度合作伙伴
2024年,媒体机构创作者们依旧积极活跃在搜狐平台上,持续追踪热点新闻、深度剖析社会现象。以其独特的视角和力量,跨越时空界限
2024-12-25 18:08:00
未来已来,华科尔推出量产级车载无人机WK-AC20MINI
在汽车上配备无人机,一直是汽车行业的宏大梦想之一。如今,梦想照进现实,作为全球主流的无人机制造商,华科尔推出全新的微型车载无人机场WK-AC20MINI
2024-12-25 18:26:00
京东客服再加薪!月固定工资大幅提升,全员平均涨薪2个月
12月25日,京东集团宣布,再次升级客服人员薪酬福利。超2万名京东客服月固定工资将大幅提升,提高收入的保障性和稳定性,实现全员平均涨薪2个月
2024-12-25 18:28:00