• 我的订阅
  • 头条热搜
奔腾2 CPU+128MB内存成功运行Llama大模型:速度还挺快
...视频,展示了在一台26年历史的Windows 98奔腾2 PC上运行大模型(LLM)。这台主频350MHz电脑成功启动进入Windows 98系统,随后EXO启动了基于Andrej Karpathy的Llama2.c定制的纯C推理引擎,并要求LLM生成关于“Sleepy Joe”的故事,令人惊……更多
苹果取得技术突破:可在 iPhone 上运行大型语言模型
...功地在内存有限的iPhone和其他苹果设备上部署了大型语言模型(LLM)。这一成果有望让更强大的Siri、实时语言翻译以及融入摄影和增强现实的尖端AI功能登陆未来iPhone。近年来,像ChatGPT和Claude这样的LLM聊天机器人风靡全球。它...……更多
大模型猛吃存储空间,AI手机开堆大内存
...越来越依赖充足的手机运行内存了。一、3.8亿参数量的小模型,却占了近1/4的手机运行内存设想你手上拿着一台搭载了AI功能的手机,正忙着回复客户消息。此时,你收到老板发来的一封数百字的加急电子邮件,却一时半会儿腾...……更多
苹果或通过新的闪存利用技术,让iPhone等设备运行LLM
...能支持的应用受到了不少用户的欢迎,背后需要大型语言模型(LLM)提供支持。虽然苹果在人工智能方面暂时还没有带来重量级的功能,不过近期公布的论文显示,苹果在人工智能研究上已经下了不少功夫。据TechPowerup报道,苹...……更多
英伟达发布Llama-3.1-Nemotron-51B AI 模型
...伟达 9 月 23 日发布博文,宣布推出 Llama-3.1-Nemotron-51B AI 模型,源自 Meta 公司的 Llama-3.1-70B,不过创新使用神经架构搜索(NAS)方法,建立了一个高度准确和高效的模型。Llama-3.1-Nemotron-51B 简介Llama-3.1-……更多
图灵奖得主Yoshua Bengio新作:Were RNNs All We Needed?
自从 Transformer 模型问世以来,试图挑战其在自然语言处理地位的挑战者层出不穷。这次登场的选手,不仅要挑战 Transformer 的地位,还致敬了经典论文的名字。再看这篇论文的作者列表,图灵奖得主、深度学习三巨头之一的 Yoshu...……更多
ai改变世界?英特尔轻薄本体验测试
...,因为AI更多是被用在专业领域。直到最近,生成式AI大模型浪潮席卷全球,AIGC产品喷薄而出,“AI改变世界”这句话,才仿佛第一次带来了真实、可感知的震撼。它让我们普通人也能通过简单直观的“输入-输出”,就可以用AI...……更多
史上最快AI芯片「Sohu」,速度10倍于B200,哈佛辍学生打造
...辑:泽南、杜伟生成式 AI 推理性价比是 GPU 的 140 倍。大模型时代,全球都缺算力,买铲子的英伟达市值被炒上了天。现在,终于有一家公司带着自己的 AI 芯片来叫板了。今天凌晨,科技圈迎来了一个重要新闻。美国芯片创业公...……更多
GPU训Llama 3.1疯狂崩溃,竟有大厂用CPU服务器跑千亿参数大模型?
【新智元导读】是时候用CPU通用服务器跑千亿参数大模型了!马斯克19天建成由10万块H100串联的世界最大超算,已全力投入Grok 3的训练中。与此同时,外媒爆料称,OpenAI和微软联手打造的下一个超算集群,将由10万块GB200组成。...……更多
晶圆级AI芯片WSE-3性能公布:80亿参数模型上每秒生成1800个Token
...上一代WSE-2的两倍,可用于训练业内一些最大的人工智能模型。在近日的Hot Chips 2024大会上,Cerebras Systems详细介绍了这款芯片在AI推理方面的性能。根据官方资料显示,WSE-3依然是采用了一整张12英寸晶圆来制作,基于台积电5nm制...……更多
AIGC风潮席卷手机:但在PC面前 还是个弟弟
...方面,对于AI而言,最基础的前提一是算力是否够强大、模型和算法是否够丰富,二就是应用场景是否够广泛、灵活。无需赘言,手机和PC相比无论CPU性能还是GPU性能,根本不在一个档次,即便加入独立的AI引擎,也是看不见尾灯...……更多
AI推理速度提升超10倍,Groq LPU能否取代英伟达GPU?
...消息,美国人工智能初创公司Groq最新推出的面向云端大模型的推理芯片引发了业内的广泛关注。其最具特色之处在于,采用了全新的Tensor Streaming Architecture (TSA) 架构,以及拥有超高带宽的SRAM,从而使得其对于大模型的推理速度...……更多
三星推出新型存储器LLW DRAM,为人工智能市场注入新动力
...带宽、低延迟和低功耗的三大特性,旨在为运行大型语言模型(LLM)的设备提供强大的支持。 #热点引擎计划#在当今这个数据驱动的时代,大型语言模型已经成为了人工智能领域的重要组成部分。这些模型需要处理海量的数据,...……更多
安兔兔评测pc版正式发布,欢迎大家下载体验
...估,小到简单的数学运算,大到复杂的逻辑推理和大语言模型问答等多个方面,更加全面地展现CPU在不同AI应用中的表现。由于CPU属于计算机的核心部件,所以在AI处理中起着至关重要的作用。GPU测试部分,与CPU的测试基本相同...……更多
苹果回应AI功能机型限制 不是套路老机型速度慢
...度,内存容量甚至只有百元入门级水准。而苹果使用的大模型,大概只有30亿参数,如果使用更大的模型,必须提高内存规格。 ……更多
CPU,正在被AI时代抛弃?
...对话可以通过语音识别技术被录入到病例系统中,随后大模型AI推理技术辅助进行智能总结和诊断,医生们撰写病例的效率显著提高。AI推理的应用不仅节省了时间,也保护了患者隐私;在法院、律所等业务场景中,律师通过大...……更多
AI“淘汰”老款iPhone!曝苹果AI吃硬件,目前只有两款iPhone能用
...行内存。正因为低容量运行内存的限制,苹果在大型语言模型(LLM)的开发上,一直面临着非常严重的限制,无法满足大型语言模型对于运行内存的要求。 据悉,Apple Intelligence目前曝光的一些主要 AI 功能有:通知:AI 通知摘要...……更多
掰开安卓手机 满屏都是三个字:大模型
这年头,安卓厂商没个大模型,都不敢开手机发布会了。前脚OPPO刚用大模型升级了语音助手,后脚vivo就官宣自研手机AI大模型;小米发布会则直接将大模型当场塞进手机系统……其竞争激烈程度,不亚于抢芯片首发。到底是怎...……更多
英特尔aigc在pc上的应用
...,当我们谈到AIGC的变革意义,其实主要还是集中在以大模型为核心的“变革内容生产方式”与“变革人机交互方式”两个方面,一言以蔽之,就是AIGC对于我们生产力的解放。而说到生产力,其实至少现阶段,对于大部分用户来...……更多
让一台普通PC欢快地跑起AIGC:Intel做到了!
...实现足够实用的AIGC,从算力强大的硬件到参数丰富的大模型,从精确合理的算法到高效便捷的应用,缺一不可。我们知道,在过去,AIGC更多在云侧服务器上,虽然性能、模型、算法都不是问题,但一则需要大量的资金投入,二...……更多
苹果大模型,不藏了
岁末年初,苹果加快了在大模型领域的步伐。上个月,苹果先是推出了名为Ferret的多模态大语言模型,图像处理技术堪称惊艳;而后又发布了一篇题为《闪存中的大型语言模型:在有限内存下高效的大型语言模型推理》的论文...……更多
vivo开发者大会,originos4流畅好用
...新的OriginOS4系统在本次发布会中亮相。OriginOS4集成蓝心大模型,更智慧,让手机成为你的专属私人助理;同时搭载虚拟显卡、异构计算空间等技术,更流畅,从丝滑轻盈到舒适愉悦。还拥有全链路会议助手、离库导航优化等功能...……更多
引领全大核性能时代 联发科天玑9300旗舰芯体验解析
...临着很多痛点,比如终端内存限制、端侧生成速率以及大模型数量受限等。为此发哥通过多项技术上的突破,成功解决了这些痛点。首先是大模型对于手机内存占用的问题,以130亿参数大模型为例,正常情况下它所需的内存为13G...……更多
Mamba再次挑战霸主Transformer!首个通用Mamba开源大模型一鸣惊人
【新智元导读】TII开源全球第一个通用的大型Mamba架构模型Falcon Mamba 7B,性能与Transformer架构模型相媲美,在多个基准测试上的均分超过了Llama 3.1 8B和Mistral 7B。今天,阿布扎比支持的技术创新研究所(TII) 开源了全球第一个通用的...……更多
微软与英特尔的AI PC标准公布,支持这三点才算
...AI任务,如果有需要的话,NPU还可以与GPU协同运行大语言模型。英特尔还提到,运行AI大模型种类繁多且运算要求高,因此对于内存的容量和速度也有着较为苛刻的要求,未来执行大语言模型时,内存容量可能会成为一个关键制...……更多
vivo蓝河不息,蓝河操作系统BlueOS启航通用人工智能时代
...影响范围也更广,除了备受期待的OriginOS 4及自研蓝心大模型,一个自研的系统也浮出水面,vivo称之为蓝河操作系统BlueOS。蓝河操作系统BlueOS是vivo面向通用人工智能时代自研的操作系统,也是vivo对人工智能与用户与生态三者关...……更多
Pixel8系列将内置Google Gemini大模型
...解的声明,宣布仅限Pixel8Pro手机可以运行其最新人工智能模型“GoogleGemini”,而Pixel8则因所谓的“硬件限制”而被排除在外。尽管两款手机配置相似,但谷歌声称Pixel8的硬件无法支持该模型的运行,引发了广泛质疑。几周后,谷...……更多
00后华裔小哥哈佛辍学组团挑战英伟达,史上最快AI芯片Sohu推理性能超H100二十倍!
...押注人工智能领域最大的赌注——一种只能运行Transformer模型的芯片,但其运行速度比GPU快几个数量级。也许注意力确实是你所需要的全部...」 Pika研究人员表示,每秒50万token简直太疯狂了。你可以在2秒内写出「圣经」,或者...……更多
提供16GB大内存,Reno12系列手机带来流畅体验
...平和用户体验。比如,Reno12系列支持AI消除功能,基于大模型的AI消除功能通过智能识别和一键操作,能够迅速去除照片中的路人和杂物,同时利用先进的深度学习技术对背景进行细节和纹理的智能填补。最后,16GB内存还有助于...……更多
苹果手机不会上大模型,内存太小吃不消
最近这两年,随着ChatGPT和各种国产大模型的出现,“人工智能”成为了热度最高的字眼之一。有机构预测称,2024年将会是AIPC元年。而在手机市场上,华为、荣耀、小米、OPPO、vivo等手机厂商也开始扎堆发展大模型。不过,近日...……更多
更多关于科技的资讯:
手机上好看的照片在PC上被打回原形!背后原因揭开
在如今这个移动影像盛行的时代,手机毫无悬念地成为了大家记录生活点滴的得力“神器”。咱们用手机随手一拍,那照片在手机屏幕上呈现出来的效果
2025-04-12 23:50:00
联发科天玑9400e五月见:性能超越骁龙8 Gen3
快科技4月12日消息,博主数码闲聊站暗示,联发科天玑9400e的跑分成绩超过了高通骁龙8 Gen3和骁龙8s Gen4
2025-04-12 23:50:00
网上的1TB机械硬盘只要50元:背后有猫腻
虽然固态硬盘的价格已经降了不少,但是超大容量存储还得看机械硬盘。如果在购物平台搜过硬盘,你可能会被那些硬盘的价格感到震惊
2025-04-13 00:20:00
用数据告诉你 为什么不要再买GTX 750Ti了
如果说显卡经典永流传有段位的话,那么GTX1060占一席位,GTX750Ti也要占一席位。GTX750Ti的神奇之处在于
2025-04-13 00:20:00
河北一摄像头拍到“风的轨迹”:雨水被大风刮得横着走
4月13日消息,据媒体报道,近日河北张家口康保县的一个摄像头拍下雨水被大风刮得“横着走”的场景。根据监控数据,当地风速达19米/秒
2025-04-13 00:50:00
大风天气减少外出!北京大风吹倒超1200株树木
4月13日消息,据媒体报道,截至4月12日19时00分,北京全市园林绿化系统累计出动巡查抢险人员29629人次,车辆4394台次
2025-04-13 00:50:00
透过3个经济指数看信心(经济新方位)
本文转自:人民日报新近公布的制造业、零售业、物流业相关指数均处于扩张区间——透过3个经济指数看信心(经济新方位)本报记者 刘温馨 王 珂 韩 鑫图①
2025-04-13 05:56:00
本文转自:人民日报孟祥夫“现在,人工智能这么强大,啥都会,孩子还那么努力学习干吗?绘画、书法都不用学了。”一位朋友在聊天中说道
2025-04-13 05:58:00
4月12日,携程口碑榜2025年度目的地榜单发布,太原市入选“2025亚洲100经典目的地”“2025中国50艺术瑰宝目的地”“2025中国100经典目的地”3个榜单
2025-04-13 06:31:00
越来越多国家加入!法国网友自发组抵制美货消费者群:开始抵制可口可乐和麦当劳等
4月13日消息,据国外媒体报道称,随着美国关税大棒挥向全球,一些国家和地区的用户开始自发的抵制美国商品了。法国“抵制美货”的风潮也愈演愈烈
2025-04-13 07:20:00
消博会时装秀启幕 T台入展会“即秀即购”让时尚“破界跨圈”
南海网4月12日消息(记者 周静泊)4月12日晚,第五届中国国际消费品博览会时装秀在cdf海口国际免税城拉开帷幕。今年
2025-04-12 23:20:00
vivo智能戒指专利公布:能自动定位最佳动脉监测点
快科技4月12日消息,近日,vivo公司获得了一项智能戒指专利,通过传感器能够自动寻找到最佳的动脉监测点。专利文件显示
2025-04-12 18:20:00
网友体验REDMI K80一碰秒传功能:手机PC互联秒速搞定
快科技4月12日消息,有博主发视频分享了REDMI K80的一秒碰传功能,仅需将K80碰一碰REDMI Book触控板
2025-04-12 18:50:00
水中大熊猫 超22万尾子二代中华鲟放归长江
快科技4月12日消息,“2025年中华鲟增殖放流活动”今天在宜昌、荆州两地同步举行,超22万尾子二代中华鲟放归长江。该活动由三峡集团联合湖北省农业农村厅举办
2025-04-12 18:50:00
关税提高别怕 东方甄选启动“外贸优品入驻”专项行动
快科技4月12日消息,东方甄选今日发布公告称,即日起正式启动“外贸优品入驻”专项行动,让更多优质外贸产品走进直播间,服务国内消费者
2025-04-12 18:50:00