• 我的订阅
  • 头条热搜
史上最快AI芯片「Sohu」,速度10倍于B200,哈佛辍学生打造
...辑:泽南、杜伟生成式 AI 推理性价比是 GPU 的 140 倍。大模型时代,全球都缺算力,买铲子的英伟达市值被炒上了天。现在,终于有一家公司带着自己的 AI 芯片来叫板了。今天凌晨,科技圈迎来了一个重要新闻。美国芯片创业公...……更多
用60%成本干80%的事,DeepSeek分享沉淀多年的高性能深度学习架构
... 3 倍、DRAM 带宽增长 1.6 倍、互连带宽则仅有 1.4 倍。而大模型是大数据 + 大计算的产物,其参数量可达千亿乃至万亿规模,需要成千上万台 GPU 才能有效完成训练。这些实际情况提升了人们对高性能计算(HPC)的需求。为了获得...……更多
李开复回应旗下AI独角兽陷“套壳”争议:起步受益于开源,会进步
...前“套壳”争议的官方回应,并在配文中写道:“全球大模型架构一路从GPT2-->Gopher-->Chinchilla-->Llama2->Yi,行业逐渐形成大模型的通用标准(就像做一个手机APP开发者,不会去自创iOS、Android 以外的全新基础架构)。01.AI.……更多
第三代骁龙8技术规格解析 手游进入240帧时代
...S,能效还降低了40%,能够在端侧运行100亿参数的生成式AI模型。针对音频、传感器这种需要长时间待机的AI使用场景,专门提供了2个低功耗的NPU单元。另外,在内存和NPU之间建立了直连通道,运算上会更具效率。在强大的AI算力...……更多
苹果公司公布“mm1”多模态大模型
...dalLLMPre-training》的论文,其中介绍了一款“MM1”多模态大模型,该模型提供30亿、70亿、300亿三种参数规模,拥有图像识别和自然语言推理能力。IT之家注意到,苹果研究团队相关论文主要是利用MM1模型做实验,通过控制各种变量...……更多
荣耀magic6搭载骁龙8gen3移动平台
...ic6将搭载全新骁龙8Gen3移动平台,支持70亿参数的AI端侧大模型,并首次向外界展示了荣耀手机端侧AI大模型的部分功能,以及MagicRing信任环在跨系统、跨设备、跨应用的无缝流转体验升级。与云侧AI大模型不同,荣耀端侧AI大模型...……更多
腾讯开源最大MoE大语言模型!3D大模型同时支持文/图生成,晒混元模型及应用全家桶
智东西11月5日报道,今日,腾讯宣布开源MoE大语言模型混元Large、腾讯混元3D生成模型Hunyuan3D-1.0正式开源,并全面披露腾讯混元的全系列多尺寸模型、C端应用、B端应用版图。腾讯称混元Large是业界参数规模最大、效果最好的开...……更多
Token化一切,甚至网络!北大&谷歌&马普所提出TokenFormer
...者是汪海洋,北京大学20级博士生,目前主要关注是通用模型的架构设计和学习算法。指导教授主要包括王立威,北京大学智能学院教授;Bernt Schiele,德国马普计算所教授;Federico Tombari 谷歌人工智能科学家等。新一代通用灵活...……更多
微软开源爆火1bit大模型推理框架!千亿参数模型量化后单CPU可跑
微软开源1bit大模型推理框架!现在1000亿参数大模型量化后单CPU可跑,速度可达每秒5-7个token。就是今年爆火论文The Era of 1-bit LLMs的官方代码实现,开源不到一周GitHub已揽获7.9k Star。传统大模型参数以16位浮点数(如FP16或BF16)形...……更多
探索终端操作系统领域AI大模型创新趋势 OpenHarmony技术大会OS原生智能分论坛召开
...中,华为昇思MindSpore总架构师金雪锋担任出品人,华为AI大模型应用开发平台架构师王磊担任主持人,与来自华为、中软国际有限公司、深圳市若芯科技有限公司等企业界技术领袖和来自清华大学、上海交通大学等学术界专家学者分...……更多
4090笔记本0.37秒直出大片!英伟达联手MIT清华祭出Sana架构,性能秒杀FLUX
...合成高分辨率、高质量,且具有强文本-图像对其能力的模型。而且,它还能高效生成高达4096×4096像素的图像。项目主页:https://nvlabs.github.io/Sana/论文地址:https://arxiv.org/abs/2410.10629Sana的核心设计包含了以下几个要素:深……更多
iPhone可跑2B小钢炮!谷歌Gemma 2来袭,最强显微镜剖解LLM大脑
【新智元导读】谷歌DeepMind的小模型核弹来了,Gemma 2 2B直接击败了参数大几个数量级的GPT-3.5和Mixtral 8x7B!而同时发布的Gemma Scope,如显微镜一般打破LLM黑箱,让我们看清Gemma 2是如何决策的。谷歌DeepMind的小模型,又上新了!就...……更多
自主研制!我国发布全球首个百亿级遥感解译基础模型
...天信息技术大会上,我国自主研制的百亿级遥感解译基础模型——“空天·灵眸”3.0版正式发布。据了解,这是迄今全球首个百亿参数级空天一体遥感解译基础模型。3.0版内核工作架构基于热传导,这是联合团队自主研发的一套...……更多
...架构一站式解决方案,其中,统一编程套件基于统一编程模型构建了标准开发环境,屏蔽了异构编程模型的范式差异,使能异构环境下的一致性开发体验;源源转换器实现了其它编码模型向统一编程模型的一键转译,转译率达90%...……更多
快手「可灵」爆火:海外AI圈巨震,中国版Sora一号难求
...右侧的这些生成视频,都来自快手刚刚推出的文生视频大模型「可灵」(Kling)。不是预发布、不是纯 Demo 合集,而是直接开放测试的产品级应用,人人都能申请。而且,可灵支持生成最长 2 分钟、30fps 的 1080P 视频,主打从头脑...……更多
通信效率超98%!壁仞科技实现中国首个三种异构芯片混训技术
...案HGCT,业界首次支持3种及以上异构GPU混合训练同一个大模型,用一套统一方案支持多种不同型号、不同厂商的GPU,而且一行代码适配多种框架。壁仞HGCT的异构协同通信效率大于98%、端到端训练效率90-95%,从而突破了大模型异构...……更多
PC迎来AI时刻,英特尔、微软、联想等纷纷布局,产品价格将迎上涨
...出品 | 搜狐科技作者 | 梁昌均当手机厂商都在抢着落地大模型时,另一主流终端PC也来凑热闹。颇为相似的背景是,无论是手机,还是PC,近些年都陷入增长天花板,尤其是PC在过去两年几乎陷入寒冬,各大厂商在存量市场中互相...……更多
万字技术干货!LLM工程师必读量化指南,可视化图解揭秘大模型如何压缩
...量化」的基本概念和分支方法进行了全方位总结。大语言模型(LLM)通常过于庞大,无法在消费级硬件上运行。这些模型的参数可能超过数十亿,通常需要显存较大的GPU来加速推理过程。因此,越来越多的研究开始关注如何缩小...……更多
晶圆级AI芯片WSE-3性能公布:80亿参数模型上每秒生成1800个Token
...上一代WSE-2的两倍,可用于训练业内一些最大的人工智能模型。在近日的Hot Chips 2024大会上,Cerebras Systems详细介绍了这款芯片在AI推理方面的性能。根据官方资料显示,WSE-3依然是采用了一整张12英寸晶圆来制作,基于台积电5nm制...……更多
CES 2024前瞻:红绿蓝“三巨头”相约来“挤牙膏”?
...数据,相比于前代7040系列,锐龙8040系列在Llama 2大语言模型和视觉模型方面,性能可提升最多40%。这次的新品共有9个SKU,可以分为8045HS(35-54W)、8040HS(20-30W)和8040U(15-30W)三大类,进一步细分了一下,对于笔记本厂商来说,可以根...……更多
全面进化的骁龙,打响端侧AI时代的发令枪
...AI引擎性能达75TOPS,支持设备端运行参数量超过130亿的大模型。第一代S7及S7Pro音频平台是首款支持高通扩展个人局域网(XPAN)技术和超低功耗Wi-Fi连接的音频平台,相比前代平台,AI性能提升达近100倍,计算性能提升达6倍,能够...……更多
英伟达发布GB200计算卡:2080亿个晶体管,AI性能提升5倍
...算卡的算力还远远不够,尤其是像Sora这样的文生视频的模型出来,更是对计算卡的算力提出了更高的要求,于是英伟达也适时地推出了下一代GPU,在AI性能上有着突飞猛进的进步,可以说拉了竞争对手整整一代。英伟达在今天凌...……更多
英特尔第五代至强可扩展处理器发布:AI推理性能提升42%!
...。 此外,第五代至强还能够支持运行200亿参数的大语言模型(LLM)。随着GPT-4、Meta的Llama 2和Stable Diffusion等大语言模型的兴起,英特尔也在推动其至强处理器对于相对较小规模的大模型的支持能力,对于这类工作负载,内存带...……更多
科学家打造多模态模型,7B和1.3B小模型均开源,可部署手机等终端
在最近一项研究中,DeepSeek-AI 团队针对多模态大模型展开了深入探索。选择这一研究方向,背后有着多重考量。最初,该团队围绕是否聚焦于多模态生成、多模态理解、或是两者的统一框架进行了广泛讨论。基于对通用人工智...……更多
oppofindx7首搭70亿参数端侧大模型
...是满满。比方说Ai方面实现的行业首个端侧部署70亿参数模型,直接在手机上自动抠图P图、图像延展与生成。还有相比起传统卫星通信手机采用的单天线设计,FindX7系列搭载的卫星天线方向图调控技术,还能够保证用户在听筒和...……更多
成都人形机器人创新中心全国首发 R-DDIRM 高速推理模型
...破,于近日全国首发基于扩散架构的人形机器人高速推理模型 R-DDIRM(Denoising Diffusion Implicit Robot Model)。这是继今年 5 月推出中国首个基于扩散架构人形机器人任务生成式模型 R-DDPRM(Denoising Diffusion Probabi……更多
AIGC风潮席卷手机:但在PC面前 还是个弟弟
...方面,对于AI而言,最基础的前提一是算力是否够强大、模型和算法是否够丰富,二就是应用场景是否够广泛、灵活。无需赘言,手机和PC相比无论CPU性能还是GPU性能,根本不在一个档次,即便加入独立的AI引擎,也是看不见尾灯...……更多
柯瑞文:把握智能化趋势,深化融合应用创新,开启5G发展新阶段
...已经越过向智能云发展的拐点;打造千亿参数星辰基础大模型,近日最新发布了全球首个单体稠密万亿参数语义模型,自研的网络大模型已应用于业务交付、监控排障、维护优化全流程,大幅提升云网运营效率;将量子技术与5G...……更多
赵明:荣耀端侧ai大模型,让手机更懂每一位用户
...高通骁龙8Gen3移动平台,支持荣耀自研70亿参数的端侧AI大模型,为你带来更个性化、更注重隐私保护的智慧体验。当然,对于AI大模型的执念,不只是荣耀,国内的一众厂商都在向大模型方向发力,现在随着骁龙8Gen3的发布,也...……更多
Mamba再次挑战霸主Transformer!首个通用Mamba开源大模型一鸣惊人
【新智元导读】TII开源全球第一个通用的大型Mamba架构模型Falcon Mamba 7B,性能与Transformer架构模型相媲美,在多个基准测试上的均分超过了Llama 3.1 8B和Mistral 7B。今天,阿布扎比支持的技术创新研究所(TII) 开源了全球第一个通用的...……更多
更多关于科技的资讯:
比亚迪刺向理想、华为最强的剑:腾势旗舰SUV N9正式下线
快科技2月8日消息,腾势汽车官宣,品牌旗下全新旗舰SUV车型N9正式下线。腾势销售事业部总经理赵长江透露,腾势N9定位科技豪华全能旗舰SUV
2025-02-08 13:15:00
淘宝元宵节猜灯谜送黄金活动上线:第一题谜面已发布 来猜猜看
快科技2月8日消息,从淘宝官方获悉,淘宝将在元宵节上线猜灯谜送礼活动。此次活动结合了淘宝刚刚上线的“送礼”新功能。在2月8日至2月12日期间
2025-02-08 13:15:00
长沙一小学一二年级9点20上课 让学生每天睡够10小时:官方称可先行先试
快科技2月8日消息,据国内媒体报道称,2月6日晚,长沙麓山国际实验小学宣布新学期将调整作息时间,一二年级学生上午9点20上课
2025-02-08 13:15:00
被AMD打怕!Intel全新处理器阵容曝光:终于不挤牙膏了 最高52个内核/144MB缓存
快科技2月8日消息,10年前谁能想到,Intel和AMD会是现在这种竞争局面呢?根据最新爆料,Ultra 200S系列“失利”后
2025-02-08 13:45:00
打嘴炮也是一种实力!DeepSeek下棋靠忽悠赢了ChatGPT
家人们,要笑不活了。DeepSeek跟ChatGPT下了一把国际象棋,然后……通过忽悠的方式,竟让ChatGPT直接认输
2025-02-08 13:45:00
澳大利亚一户人家后院发现102条毒蛇:明年还来产卵
友情提示:害怕蛇的朋友还请谨慎阅读观看。快科技2月8日消息,据央视报道,澳大利亚悉尼一户人家的后院近日发现了102条有毒的红腹黑蛇
2025-02-08 14:15:00
随着东软全面智能化战略的深入推进,东软积极拥抱AI、大数据等前沿技术,通过对东软自研技术及产品不断迭代,让算法优化升级
2025-02-08 17:57:00
荣耀46年|中宇厨卫,专注于大多数人买得起的高品质产品!
中宇厨卫“JOYOU”创于1979年,是中国具有广泛影响力的集整体厨卫家居研发、销售、服务为一体的大型厨卫股份制企业,涵盖了智能科技
2025-02-08 17:57:00
大众网记者 张艺珅 淄博报道
2025-02-08 18:24:00
凭春节运费不涨价,京东七鲜成为今年春节消费者首选之一的即时零售平台
春节假期历来是传统消费的高峰期。今年春节,即时零售平台凭借高效履约与全渠道服务成为消费者采购年货的主流选择。在众多即时零售平台中
2025-02-08 18:48:00
2月8日消息,百度智能云旗下客悦、曦灵、一见、甄知四款大模型应用产品,正式上线接入DeepSeek模型的新版本,为企业智能外呼
2025-02-08 18:48:00
全球顶尖人工智能科学家加盟 阿里AI To C业务布局再提速
2月6日,全球顶尖人工智能科学家许主洪教授(Steven Hoi)正式加入阿里巴巴,出任阿里集团副总裁,向吴嘉汇报,负责AI To C业务的多模态基础模型及Agents相关基础研究与应用解决方案
2025-02-08 18:48:00
椰树集团举办2025年新春开门红大会 去年产品销售再创新高
2月8日,椰树集团举办2025年新春开门红大会。记者 吴兴财 摄2月8日,椰树集团举办2025年新春开门红大会。记者 吴兴财 摄 南海网2月8日消息(记者 王子遥)记者从2月8日举办的椰树集团2025年新春开门红大会上获悉
2025-02-08 19:06:00
中新经纬2月8日电 (丁丹)人工智能开源大模型DeepSeek的“风”,近日也“吹”到证券行业。据中新经纬不完全统计,6日至今
2025-02-08 19:30:00
中国电影终于打破好莱坞垄断!《哪吒2》成全球第63部票房超70亿影片 美国未映先火
快科技2月8日消息,据灯塔专业版,截至2月8日,影片《哪吒之魔童闹海》票房(含预售)突破70亿,成为全球影史第63部票房超过70亿(人民币)的影片
2025-02-08 14:15:00