• 我的订阅
  • 头条热搜
姚期智院士大模型新研究:思维图DoT,用数学理论确保AI逻辑一致
姚期智院士领衔,推出大模型新推理框架,CoT“王冠”戴不住了。提出思维图(DiagramofThought),让大模型思考更像人类。团队更是为这种推理过程提供了数学基础,通过拓扑斯理论(Topos Theory)正式化(formalize)DoT,确保其逻...……更多
比GPU性价比高百倍!Cerebras推出新AI推理服务,号称“全球最快”
...28日消息,AI芯片独角兽Cerebras Systems于8月27日宣布推出AI推理服务Cerebras Inference,号称“全球最快”。该服务已经在云端上线。据官网介绍,该推理服务在保证精度的同时,速度比英伟达的服务快20倍;其处理器内存带宽是英伟达...……更多
o1核心作者分享:激励AI自我学习,比试图教会AI每一项任务更重要
...绍下Hyung Won Chung,从公布的o1背后人员名单来看,他属于推理研究的基础贡献者。资料显示,他是MIT博士(方向为可再生能源和能源系统),去年2月加入OpenAI担任研究科学家。加入OpenAI之前,他在Google Brain负责大语言模型的预训...……更多
英特尔高宇:推进混合AI算力端侧运行,拥抱AI PC新时代
...来之际,大模型将成为每一个人必不可少的助手,同时对推理的算力需求将超过训练的算力需求。算力集中于云端的模式变得不可持续,AI计算负载将逐渐由云端向边缘侧和端侧下沉。在搭建本地智能算力上,CPU+NPU+GPU 异构式架...……更多
估值180亿美元,马斯克造了一家“AI独角兽”
...rok模型,那么特斯拉汽车可能可以拥有世界上最大的可用推理计算能力。甚至有人指出,Grok可能会取代特斯拉目前的语音控制系统。除了与X等的集成,Grok本身也将被以独立应用的形式提供给用户,这意味着用户不仅可以在X平...……更多
NeurIPS 2024 Oral | 小参数,大作为!揭秘非对称 LoRA 架构性能
...视为专家,自动将训练样本划分到对应的组件进行微调。推理阶段:HydraLoRA 通过训练完成的路由器,灵活且动态地合并多个 B 矩阵,以满足不同任务和数据的需求。这样的设计使得模型能够高效地适应多样化的应用场景,提升...……更多
华为harmonyosnext重塑全新“星盾”安全架构
...应用设计;PanguP系列,百亿级参数,为低时延、低成本的推理场景提供支持;PanguU系列,千亿级参数,适用于处理复杂任务,成为企业通用大模型的坚实基础;PanguS系列,万亿级参数,作为超级大模型,能够处理跨领域多任务,...……更多
ibm研究院推出ai专用芯片
...。IBM研究院表示,由于芯片采用了ResNet-50神经网络模型,推理性能优于所有主流架构,超过了4nm工艺制造的GPU。Northpole项目的负责人是DharmendraModha,在2014年就曾带来了“模拟人类大脑运作”的TrueNorth芯片。在传统芯片架构里,...……更多
当大模型Scaling Law继续,万卡集群算力释放在百舸找到一条通途
...需求不可避免迎来爆炸式增长,无论是前期训练还是后期推理,都是如此。在训练层面,OpenAI 曾在 2018 年做过估算,自 2012 年以来,AI 模型训练算力需求每 3.5 个月翻一番,每年所需算力增幅高达 10 倍,增速远远超出了芯片产...……更多
llava-1.6与gpt-4vmp面硬刚的性能,一起来看看
...率基础上,并通过改进视觉指令数据集和SGLang,提升了“推理、OCR等方面的性能”,意味着人类向AGI(通用人工智能)探索的道路上又迈进了一步。LLaVA-1.6的研发团队成员Haotian Liu在X平台发文原文 二、更适合中国人体质的GPT-4V...……更多
从空间智能到具身智能,跨维践行Sim2Real AI最高效路径
...概念,通常指个体在三维物理空间及四维时空中的认知和推理能力,包括感知、推理、决策等方面。具身智能(Embodied Intelligence)则是指智能系统具备物理形态,并通过这个形态与环境进行交互的智能。具身智能不仅仅关注感知...……更多
入职一年半,这个AI员工晋升为了国内首位AI架构师
...据分布与质量、更强训练算法,文心大模型在理解、逻辑推理层面再次跃升。可以说,更强大文心大模型为文心快码的又一次「变身」提供了理论上的可能和坚实基础。 在此之外,文心快码在高质量训练数据集、专家参与的知...……更多
全新小布助手开启新一轮公测!OPPO官宣与联发科技共建大模型端侧化部署方案
...实现在本地与云端协同运作的效果。AndesGPT 对大模型端侧推理引擎进行算子融合与优化,使得结果生成速度大于人类正常阅读速度,从而能更好满足用户需求。目前,AndesGPT 已经入选 C-Eval 全球中文榜单,并以 79.9 高分登该榜榜...……更多
IDC王吉平:AI PC产业生态具备以人为本、终端主导和AI原生三大特点
...下也能使用;第三,更低的大模型使用成本,以本地免费推理为主、以云端公共推理为辅,一次性购买AI PC即可享受全生命周期的本地免费推理服务;第四,可信、安全的个人数据和隐私保障,个性化本地知识库、隐私数据的本...……更多
黄仁勋:我从不在乎市场份额、英伟达唯一目标是创造新市场
...英伟达,老黄还讨论了AGI的智能扩展、机器学习的加速、推理与训练的重要性……虽然时长感人(近1个半小时),但一大波网友已经看完并交起了作业(开始卷了是吧!)网友:学起来!学起来! 黄仁勋:未来推理的增长将远...……更多
全球首个端侧应用 70 亿参数大语言模型手机OPPO Find X7发布
...的5G通讯、AI等高含金量领域。Find X7 搭载 OPPO 自研的潮汐架构,通过将性能研究深入到芯片底层,实现异构计算单元的超动态调度,让旗舰手机可以兼具极致的性能释放、极致的能效表现。OPPO芯片技术负责人姜波表示:“想做...……更多
理想汽车推出全新自动驾驶技术架构
...型及世界模型。其中,端到端模型以其高效的信息传递、推理计算与模型迭代能力,确保了驾驶行为的更加自然流畅;VLM视觉语言模型则凭借卓越的逻辑思考能力,能够深刻理解复杂路况、导航信息及交通规则,从容应对各种未...……更多
模拟5亿年自然进化史,全新蛋白质大模型ESM3诞生!前Meta老将力作LeCun转赞
...白质语言模型ESM3。不仅支持序列、结构、功能的all-to-all推理,团队还在实验中发现,它设计的新蛋白质相当于模拟自然界5亿年的进化。继AlphaFold 3更新后,我们又看到了一个生命科学领域的大模型ESM3。模型开发团队来自于名为...……更多
摩尔线程万卡GPU集群新进展!性能可提升20倍
...模型提供一系列可应用于PyTorch框架的算子,加速模型的推理与训练,降低新算法的开发门槛。它以Triton编程语言的易用性和编译器的标准接口为基础,为多元芯片提供了一套易适配、高性能的算子解决方案,推动基于Triton的统...……更多
谷歌DeepMind推Imagen2;ChatGPT Plus恢复订阅;OpenAI提出用小模型监督大模型 | 本周硅谷发生了什么?
...成器。Mistral AI发布Mixtral 8x7B专家混合模型,表现优越且推理速度更快。由于获得更多GPU,ChatGPT Plus重新开放订阅,提供更好的用户体验。OpenAI首席科学家Ilya Sutskever入选Nature年度十大科学人物,表彰其在ChatGPT开发中的核心作用.……更多
调研219篇文献,全面了解GenAI在自适应系统中的现状与研究路线图
...泛应用,尤其是大型语言模型(LLMs)在语言理解和逻辑推理方面表现突出,为自适应系统提供了新的可能性。GenAI 与自适应系统的核心功能相结合,能够显著增强系统的自适应能力。例如,GenAI 可以分析并规划系统策略,自动...……更多
李彦宏:开源模型将会越来越落后 | 最前线
...练效率提升到了原来的5.1倍,周均训练有效率达到98.8%,推理性能提升了105倍,推理的成本降到了原来的1%。其中,推理成本的大幅下降,对于大模型降低应用门槛意义最大。也就是说,客户原来如果一天调用模型1万次,现在同...……更多
阿里巴巴“AI驱动”战略提速 夸克发布自研大模型
...、智能检索的专业服务。性能方面,凭借语义理解、逻辑推理、内容生成等技术优势,夸克大模型在CMMLU权威榜单的最新评测结果中,取得优异成绩。同时,夸克大模型具备了对不良、虚假信息识别、回答和指引的出色能力。知...……更多
华为matebook14和matebookd16笔记本测试
...处理器上,英特尔加入了VNNIAI专用指令,可提供包括Int8推理加速、FP16精度模型在内的本地AI应用加速。对于生成式AI,英特尔则通过模型优化,降低了模型对硬件资源的需求,进而提升了模型的推理速度,让社区开源模型能够很...……更多
腾讯大模型混元Turbo:御气升昺云,梓桐金鼎开
...模型,腾讯混元Turbo性能有显著提升,训练效率提升108%,推理效率提升 100%,推理成本降低 50%,解码速度提升 20%,效果在多个基准测试上对标GPT-4o。最新第三方测评在国内位居第一。腾讯混云大模型已经落地腾讯700+个业务场景...……更多
大模型不会推理,为什么也能有思路?有人把原理搞明白了
大模型不会照搬训练数据中的数学推理,回答事实问题和推理问题的「思路」也不一样。大语言模型的「推理」能力应该不是推理,在今年 6 月,一篇 Nature 论文《Language is primarily a tool for communication rather than thought》曾引发……更多
Meta版Sora深夜横空出世,小扎放出16秒高清大片!92页论文曝光技术细节,Llama 3架构立功
...验结果发现,Movie Gen Video模型能够理解物理世界——可以推理物体运动、主-客体交互、几何关系、相机运动、物理规律,以及各种概念的合理运动。在微调阶段,研究人员精选了一部分视频,对模型在美学、运动质量方面完成...……更多
HAS2024:华为云以系统性创新加速千行万业智能化升级
...三大优势:• 万亿参数容得下:基于大带宽内存服务,推理成本降低27%;• 任务恢复速度快:基于大并发缓存服务,任务恢复时间缩短至15s;• 海量数据存得起:基于低成本大容量知识湖服务,数据存储TCO降低30%;华为云存储...……更多
黄仁勋明天登港!沈向洋3小时重磅演讲:发布多款大模型,具身智能激情碰撞
...,但OpenAI不断带来新技术突破,如多模态的GPT-4o以及新的推理学习能力o1。算法领域不断有人创造新算法实现突破,方法范式的转移尤其值得思考。过去几个月,国内一些公司和初创企业在o1这条道路上取得良好进展。其算法突...……更多
推理性能提升30倍!英伟达发布史上最强AI芯片,黄仁勋:将成最成功产品
...结合了两个B200 GPU和一个独立的Grace CPU,将能够使大模型推理工作负载的性能提升30倍,同时提高效率。相比于H100,它可以“将成本和能源消耗降至1/25”。这就意味着,以前训练一个拥有1.8万亿参数的模型需要8000个Hopper GPU 和15...……更多
更多关于科技的资讯:
搭载5代EA888+华为智驾!上汽奥迪A5L官图更新:二季度上市
快科技2月25日消息,日前,上汽奥迪发布了一组全新A5L的官图,该车有望于2025年二季度上市。据悉,该车延续海外版A5 Sportback的轿跑式车身设计并进行了加长
2025-02-25 18:34:00
FSD突然降临中国!不同车型逐批推送 老车主苦等多年终梦圆
FSD入华,官宣了。盼星星,盼月亮,特斯拉中国车主等到了FSD,行业迎来了最强鲶鱼。全民智驾元年,冲刺L3的当口,对岸的独孤求败终于对上了国内的智驾群雄
2025-02-25 18:34:00
中端显卡大战临近!RTX 5070评测3月4日解禁:RX 9070仅晚一天
快科技2月25日消息,NVIDIA和AMD的最新一代中端显卡即将展开正面交锋。根据最新消息,NVIDIA的RTX 5070显卡评测将于3月4日解禁
2025-02-25 18:34:00
全面不鸟英伟达!曝小鹏自研图灵芯片5月上车
快科技2月25日消息,雷峰网援引知情人士消息,小鹏汽车自研芯片将在今年5月份实现首次上车。报道指出,今年5月底或6月初
2025-02-25 18:34:00
遭大量嘲讽贬低!EDG发布严正公告:立刻停止侵权行为
日前,EDG官方发布严正公告,表示已委托专业法律机构,对近期在各个网络平台上嘲讽贬低、言语攻击其俱乐部选手的主导侵权用户启动相关法律程序
2025-02-25 18:34:00
vivo注册V单商标:曝vivo X200 Ultra影像比肩专业相机
快科技2月25日消息,天眼查显示,vivo申请注册“V单”商标,目前商标状态是“等待实质审查”。博主数码闲聊站爆料,vivo X200 Ultra走了专业相机的思路
2025-02-25 19:04:00
OpenAI创始人又要引爆生育革命:两个爸爸如何生育一个孩子
就在上周日(2月23日),世界顶级人工智能研究公司OpenAI的创始人山姆·奥尔特曼(Sam Altman)在社交媒体上宣布
2025-02-25 19:04:00
追上华为理想和小鹏 小米全量推送端到端高阶智驾:车位开到车位
快科技2月25日消息,高阶智驾无疑是当前的核心竞争领域,第一梯队玩家华为、小鹏、理想等已经全量推送车位到车位的端到端高阶智驾
2025-02-25 19:04:00
山东空调品牌争霸赛启幕 格力、海尔、美的等品牌谁将脱颖而出?
齐鲁晚报·齐鲁壹点 张召旭 实习生 白杨春意盎然之际,山东空调市场战火再起,各大品牌纷纷亮剑,誓要在三四月份激烈的市场竞争中拔得头筹
2025-02-25 19:38:00
工业人机交互迈入韧性升级时代!益逻科技发布64系列触控显示器
随着工业4.0进程加速与商业智能化需求激增,全球制造业正面临严峻挑战:设备稳定性不足导致产线停机损失年均超百亿美元,传统触控设备在高温
2025-02-25 19:45:00
不推荐买iPhone 16e:看完拔草了
北京时间2月20日凌晨,苹果在万众期待下带来了新品—iPhone 16e,没错,就只有这一款手机,售价为4499元起,将于2月28日正式发售
2025-02-25 20:34:00
消费是拉动社会经济增长的引擎,也是推动高质量发展的重要保障。宁津农商银行聚焦“扩内需、促消费”政策指引,持续打好产品创新和服务优化“组合拳”
2025-02-25 20:52:00
2月25日从晋源区获悉,为进一步激发消费市场活力,近日,太原市总工会、晋源区总工会、晋源区商务局携手京东家电家居,在晋源区万水大市场共同举办工会会员家电普惠活动
2025-02-25 21:01:00
2025款ROG幻14/16 Air笔记本发布:锐龙AI 9 HX 370/Ultra 9-285H双龙会
快科技2月25日消息,2025款ROG幻14/16 Air笔记本今日正式发布,最高可配RTX 5080显卡。2025款ROG幻14 Air笔记本外观方面
2025-02-25 21:04:00
RTX 5090、双雷电5加持!ROG最强显卡扩展坞发布
快科技2月25日消息,今天,华硕正式发布了新一代显卡扩展坞ROG XG Mobile 2025,集成NVIDIA RTX 5090移动版显卡
2025-02-25 21:04:00