• 我的订阅
  • 头条热搜
AI PC是噱头还是更快的马车?
...言模型的能力,但其实是在本地运行的,而非借助云端的推理能力。讲真,应该没有人会认为整理文件名这种本地文件系统的操作还需要去云端绕一圈吧?从端到云之间隐藏的各种断点确实限制了我们的想象力,因此,AIPC的这些...……更多
当大模型Scaling Law继续,万卡集群算力释放在百舸找到一条通途
...需求不可避免迎来爆炸式增长,无论是前期训练还是后期推理,都是如此。在训练层面,OpenAI 曾在 2018 年做过估算,自 2012 年以来,AI 模型训练算力需求每 3.5 个月翻一番,每年所需算力增幅高达 10 倍,增速远远超出了芯片产...……更多
真香!智谱大模型,有了首个免费的API
...同时,GLM-4 支持了更长的上下文、更强的多模态、更快的推理速度,以及更多并发请求,大大降低了推理成本。在此基础上发展出的 GLM-4-Flash,则带来了一系列技术优势:数据预训练:引入大语言模型进入数据筛选流程,使用 10...……更多
智源评测体系发布 国内外“百模”评估结果出炉
...、客观两个维度考察了语言模型的简单理解、知识运用、推理能力、数学能力、代码能力、任务解决、安全与价值观七大能力;针对多模态模型则主要评估了多模态理解和生成能力。评测结果显示,在中文语境下,国内头部语言...……更多
姚期智院士大模型新研究:思维图DoT,用数学理论确保AI逻辑一致
姚期智院士领衔,推出大模型新推理框架,CoT“王冠”戴不住了。提出思维图(DiagramofThought),让大模型思考更像人类。团队更是为这种推理过程提供了数学基础,通过拓扑斯理论(Topos Theory)正式化(formalize)DoT,确保其逻...……更多
亚马逊云科技最强AI硬件猛兽背后,工程细节详细解读
...其首款自研AI芯片是2019年的Inferentia,能够切实降低小型推理工作负载的成本,比如亚马逊Alexa通过迁移到Inferentia节省了大量资金。2022年,亚马逊云科技推出了其首款自研AI训练芯片Trainium1,并实现可将在Trainium1上运行的工作负...……更多
推理性能直逼o1,DeepSeek再次出手,重点:即将开源
...出手了,这次又是重磅炸弹。昨晚,DeepSeek 上线了全新的推理模型 DeepSeek-R1-Lite-Preview,直接冲击 OpenAI o1 保持了两个多月的大模型霸主地位。在美国数学竞赛(AMC)中难度等级最高的 AIME 以及全球顶级编程竞赛(codeforces)等权...……更多
英伟达赚疯背后,三家存储芯片公司的一场「All in」丨焦点分析
...带宽更大,还能搭配在GPU和CPU上使用,适用于AI大模型的推理和训练。过去一年,HBM一直处于焦灼的产能紧缺、产品价格高涨的状态。可以说,英伟达在过去一年卡住了一众AI大模型公司的脖子,HBM则是牢牢卡住了英伟达的脖子...……更多
腾讯Angel机器学习平台获世界互联网大会领先科技奖
...腾讯Angel 机器学习平台,突破了万亿级模型分布式训练和推理以及大规模应用部署等难题,率先实现大模型技术从底层硬件到关键软件技术的自主研发,在业务场景广泛应用,显著推动实体产业和数字经济发展,提升社会效率。...……更多
比GPU性价比高百倍!Cerebras推出新AI推理服务,号称“全球最快”
...28日消息,AI芯片独角兽Cerebras Systems于8月27日宣布推出AI推理服务Cerebras Inference,号称“全球最快”。该服务已经在云端上线。据官网介绍,该推理服务在保证精度的同时,速度比英伟达的服务快20倍;其处理器内存带宽是英伟达...……更多
昆仑万维重磅发布天工AI高级搜索功能,做最懂金融投资、科研学术的AI搜索
...AI高级搜索功能,具备四大亮点:·全面升级多层次分析推理能力·升级的金融投资专业AI搜索·升级的科研学术专业AI搜索·针对文档AI阅读分析的智能优化「天工AI高级搜索」不仅能提供精准的结果,更能通过多角度的专业优化,...……更多
9.11比9.9大?多个大模型翻车!业内人士:就是偏科,文科强理科弱
...文认为,模型产生幻觉的三大来源:数据源、训练过程和推理。大模型可能会过度依赖训练数据中的一些模式,如位置接近性、共现统计数据和相关文档计数,从而导致幻觉。此外,大模型还可能会出现长尾知识回忆不足、难以...……更多
大模型上岗三甲医院,给每个医生都配个“病历质控助手”
...理、术语标准化后构建患者画像,再经由惠每医疗大模型推理计算做出提醒或预警,同时大模型还可以基于用户的反馈持续进行优化。图:惠每科技病历内涵质控方案架构最终,在界面的呈现上,惠每科技这个系统会有医生端和...……更多
傅盛捅破AI行业窗户纸!百模大战靠数据背后是什么逻辑?
...语种能力方面表现整体优于Mixtral-8x7B等同级别参数模型。推理速度方面,与类似效果的稠密模型进行对比,Orion-MoE 8x7B不同GPU不同并发数速度对比同级别参数模型提升可20%-30%。同时,这一模型已经完全开源,已上线GitHub、Hugging F...……更多
为AI加速而生 英特尔第五代至强CPU带来AI新表现
...来概括它的特点,那就是——AI味道越发得浓厚。以训练、推理大模型为例:• 与第四代相比,训练性能提升多达29%,推理性能提升高达42%;• 与第三代相比,AI训练和推理性能提升高达14倍。什么概念?现在若是将不超过200亿参数的模型...……更多
...桌上的一堆玩具中抓出一个已经灭绝的动物,它能够经过推理和识别过程,从所认识的老虎、狮子、鸟等若干种动物中,成功地抓出已经灭绝的动物恐龙。这是过去的机器人不能做到的。过去你告诉机器人抓什么东西它能抓得到...……更多
最强AI程序员砸饭碗:84秒跑通代码 像人一样思考
...最终Genie使用该专有数据进行训练。数据集中编码了人类推理的完整过程,包括完美的信息溯源、增量知识发现,还有基于软件工程师实际工作案例的逐步决策过程。Genie的推理过程包括规划、检索、代码编写和代码运行四个主...……更多
全新英特尔 至强 可扩展处理器,打破数智化变革瓶颈的一板利斧
...三代至强® 可扩展处理器通过扩展出bfloat16加速功能,在推理加速能力之外又加强了训练能力;而第四代英特尔® 至强® 可扩展处理器又带来了全新的加速引擎——英特尔® AMX,进一步提升深度学习训练和推理性能,同时更适合...……更多
微软开源爆火1bit大模型推理框架!千亿参数模型量化后单CPU可跑
微软开源1bit大模型推理框架!现在1000亿参数大模型量化后单CPU可跑,速度可达每秒5-7个token。就是今年爆火论文The Era of 1-bit LLMs的官方代码实现,开源不到一周GitHub已揽获7.9k Star。传统大模型参数以16位浮点数(如FP16或BF16)形...……更多
每月141元的ChatGPT Plus订阅重新开放,背后发生了什么?
...」图/ X(Twitter) 但算力依然受限,核心是大模型训练、推理都严重依赖于英伟达高端 GPU,而英伟达又受限于台积电先进芯片制造工艺、封装工艺以及韩国 HBM 内存的产能。说到底,还是算力不够用,「供给」赶不上「需求」。...……更多
国产大模型真正角逐时刻:从钉钉智能客服开始谈起
...被设定了几个高频关键词,但一旦遇到稍难或者带些逻辑推理的问题时便无计可施。这是横亘在过去企业数字化最普遍同时也是最棘手的问题。一般来说,以往的智能客服的聪明程度往往取决于它背后有多少人工,你标记的关键...……更多
华福证券:重磅会议对A股形成有效提振,布局A股好时机
...景有望逐步从C端往B端进行渗透,从而带来巨大的训练和推理需求。 3、从国内半导体需求的周期反转顺序来看,我们认为射频>存储、CIS>模拟>功率,目前国内优质的射频公司2H2023库存已经消化到1H2021水平,接下来需求反...……更多
空天信息+人工智能 中国科研团队成功研发遥感智能训推一体机
...发成功一款命名为“空天·灵犀”的遥感智能训(训练)推(推理)一体机。“空天·灵犀”遥感智能训推一体机。中国科学院空天院 供图“空天·灵犀”遥感智能训推一体机搭载的高精度、高时效轻量化基础模型,能够在自然资源、...……更多
推动大模型自我进化,北理工推出「流星雨计划」
...我进化的方式,解决代码模型在处理复杂问题时缺少中间推理过程。核心观点:自我进化的力量跟随上述自我进化的思想,在 SRA-MCTS(Self-guided MCTS-based data generation for Reasoning Augmentation)方法中,作者无需借助额外的任何监……更多
“技术故障”背刺巴菲特,金融大模型到底靠不靠谱?
...市场瞬息万变,需要实时数据处理和决策支持,大模型的推理涉及到大量的矩阵乘法计算,对硬件的矩阵乘法计算能力提出较高要求,计算复杂性可能导致响应时间延迟,不利于实时应用。加之大模型训练和推理过程需要大量的...……更多
李彦宏:百度AI构架有优势,性能较低的国产芯片仍可高效运作!
...用英伟达的高性能GPU来对其自研的AI模型进行训练和执行推理任务。然而,美国在2022年10月首次出台针对AI芯片的出口限制政策,使得英伟达、AMD等厂商的高性能AI芯片的对华出口受限,虽然之后英伟达推出了符合规则可以继续向...……更多
还记得“比英伟达GPU快10倍”的芯片吗?这家公司的估值翻倍了
...处理单元”(LPU),公司曾声称“在Groq上运行大模型的推理速度较英伟达GPU提高10倍甚至更高”,这意味着公司的目标就是要挑战英伟达在AI芯片市场上的主导地位。但要指出的是,Groq是专为大语言模型量身定制设计的AI芯片,...……更多
第三季度,百度已经尝到了AI的甜头 | 最前线
...的红利,仍然要经历漫长的蛰伏期。大模型高昂的训练和推理成本是一方面,云厂商在服务客户的同时,要烧更多的钱。另一方面,受制于有限的模型能力和较长的交付周期,大模型的行业落地尚在起步阶段,尚难以给云厂商带...……更多
ASML两款光刻机出口许可被撤销;比亚迪Q4纯电车销量超特斯拉
...备。(量子位)谷歌Gemini大逆转?斯坦福Meta华人证明其推理性能强于GPT-3.5斯坦福和Meta的学者进行了深入研究,证实了谷歌的模型Gemini在常识推理任务上并非落后于OpenAI的GPT模型。他们认为,之前基于有限数据集的评估未能完全...……更多
张云泉:集中力量,促进国产AI大模型发展
...法成为新时代的关键资源。大模型的开发、训练、微调及推理各个环节均离不开算力,且算力成本占据整体开销的大头。可以说,算力成为支撑大模型发展的关键因素,也是科技竞争的战略高地。在大规模的前端产品落地后,算...……更多
更多关于科技的资讯:
宇树G1机器人算法升级:任意舞蹈任意学 扭腰、交叉步行云流水
快科技2月14日消息,宇树科技今晚晒出一段视频,展示了G1机器人算法升级后的舞步,宣称能做到任意舞蹈任意学。从视频来看
2025-02-14 22:22:00
经常运动和不运动的人 到底有什么区别 真相让人吃惊
如果说这世界上,有什么事情是努力了一定有收获,那一定是运动。只要你开始运动,就一定能看到结果。为什么这么说?运动到底能给身体什么样的反馈
2025-02-14 22:22:00
君乐宝世界级工厂获评“卓越级智能工厂”,智能制造助力乳业新质生产力
近日,工信部、国家发展改革委等六部门联合公布了2024年卓越级智能工厂名单。君乐宝乳业集团凭借“乳制品全产业链协同智能工厂项目”成功入选全国标杆企业之列
2025-02-14 23:08:00
商务部流通业发展司李佳路司长调研指导苏宁易购以旧换新工作
2月13日,商务部流通业发展司李佳路司长到福州宝龙城市广场苏宁易购Max门店考察,并就数码产品购新补贴、家电以旧换新工作和再生资源回收体系建设等情况调研指导
2025-02-14 23:10:00
近日,京东正式官宣旗下京东外卖,并启动“品质堂食餐饮商家”招募。京东方面表示,京东外卖将为入驻商家提供全方位支持,助商家获益
2025-02-14 23:12:00
获英伟达买入 中国自动驾驶公司文远知行股价暴涨超100%
快科技2月14日消息,今晚美股开盘后,中国自动驾驶公司文远知行股价一度涨至41.1美元,大涨139.41%,股价翻倍。截止当前发稿
2025-02-14 23:22:00
迎战RTX 5060!AMD RX 7650 GRE显卡图赏
快科技2月14日消息,AMD正式推出了一款新的中国特供版RX 7650 GRE,取代之前RX 6750 GRE,定位大概相当于RTX 5060
2025-02-14 23:22:00
2025年2月票房创历史单月新高:《哪吒2》独自撑起3/4
快科技2月14日消息,据灯塔专业版,截至2月14日,2025年2月票房(含预售)突破122.71亿,创造中国影史单月最高票房纪录
2025-02-14 23:22:00
春晚机器人“亲兄弟”开始打工:日租金超1万元,现货二手需加价购买
蓝鲸新闻2月13日讯(记者 陆鹏鹏)在2025年蛇年央视春晚的舞台上,宇树机器人凭借一段秧歌舞和转手绢表演一夜爆红。然而当观众还在为它们灵活舞姿惊叹时
2025-02-14 23:48:00
日本电视“诺基亚时刻”:中国军团用20年击溃“电视帝国”的护城河
日本厂商曾经凭借LCD技术击败了一众美国电视企业,使得松下、索尼、东芝等品牌,几乎成为了当年电视产业高品质、高科技的代名词
2025-02-14 23:52:00
国产K-Car正式登场!五菱之光EV上市:4.78万起
快科技2月14日消息,五菱旗下纯电多用途新车五菱之光EV正式上市,全系共推出2款车型,指导价区间为4.78-5.08万元
2025-02-14 23:52:00
2025年命名的第一种中国恐龙:体长近10米 在云南发现
快科技2月14日消息,近日,中国科学院古脊椎动物与古人类研究所、中国地质博物馆和禄丰市自然资源局等单位合作取得重要成果
2025-02-14 23:52:00
宝马5系新车刚下高速就趴窝:底盘冒烟 全车断电
快科技2月14日消息,据报道,陈先生1月份花费36万元,在台州玉环力宝行汽车4s店买了一辆宝马5系新车。但在过年回安徽老家时
2025-02-14 19:22:00
RTX 50麻烦了!从桌面到笔记本 各种跳票跳票跳票
快科技2月14日消息,NVIDIA日前官方宣布,RTX 50系列笔记本将从2月25日起开启预售,但具体上市时间没说,取决于笔记本厂商的进度
2025-02-14 19:22:00
官方确认:领克900将全球首搭英伟达Thor自动驾驶芯片
快科技2月14日消息,极氪科技集团今日正式成立,并开始实行“极氪汽车+领克汽车”双品牌驱动战略,官方还透露了不少劲爆的产品信息
2025-02-14 19:22:00