• 我的订阅
  • 头条热搜
智慧家庭重磅文件,征求意见稿来了!事关千亿市场、8大应用场景
...技术要求、工程建设和其他6个部分。关键技术标准分为推理与表达、人机交互、互联互通和安全防护和其他5个部分。应用场景标准包含智慧养护、智慧家务、智慧安防、智慧能源、智慧健康、智慧影音、智慧车家和其他8个部分...……更多
百倍提升7B模型推理能力!颜水成团队携手新加坡南洋理工大学发布Q*算法
...-7b等小模型达到参数量比其大数十倍、甚至上百倍模型的推理能力,使模型性能迎来惊人提升。自OpenAI的Q*项目曝光后,业内相关讨论始终层出不穷。据现有信息汇总,Q*项目被视作OpenAI在探索人工通用智能(Artificial General Intelli...……更多
大模型新趋势之MoE:现状、挑战及研究方向
...,MoE在训练过程通过门控模型实现“因材施教”,进而在推理过程实现专家模型之间的“博采众长”。 图1MoE架构原理示意图1MoE的特征优势是专家化、动态化、稀疏化,在模型研发成本、训练/推理效率和整体性能之间实现最佳...……更多
补齐Transformer规划短板又不放弃快速思考,Dualformer双重优势
...些解答或慢点思考。OpenAI ο1 模型的发布掀起了人们对 AI 推理过程的关注,甚至让现在的 AI 行业开始放弃卷越来越大的模型,而是开始针对推理过程进行优化了。今天我们介绍的这项来自 Meta FAIR 田渊栋团队的研究也是如此,其...……更多
刚刚,Llama 3.2 来了!支持图像推理,还有可在手机上运行的版本
... Meta 对 Llama 模型来了一波大更新:不仅推出了支持图像推理任务的新一代 Llama 11B 和 90B 模型,还发布了可在边缘和移动设备上的运行的轻量级模型 Llama 3.2 1B 和 3B。不仅如此,Meta 还正式发布了 Llama Stack Distribution,其可……更多
最强服务器CPU来了!AI性能直接翻倍
...器的重要性可谓是不言而喻,无论是对于大规模的训练、推理,亦或是RAG等任务,都对其提出了更高的要求。 也正如综合市场预测数据从侧面反应出来的那般: >AI服务器市场规模已经达到了211亿美元,预计2025年达到317.9亿...……更多
语言≠思维,大模型学不了推理:一篇Nature让AI社区炸锅了
...到,人类大脑生成和解析语言的神经网络并不负责形式化推理,而且提出推理并不需要语言作为媒介。这篇论文声称「语言主要是用于交流的工具,而不是思考的工具,对于任何经过测试的思维形式都不是必需的」,引发了科技...……更多
搞医学影像,为什么都青睐于CPU?
...ACS/RIS产品中,就采用了基于CPU的方案运行三维可视化、AI推理等工作负载。在三维可视化加持下,融合影像分析等技术,让医务人员通过旋转、缩放、分割、图像增强等操作,从多角度清晰了解到医学影像中各结构之间的空间位...……更多
Meta祭出三篇最详尽Llama微调指南!千字长文,0基础小白必备
...类型的信息:- 仅输入和输出文本,也就是少样本学习- 推理追踪:添加中间推理步骤,可参阅思维链(COT)提示- 计划和反思追踪:添加信息,教LLM计划和反思其解决问题的策略,可参阅ReACT 选择正确的适配方法要决定上述哪...……更多
RAG没有银弹!四级难度,最新综述覆盖数据集、解决方案,教你「LLM+外部数据」的正确使用姿势
...成到LLMs中的三种主要方式。从简单的事实检索到复杂的推理任务,每个级别都有其独特的难点和解决方案,需要不同的技术和方法来优化性能。受参数量和知识更新的限制,大模型在执行很多真实场景下的任务时,都需要连接...……更多
长上下文能力只是吹牛?最强GPT-4o正确率仅55.8%,开源模型不如瞎蒙
...较长的小说了。更重要的是,LLM真的能在这个长度上进行推理吗?近日,有两篇独立研究分别表明:长上下文水分很大!LLM实际上并不能「理解」内容。读小说挑战首先是来自UMass、AI2和普林斯顿的研究人员,推出了一项针对性...……更多
多模态LLM视觉推理能力堪忧,浙大领衔用GPT-4合成数据构建多模态基准
新智元报道编辑:乔杨【新智元导读】LLM的数学推理能力缺陷得到了很多研究的关注,但最近浙大、中科院等机构的学者们提出,先进模型在视觉推理方面同样不足。为此他们提出了一种多模态的视觉推理基准,并设计了一种...……更多
算子开发到推理加速,一位00后开发者的“升级打怪”之旅
...框架降低了大模型训练的门槛,目前正在做大模型分布式推理加速,希望可以帮助其他开发者在生产环境中高效部署在线推理服务。在昇腾AI的生态里,像郑辉这样为大模型浪潮默默贡献自己力量的开发者不胜枚举。他们还不是...……更多
大模型步入推理Scaling时代,SambaNova如何挑战英伟达的霸主地位
...震。o1 能像人类一样「思考」复杂问题,拥有优秀的通用推理能力。在未经专门训练的情况下,o1 能够直接拿下数学奥赛金牌,甚至能在博士级别的科学问答环节上超越人类专家。在性能跃升之外,更重要的是,它揭示了大模型...……更多
零样本即可时空预测!港大、华南理工等发布时空大模型UrbanGPT | KDD 2024
...据集而在零样本场景中表现不佳。 C3. 将大型语言模型的推理能力扩展到时空预测领域:时空数据的独特性质与大型语言模型中编码的知识之间存在显著差异。如何缩小这种差异,进而构建一个在广泛的城市任务中具有卓越泛化...……更多
百川智能发布baichuan3稳定语言模型
...处理和代码生成领域的强大实力。不仅如此,其在对逻辑推理能力及专业性要求极高的MCMLE、MedExam、CMExam等权威医疗评测上的中文效果同样超过了GPT-4,是中文医疗任务表现最佳的大模型。Baichuan3还突破“迭代式强化学习”技术...……更多
超擎数智重磅发布擎天、锋锐、元景系列AI服务器,打造人工智能新质生产力强劲引擎
...擎天、锋锐、元景系列AI服务器产品,为大规模数据训练和推理提供强劲性能,帮助AI用户高效构建AI基础设施和应用环境,满足AI场景下的多元算力需求,为AI新质生产力提供强劲引擎。擎天系列L20 AI服务器,4U8卡PCle擎天系列L20 AI服务...……更多
影响英伟达根本逻辑的大争论:OpenAI改变策略意味着什么?谁在撒谎?
大模型预训练“缩放定律”定律失效?模型推理成“解药”,英伟达一家独大格局要变天?“缩放定律”指导下,AI大模型预训练目前遭遇瓶颈。据路透12日报道,硅谷主要AI实验室的新模型训练计划目前普遍进展不顺,新模型...……更多
...今年正式投产。据了解,新的芯片将被应用于数据中心的推理任务,与英伟达等供应商的GPU一起协同工作。Meta发言人之前表示:我们相信,我们自主开发的加速器将与市面上的GPU相得益彰,为Meta的任务提供最佳的性能与效率平...……更多
国产大模型第一梯队玩家,为什么pick了CPU?
...占绝对大头的因素——算力。 现在提及大模型的训练和推理,很多人的第一反应或许就是想到了GPU。诚然GPU在高性能上占据着一定的优势,但它所存在“硬伤”也是比较明显,那便是供应不足、价格昂贵。何以破局?国产大模...……更多
全球最强开源大模型Llama 3发布:使用15T数据预训练,最大模型参数将超4000亿
...业基准测试中达到了 SOTA,并提供了新的功能,如改进的推理能力。最强开源 LLM 来了Meta 官方博客写道,“得益于预训练和后训练的改进,我们的预训练和指令微调模型是目前 8B 和 70B 参数尺度下最好的模型。”他们表示,后期...……更多
o1核心作者分享:激励AI自我学习,比试图教会AI每一项任务更重要
...绍下Hyung Won Chung,从公布的o1背后人员名单来看,他属于推理研究的基础贡献者。资料显示,他是MIT博士(方向为可再生能源和能源系统),去年2月加入OpenAI担任研究科学家。加入OpenAI之前,他在Google Brain负责大语言模型的预训...……更多
超星未来梁爽:软硬件协同优化,赋能AI 2.0新时代
...任务,这一基础模型应该具备感知万物、知晓常识和理解推理的能力,智能驾驶、机器人的基础模型本质上是同一类基础模型。 端到端与大模型上车进行时 智能汽车是迈向通用机器人的必要阶段 近年来,智驾系统正在从传统...……更多
AMD的GPU跑AI模型终于Yes了?PK英伟达H100不带怕的
...:「算力这块,你可以用别的芯片,但是这些芯片用来做推理还 OK,做训练的话还要等几年的样子,英伟达还是处在一个垄断的地位。」但基于实证的对比研究却往往又会给出不一样的答案,比如在同一个演讲中,李沐还提到了...……更多
又慢又贵?OpenAI推理模型“草莓”来了,GPT-5还有多远
...9月12日,人工智能(AI)巨头OpenAI发布代号“草莓”的AI推理模型OpenAI o1系列,包括OpenAI o1-preview以及小版本的o1-mini。据OpenAI介绍, o1会花更多时间思考问题,然后再做出反应,就像人一样。通过训练学会了完善自己的思考过程...……更多
AI真·炼丹:整整14天,无需人类参与
...能上有着显著的增强,还结合大容量末级缓存使AlphaFold2推理过程中关键的张量吞吐获得了大幅提升。 英特尔®至强®CPUMax系列处理器其次,由于AlphaFold2所采用的深度学习模型规模巨大,推理过程中的张量运算不仅量大,且维度...……更多
CMU清华教LLM练成数学高手,LeanSTaR训练模型边思考边证明,登顶新SOTA
...办?CMU清华团队提出了Lean-STaR训练框架,在语言模型进行推理的每一步中都植入CoT,提升了模型的定理证明能力,成为miniF2F上的新SOTA。如果想训练LLM证明定理的能力,你会怎么做?既然模型可以通过海量语料学会生成文本,那...……更多
RAG真能提升LLM推理能力?人大最新研究:数据有噪声,RAG性能不升反降
...智元导读】RAG通过纳入外部文档可以辅助LLM进行更复杂的推理,降低问题求解所需的推理深度,但由于文档噪声的存在,其提升效果可能会受限。中国人民大学的研究表明,尽管RAG可以提升LLM的推理能力,但这种提升作用并不是...……更多
智启新元年:PC成为AI落地首选终端
...了具备高性能计算能力的通用加速芯片,是大模型训练、推理的主要算力来源;云计算的发展和普及,则使软硬件充分解耦,大模型开发者可以以相对低的成本调用大规模的算力、存储和网络资源,开发进程大大加快;同时,Tra...……更多
Claude 3.5深夜觉醒,学会模仿人类用电脑!编程干翻o1,Agent一夜变天
...、输入文本,还能查找代码错误、自动搜集信息填表。AI推理已至瓶颈,下一个爆破点,就是AI操作电脑!Claude 3.5深夜迎来重磅升级!不出所料,Anthropic AI这周终于有了大动作——首发Claude 3.5 Haiku,全新升级版Claude 3.5 Sonnet也来...……更多
更多关于科技的资讯:
联名《蛟龙行动》!联想推出手雷造型固态硬盘
快科技1月21日消息,联想推出一款拯救者战术移动固态硬盘,采用“手雷”造型外观,这是联想拯救者与电影《蛟龙行动》的联名合作产品
2025-01-21 18:00:00
全球首套!我国在量子精密测量领域取得重大突破
快科技1月21日消息,近日,据媒体报道,由南方电网公司牵头研发的全球首套±800kV特高压直流量子电流传感器顺利通过了新产品技术鉴定
2025-01-21 18:00:00
雷军:小米SU7上月交付量超过了特斯拉Model 3
快科技1月21日消息,挑战特斯拉的中国电动车非常多,但真正意义上比肩甚至超过特斯拉的则寥寥无几。就在今日,小米集团创始人雷军在转发微博是表示“上个月交付量超过了Model 3”
2025-01-21 18:00:00
100%纯国产!龙芯CPU两年适配2679款产品
快科技1月21日消息,龙芯中科宣布,2024年12月,龙芯桌面和服务器平台新增64家企业的109款适配产品。其中包括安全应用30款
2025-01-21 18:00:00
长安UNI-T买车两年修了两年 车主:修太多卖不出去了
快科技1月21日消息,据博主“拜托了老司机”透露,一位长安UNI-T车主向他反馈称,买车两年修了两年,因为修太多车也卖不出去了
2025-01-21 18:00:00
25万级搭载纯视觉智驾!小鹏G7无伪装实车曝光
快科技1月21日消息,日前,一张小鹏G7的无伪装谍照在网上曝光。据悉,小鹏G7定位于25万元级家庭用户市场,预计年内正式发布
2025-01-21 18:30:00
新一代电量怪兽!iQOO Z10 Turbo Pro将配7500mAh巨无霸电池
快科技1月21日消息,根据知名数码博主“数码闲聊站”透露,iQOO即将发布的高性能直屏机最大电池将堆到史无前例的7500mAh
2025-01-21 18:30:00
原生鸿蒙来了!华为nova 12/13系列开启HarmonyOS NEXT花粉Beta招募
快科技1月21日消息,华为官方正式宣布,即日起HUAWEI nova 12、nova 12 Pro、nova 13、nova 13 Pro开启花粉Beta招募
2025-01-21 18:30:00
蔡磊回应《我不是药神》原型 95%罕见病患者群体面临无药可治
快科技1月21日消息,日前,《我不是药神》的原型陆勇在微博发布视频,祝福渐冻症抗争者蔡磊。今日,蔡磊发文感谢陆勇的祝福
2025-01-21 18:30:00
曝小鹏P7+大新车高速瞬间失去动力 车主:吓出一身冷汗
快科技1月21日消息,今日有认证为汽车博主,同时也是小鹏P7+车主的用户“周明明EVolutio”发帖艾特小鹏汽车董事长何小鹏
2025-01-21 18:30:00
2025年春节档票房破3亿元!《射雕英雄传》独占近一半
快科技1月21日消息,截至今日16时50分,2025年春节档新片预售总票房已强势突破3亿元大关!在这场电影市场的盛宴中
2025-01-21 18:30:00
抖音医疗领域新动作!将建中外合资三级医院:床位800张
快科技1月21日消息,抖音在医疗领域的布局又有了新动作,据北京市卫健委官网消息,抖音集团获批在朝阳区中关村朝阳园北区医疗服务地块(2905-0006地块)建设北京爱瑞医院(待定)
2025-01-21 18:30:00
华为Mate 60享以旧换新补贴+国补双重优惠:性价比更高
快科技1月21日消息,即日起河南华为线下门店购买部分华为手机、平板、穿戴产品,至高享受补贴15%,单件最高补贴500元
2025-01-21 18:30:00
周杰伦昆凌一家五口重回婚礼教堂!结婚十周年幸福拉满
2015年1月17日,昆凌与周杰伦结婚,正式成为夫妻。2025年正是他们结婚十周年。今日周杰伦INS更新动态:“开心的日子永远都没有‘大眼瞪小眼’的时候”
2025-01-21 18:30:00
爱奇艺热播剧《漂白》编剧再回应抄袭质疑:在法律上不构成事实
快科技1月21日消息,近日,爱奇艺热播剧《漂白》 陷入抄袭风波。昨日中午,公众号“猛哥”发文称,《漂白》抄袭其在2012年发表于南方都市报的深度调查报道《漂白》
2025-01-21 19:00:00