• 我的订阅
  • 头条热搜
OpenAI o1太贵?那就自己做一个!纯提示方法让普通LLM进化出复杂推理能力
...没有任何阻碍。——但其实还是有的,那就是新东西通常太贵。o1-preview的每百万输入token为15美元,每百万输出token为60美元,而对位的GPT-4o分别是5美元和15美元。本来GPT-4o就不便宜,现在想体验更强大的推理能力则需要再付出几...……更多
模拟5亿年自然进化史,全新蛋白质大模型ESM3诞生!前Meta老将力作LeCun转赞
...白质语言模型ESM3。不仅支持序列、结构、功能的all-to-all推理,团队还在实验中发现,它设计的新蛋白质相当于模拟自然界5亿年的进化。继AlphaFold 3更新后,我们又看到了一个生命科学领域的大模型ESM3。模型开发团队来自于名为...……更多
推动大模型自我进化,北理工推出「流星雨计划」
...我进化的方式,解决代码模型在处理复杂问题时缺少中间推理过程。核心观点:自我进化的力量跟随上述自我进化的思想,在 SRA-MCTS(Self-guided MCTS-based data generation for Reasoning Augmentation)方法中,作者无需借助额外的任何监……更多
3天把Llama训成Mamba,性能不降,推理更快!
...为什么要把Llama变成Mamba?因为从头开始训练一个大模型太贵了。Mamba也火了这么长时间了,相关的研究每天都有,但自己训练大尺寸Mamba模型的却很少。目前比较有名的是AI21的Jamba(进化到了1.5版本,最大398B,MoE),以及NVIDIA的...……更多
整合长期记忆,AI实现自我进化,探索大模型这一可能性
...也能让模型在处理长期、分散和个性化的数据时逐步提升推理和学习能力。用 LTM 数据提升模型能力,使其能够自我进化在传统 LLM 中,更新模型通常需要调整所有参数,而如果目的是处理个体数据,那这种操作明显不切实际。...……更多
苹果AI震撼上线iPhone,进化版Siri却没有ChatGPT!47页技术报告揭秘自研模型
...复适配器进行微调,它们不会产生任何额外的内存使用或推理成本。关于适配器的大小,团队发现秩为16的适配器在模型容量和推理性能之间提供了最佳平衡。然而,为了提供更多的灵活性,苹果提供了一套不同秩的精度恢复适...……更多
4轮暴训,Llama 7B击败GPT-4!Meta等让LLM「分饰三角」自评自进化
...judge提示模板。除了给出评价结果,meta-judge还需要生成CoT推理过程。为减少meta-judge可能存在的位置偏好(可能倾向于选择最先出现的Judgment A),对同一对数据(jm, jn)会交换顺序让meta-judge进行两次评价,得到单次结果rmn: 引入...……更多
罗格斯大学团队提出思想链概念,提高大模型的算数推理能力
...概念,提高了大语言模型(LLM,large language models)在复杂推理任务上的性能,例如算术推理、常识推理和符号推理等。图 | 金明宇(来源:金明宇)CoT 的原理是通过提供推理过程的示例,来教会模型处理推理,详细说明导致最...……更多
调研219篇文献,全面了解GenAI在自适应系统中的现状与研究路线图
...泛应用,尤其是大型语言模型(LLMs)在语言理解和逻辑推理方面表现突出,为自适应系统提供了新的可能性。GenAI 与自适应系统的核心功能相结合,能够显著增强系统的自适应能力。例如,GenAI 可以分析并规划系统策略,自动...……更多
刚刚,OpenAI震撼发布o1大模型!强化学习突破LLM推理极限
...专门解决难题。这是一个重大突破,新模型可以实现复杂推理,一个通用模型解决比此前的科学、代码和数学模型能做到的更难的问题。OpenAI 称,今天在 ChatGPT 和大模型 API 中新发布的是该系列中的第一款模型,而且还只是预览...……更多
免训练大模型知识编辑,吸收新数据更高效|EMNLP\\\'24
...的连续提示学习新方法,可以提高知识终身学习的编辑和推理效率。模型编辑旨在纠正大语言模型中过时或错误的知识,同时不需要昂贵的代价进行再训练。终身模型编辑是满足LLM持续编辑要求的最具挑战性的任务。之前的工作...……更多
LLM群体智能崛起,数学性能暴增11.6%!谷歌DeepMind四大机构联手新作
...认知,数学最考验元认知,原本是指,人类对自己思维、推理过程的直观认识。那么,大模型也具备「元认知」的能力吗?研究人员对此,提出了一种假设,并设想是否可以通过知识引导,进一步提高LLM的能力。 其实,此前的...……更多
代码模型自我进化超越GPT-4o蒸馏!UIUC伯克利等提出自对齐方法 | NIPS 2024
...CodeAlign在整个数据生成过程中,使用相同的基础模型进行推理,分为三步:首先,从高质量的种子片段中提取不同的编码概念,以生成新任务。 然后,对每个任务的多个响应进行采样,将每个响应与测试用例配对,并在沙盒环...……更多
智能体不够聪明怎么办?清华&蚂蚁团队:让它像学徒一样持续学习
...出的巨大潜力,而这种潜力的核心基石正是智能体的复杂推理能力。与当下广受关注的 OpenAI-o1 及其追随者略有不同,大多数实用的 AI Agent 往往需要在特定场景下发挥作用。这种情况类似于普通人类:虽然不是每个人都需要具备...……更多
o1带火的CoT到底行不行?新论文引发了论战
...To CoT or not to CoT?OpenAI ο1 的诞生极大地提升了人们对 LLM 推理能力和思维链(CoT)的兴趣。一时之间,似乎思维链很快就会成为所有 LLM 的标配,但思维链并非万能,就连 OpenAI 自己也提到 o1 在某些任务上的表现并不比 GPT-4o 强...……更多
研究人员给了人工智能一个“内心独白”,结果大大提高了其性能
...工智能系统,让它在说话前先思考。内心独白提高了常识推理能力,并使其数学成绩翻了一番。一项新的研究表明,给人工智能系统一个“内心独白”会大大提高它们的推理能力。这种方法训练的人工智能系统,会在对提示做出...……更多
关于LLM-as-a-judge范式,终于有综述讲明白了
...的帮助性,无害性,可靠性,生成 / 检索文档的相关性,推理过程中每一步的可行性,以及生成文本的综合质量。Methodology:如何评判 表 1:LLM-as-a-judge 训练方法(1)微调:最近许多工作开始探索如何使用微调技术来训练一个...……更多
ChatGPT大流行的思考-解析篇
...器人的本质区别。2. ChatGPT如何实现知识的获取、存储、推理及实时更新那究竟GPT如何有如此优秀的表现呢?我们不妨从人类学习思路入手,我们学习一般可分为获取知识-存储知识-推理知识-更新知识,而这也是GPT发展及学习的...……更多
大模型步入推理Scaling时代,SambaNova如何挑战英伟达的霸主地位
...震。o1 能像人类一样「思考」复杂问题,拥有优秀的通用推理能力。在未经专门训练的情况下,o1 能够直接拿下数学奥赛金牌,甚至能在博士级别的科学问答环节上超越人类专家。在性能跃升之外,更重要的是,它揭示了大模型...……更多
清华团队提出大模型“密度定律”;足球领域首个视觉语言基础模型
...交视觉-语言-动作建模框架RevThink:使用逆向思维增强 LLM 推理想要第一时间获取每日最新大模型热门论文? 点击阅读原文,查看「2024必读大模型论文」合集,以及申请加入「大模型技术分享群」。SwiftEdit:50 倍速文本引导图像...……更多
一键解锁ChatGPT原理与应用
...的语言理解能力;②极为广泛的知识储备;③学习能力与推理能力等等。这些能力让人们感觉人工智能真正拥有了“脑子”,想象着使用GPT解决一切问题。然而,若真的要深入应用该技术,有必要了解其局限性,以便在实际应用...……更多
科学家推出大模型数据集,涵盖奥赛数学题,有望让AI辅导数学课程
...解决复杂数学问题的能力。通过此,他们不仅提高了算法推理速度,还提高了算法搜索中间结果的质量。所新推出的数据集 TriMaster100,也更加符合算法在复杂数学问题下的评价场景。目前,赵子龙的合作者正在基于本次成果开...……更多
...AI)系统在编码、战略规划和机器人科学三个领域执行复杂推理任务。聊天生成预训练转换器(ChatGPT)和“克劳德3-奥普斯”(Claude 3 Opus)等大语言模型(LLM),根据人类输入“提示词”处理和生成文本。研究人员说,过去18个月,这些技...……更多
谷歌大模型推理范式,主要分为两个阶段
...新研究“自我发现”(Self-Discover),重新定义了大模型推理范式。与已成行业标准的思维链(CoT)相比,新方法不仅让模型在面对复杂任务时表现更佳,还把同等效果下的推理成本压缩至1/40。核心策略其实很简单:千人千面。...……更多
科学家竞相破解大型语言模型背后的谜团
...复杂行为。面对复杂问题,人类在潜意识里会进行分步骤推理。受此启发,谷歌团队2022年引入了“思维链提示”,以描述一种让LLM展示其“思维”的方法。简单来说,思维链提示是一种特殊的上下文学习。不同于标准提示只给...……更多
高德宣布逐步开放AI能力 助力打造时空智能城市
...‘升维’成了必然趋势。”为此,高德云图将在感知层、推理层、决策层推动三大升级,助力智慧城市向时空智能城市进化。在感知层,云境AI三维重建平台将推动城市从二维还原向三维升级,真实还原城市静态世界;在推理层...……更多
文心大模型4.0 Turbo来了!百度推出文心快码2.5,已覆盖内部80%程序员
...考虑到大模型和异构多芯发展趋势,为了保障大模型训练推理性能、简化大模型开发调优过程以及更好地适配各种芯片,飞桨与文心联合,在训练、推理两个方面定向优化。▲飞桨框架设计理念具体来说,动静统一的自动并行能...……更多
清华提出CharacterGLM;DeepMind联创发全新一代大模型;大模型版“5年高考3年模拟”来了丨AI新零售早报
...|微软&UCLA&UW联合出品》MathVista是一个多模态数学推理基准数据集,由微软、UCLA和UW联合开发,包含6141个数学问题,涵盖丰富的任务类型、推理能力和图像类型。特点:旨在提供一个全面、多样、复杂的视觉数学推理挑战...……更多
...理陈宁介绍,DeepEdge10是国内首创的国产14nm Chiplet大模型推理芯片,采用自主可控的国产工艺,内含国产RISC-V核,支持大模型推理部署。依托自研芯片DeepEdge10创新的D2D chiplet架构打造的X5000推理卡,已适配并可承载SAM CV大模型、Lla...……更多
RAG没有银弹!四级难度,最新综述覆盖数据集、解决方案,教你「LLM+外部数据」的正确使用姿势
...成到LLMs中的三种主要方式。从简单的事实检索到复杂的推理任务,每个级别都有其独特的难点和解决方案,需要不同的技术和方法来优化性能。受参数量和知识更新的限制,大模型在执行很多真实场景下的任务时,都需要连接...……更多
更多关于科技的资讯:
荣耀平板v9正式开售:搭载联发科8350处理器
12月16日晚,荣耀正式发布荣耀平板V9。12月24日,CNMO注意到,据荣耀官方消息,荣耀平板V9正式开售时间为今日早上10点08分
2024-12-25 16:43:00
“树人托管惊爆招商新政策,千万别错过这波机遇!“
在当前经济波动和服务业不断深入发展的大背景下,家庭服务业的细分行业——中小学生校外托管行业也面临前所未有的发展机遇,受到广泛的关注
2024-12-25 16:45:00
通讯员 李国秀 王俊菲走进山东厚丰汽车散热器有限公司的研发基地,精密的仪器彰显着高端的科技,其中整车环境模拟实验室可以将环境温度保持在-40℃—60℃的范围内进行试验
2024-12-25 16:54:00
小米官宣:与蔚来、小鹏、理想合作
12月25日,小米汽车通过官方微博宣布,正式与蔚来汽车、小鹏汽车、理想汽车展开充电补能网络合作。此次合作旨在为用户提供更高效便捷的充电服务
2024-12-25 16:55:00
拼多多代运营领域靠谱的代运营团队,电商代运营公司十大排名
在拼多多这个竞争超级激烈的电商平台里混,商家们的日子可不容易。流量就那么多,大家都在抢,想多卖点货、多赚点钱,简直难如登天
2024-12-25 17:10:00
2024“星鲨杯”全球虚拟现实内容大赛颁奖典礼暨《虚拟/增强现实内容制作流程规范》国家标准系列宣贯活动在京举行
中国消费者报北京讯(记者董芳忠)由虚拟现实内容制作中心、星鲨科技集团有限公司主办,青岛星鲨虚拟现实技术研究院协办的2024“星鲨杯”全球虚拟现实内容大赛颁奖典礼于近日在北京举行
2024-12-25 17:46:00
发展新质生产力看山西国企:山西省首个数字孪生隧道全息感知平台正式上线
近日,山西交控交科集团智研院公司研发的山西省首个数字孪生隧道全息感知平台正式上线,并在大南山隧道管理站正式投入使用。此平台是基于数字时空底座能力
2024-12-25 17:47:00
让顺风车用户再次同行更便捷 嘀嗒出行上线顺风车“再次同行邀请”功能
顺风出行,如何更方便地与同行过的同路人再次同行呢?近日,嘀嗒出行推出全新的再次“同行邀请“功能,让曾同行过的车主乘客,下次同行更方便
2024-12-25 17:48:00
嘉桦白桦树汁品牌践行人与自然和谐共生
12月18日,第七届界面财经年会在上海举行,嘉桦白桦树汁品牌凭借其卓越的创新能力和可持续发展实践,荣膺年度臻善企业奖,彰显了品牌在行业内的领先地位与社会责任感
2024-12-25 17:49:00
临沂:企业开足马力赶订单 奋力冲刺“全年红”
冲刺四季度,打好收官战。连日来,临沂市各企业纷纷按下生产“快进键”,开足马力赶订单,奋力夺取“全年红”。
2024-12-25 17:49:00
“潮好玩冰雪季”圆满收官,耕升带你回顾趣味瞬间!
“潮好玩冰雪季”已于2024年12月22日在吉林圆满收官!为了让众多游戏迷和科技爱好者积极参与到这次盛大的活动中,耕升上演一场科技与冰雪的激情碰撞
2024-12-25 17:58:00
中新经纬12月25日电 据工信部官网25日消息,近日,工业和信息化部、国务院国有资产监督管理委员会及中华全国工商业联合会联合印发《制造业企业数字化转型实施指南》(以下简称“《指南》”)
2024-12-25 17:58:00
华商网获评2024年搜狐网年度合作伙伴
2024年,媒体机构创作者们依旧积极活跃在搜狐平台上,持续追踪热点新闻、深度剖析社会现象。以其独特的视角和力量,跨越时空界限
2024-12-25 18:08:00
未来已来,华科尔推出量产级车载无人机WK-AC20MINI
在汽车上配备无人机,一直是汽车行业的宏大梦想之一。如今,梦想照进现实,作为全球主流的无人机制造商,华科尔推出全新的微型车载无人机场WK-AC20MINI
2024-12-25 18:26:00
京东客服再加薪!月固定工资大幅提升,全员平均涨薪2个月
12月25日,京东集团宣布,再次升级客服人员薪酬福利。超2万名京东客服月固定工资将大幅提升,提高收入的保障性和稳定性,实现全员平均涨薪2个月
2024-12-25 18:28:00