• 我的订阅
  • 科技

智能体不够聪明怎么办?清华&蚂蚁团队:让它像学徒一样持续学习

类别:科技 发布时间:2024-12-11 09:53:00 来源:机器之心Pro
智能体不够聪明怎么办?清华&蚂蚁团队:让它像学徒一样持续学习

随着 ChatGPT 掀起的 AI 浪潮进入第三年,人工智能体(AI Agent)作为大语言模型(LLM)落地应用的关键载体,正受到学术界和产业界的持续关注。实际上,早在 5-6 年前,预训练技术就已经在许多实际任务中取得了显著成果。但 AI Agent 之所以在当下备受瞩目,更多地源于其在自动解决复杂任务方面展现出的巨大潜力,而这种潜力的核心基石正是智能体的复杂推理能力。

与当下广受关注的 OpenAI-o1 及其追随者略有不同,大多数实用的 AI Agent 往往需要在特定场景下发挥作用。这种情况类似于普通人类:虽然不是每个人都需要具备获得 IMO 金牌的数学素养,但在具体场景下利用特定知识和工具完成复杂任务(例如使用搜索引擎、处理私有文档等)的能力却是不可或缺的。这一特点也意味着 AI Agent 的开发者们需要一套既通用又高效的 Agent 构建方法论。

更具挑战性的是,作为面向实际应用的产品,AI Agent 在部署后还需要能够随着应用场景的演进和用户需求的变化而不断更新优化。这些实际问题都表明,构建一个真正实用的 AI Agent 绝非简单的提示工程(Prompt Engineering)或模型微调(Fine-tuning)所能解决,而是需要更系统化的方法。

在 NeurIPS 2024 上,来自清华大学和蚂蚁集团的研究者针对人工智能体构建方法的通用性和适应性提出了一个新方案。这个被命名为AMOR(Adaptable MOdulaR knowledge agent)的系统,不仅能低成本地调用专业工具和知识库,更重要的是,它能像人类一样持续学习和成长。

智能体不够聪明怎么办?清华&蚂蚁团队:让它像学徒一样持续学习

论文标题:AMOR: A Recipe for Building Adaptable Modular Knowledge Agents Through Process Feedback 论文地址:https://arxiv.org/abs/2402.01469 作者主页:https://jianguanthu.github.io/

AI Agent 的「三大短板」:为什么它们还不够「聪明」?

想让 AI Agent 真正胜任助手角色,仅有海量知识是远远不够的。研究团队通过深入分析发现,当前 AI Agent 普遍存在三大短板:

黑盒思维」:与优秀人类助手能清晰展示解题思路不同,AI Agent 的推理过程往往是个黑箱,我们根本无从得知它是如何得出结论的。 固步自封」:AI Agent 就像被困在训练时刻的「永恒现在」,无法像人类那样与时俱进,持续获取新能力、更新认知。 粗放纠错」:当 AI Agent 犯错时,我们只能笼统地说「答案不对」,而无法像指导学生那样,精确指出「这一步推理有问题」。

更令人困扰的是,目前业界主流方案都未能同时解决这三大难题。作者对比了当前最具代表性的 AI Agent 框架,它们要么推理过程不可控,要么知识固化,要么反馈机制过于粗糙。这一困境在开源模型中表现得尤为明显。

智能体不够聪明怎么办?清华&蚂蚁团队:让它像学徒一样持续学习

AMOR 和已有构建智能体的代表性方法的比较

AMOR:基于有限状态机的模块化推理方案

如何让 AI Agent 既能像专家一样严谨思考,又能像学徒一样持续成长?AMOR 框架给出了一个优雅的答案:将复杂的 AI 推理过程拆解成可控的「专家模块」,通过有限状态机(FSM)编排它们的协作规则,就像精密的齿轮系统一样,每个部件都完美啮合。

智能体不够聪明怎么办?清华&蚂蚁团队:让它像学徒一样持续学习

AMOR 的状态转移图

这种设计带来三大关键优势:

1. 结构化推理框架

FSM 使得定义步骤间的依赖关系(例如,执行顺序、分支选择)非常方便,因此能够容易地对错误的路径进行剪枝,从而缩小探索空间,也有潜力更高效地构建类 OpenAI-O1 的长推理链。

2. 「双阶段」训练策略

通过将复杂任务解耦为独立模块,AMOR 能够独立训练每个模块,从而可以充分利用开源数据集。具体而言,AMOR 采用「预热 + 适应」两阶段训练模式:

快速起步 - 预热阶段:就像新员工入职培训,AMOR 通过在 5 万个自动构建的样本上训练掌握基础技能。这些样本被巧妙地分解到各个模块,使得即便是开源语言模型也能快速达到专业水准。 持续进化 - 适应阶段:像经验丰富的职场人一样,AMOR 在实际工作中不断成长。每解决一个问题,它就能积累一分经验,逐步适应特定领域的专业需求。

3. 过程反馈机制

传统 AI 训练就像只告诉学生「考试及格 / 不及格」,而不指出具体错在哪里。这种粗糙的反馈机制常常导致 AI 像「黑盒」一样难以诊断问题,训练效果事倍功半。而 AMOR 引入「过程反馈」机制,在适应训练阶段中,其结构化的推理过程使用户能够轻松诊断智能体的错误,并提供过程反馈以提高智能体的推理能力。

4. 框架通用性

AMOR 框架的设计充分考虑了通用性和可扩展性。虽然论文主要以文本知识库为例进行验证,但其基于 FSM 的模块化设计天然支持多种应用场景的迁移和扩展:

知识类型扩展:通过定制 FSM 框架内的模块和依赖关系,AMOR 可以灵活支持不同类型的知识库,如结构化数据库、多模态知识等。 任务类型扩展:除了问答任务外,通过重新设计状态转移图,AMOR 还可以支持其他知识密集型任务,如文档摘要、知识推理等。 工具集成扩展:得益于模块化设计,AMOR 可以方便地集成各类专业工具。只需将新工具封装为对应的工具模块,并在 FSM 中定义其调用规则即可。

这种可扩展的架构设计使得 AMOR 不仅能够解决当前的知识推理任务,更为未来接入新的知识源、任务类型和工具能力预留了充足的扩展空间。正如论文所述,AMOR 提供了一个构建知识智能体的通用框架,其核心思想是基于 FSM 的推理逻辑和过程反馈机制,这使得它能够适应各种不同的应用场景需求。

AMOR 实现:模型结构和训练过程

AMOR 采用了一种巧妙的「专家混合」架构(Module-Aware Mixture-of-Experts,简称 MA-MoE)。这种设计灵感来自人类的专业分工:就像一个人可以是优秀的医生,同时在其他领域保持基本能力。具体来说,MA-MoE 为每个功能模块配备了独特的 FFN 参数,并用原始模型的 FFN 参数进行初始化。这就像是在 AI 的「大脑」中划分了专门的「思维区域」。

在预热阶段,AMOR 用标准的 MLE Loss 在 5 万个样本上对 MA-MoE 进行微调。 在适应阶段,AMOR 的训练过程分为三个关键步骤:探索、反馈和利用

智能体不够聪明怎么办?清华&蚂蚁团队:让它像学徒一样持续学习

探索(Exploration):就像学徒需要亲自动手实践,AMOR 会直接处理用户的实际问题。在这个过程中,AMOR 在知识库中搜索相关信息,进行思考和推理,并推断答案。 反馈(Feedback Collection):这个阶段就像师傅在旁边观察学徒的工作,并给出具体指导,可以直接说「对」或「错」,也可以具体指出正确答案,并且 AMOR 的每个推理步骤都能得到反馈。 利用(Exploitation):每处理一定数量的问题后,AMOR 会根据收集到的反馈进行「复盘」,使用 KTO Loss 将 MA-MoE 和人类偏好对齐。和预热阶段类似,AMOR 的每个模块在优化时只调整自己的「专业参数」。

AMOR 实验:成本更低,效果更好

在 HotpotQA(百科知识问答)、PubMedQA(医学文献问答)和 QASPER(论文长文本问答)三个基准测试中,AMOR 展现出优秀的性能:

AMOR 的 FSM 框架让 AI 的推理过程更加清晰可控,比传统方法提升 30%~40%; 通过在多个开源数据集上预热,AMOR 甚至超越了用 GPT-4 生成训练数据的智能体; 使用过程反馈比结果反馈进行适应更高效:仅需 800 次互动就能达到稳定效果,并且证据收集能力和推理正确率显著提升。

智能体不够聪明怎么办?清华&蚂蚁团队:让它像学徒一样持续学习

AMOR 及基线方法在微调或不微调时的实验结果

实例展示

下图比较了 AMOR 和传统的 ReAct 框架(基于 GPT-3.5)分别回答同一问题的推理过程:

智能体不够聪明怎么办?清华&蚂蚁团队:让它像学徒一样持续学习
智能体不够聪明怎么办?清华&蚂蚁团队:让它像学徒一样持续学习

AMOR(上)和 ReAct(下)回答同一输入问题的样例

如图所示,没有明确推理逻辑约束的 ReAct 未能成功分解问题,并在「Thought/Action 5」 中过早地终止检索。此外,ReAct 在「Thought 2/4/5」中也混合了正确和错误的步骤,这使得用户难以针对性地批评和改进智能体。相比之下,AMOR 则如同经验丰富的专家,每一步推理都清晰可控,不仅能准确找到答案,还能接受精确的过程指导,持续提升自己的能力。

成本分析

在 AI 领域,性能提升往往意味着更高的成本。然而,如下图所示,AMOR 打破了这个「魔咒」。

智能体不够聪明怎么办?清华&蚂蚁团队:让它像学徒一样持续学习

不同智能体的平均步骤数 /token 数对比

为什么 AMOR 如此高效?想象一个团队会议:传统方法(如 ReAct)像是每个人发言都要重复之前所有人说过的话;AMOR 则像是精心设计的会议流程:每个环节只传递必要信息。按照目前 API 调用成本计算,使用 GPT-4o 处理 1 万个问题,AMOR 比 ReAct 节省数百美元;当使用开源模型时,成本可以进一步降低 90% 以上。这意味着 AMOR 不仅在性能上领先,在商业落地时也具有显著的成本优势。尤其适合大规模文档处理、客服智能问答、专业领域咨询等高频场景的应用。

本文介绍了 AMOR—— 一个为知识密集型任务设计的模块化智能体框架。它通过 FSM 推理系统和过程反馈机制,让 AI 展现出前所未有的推理能力和学习潜力。AMOR 的成功为 AI 助手的发展开辟了新路径。作者表示,接下来,他们将拓展到更多知识类型(如结构化知识库)、探索更广泛的应用场景、研究 AI 自主设计推理逻辑的可能性。这些工作预示着我们正在接近真正的「AI 专家」:既有清晰的推理能力,又能在实践中持续成长。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-12-11 12:45:03

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

5年投资超1000亿,北京公布一系列AI重磅成果,北大清华百度蚂蚁微软大佬齐谈AI未来|钛媒体AGI
...京大学教授、中国科学院院士鄂维南;中国工程院院士、清华大学信息科学技术学院院长戴琼海;百度CTO王海峰;蚂蚁集团CTO何征宇;微软全球资深副总裁、Microsoft AI亚太
2024-04-28 11:00:00
...多模态生成式大模型与应用产品开发。团队成员主要来自清华大学人工智能研究院,前瑞莱智慧副总裁唐家渝出任首席执行官。热潮席卷半年以来,大模型赛道的竞争壁垒变与不变共存。唐家渝认为
2023-06-19 09:03:00
衡水中学、复旦附中…国内9所顶尖高中成立“C9共同体”,网友吵开了
...这样的C9共同体:冷漠无情小哑巴 : 所以偏远地区的孩子怎么办柠檬凤爪主推官 : 不是吧?高中就开始卷了啊小Lin努力高冷 : 教育资源愈发不平衡,菜的学校只会更菜,好的只会
2023-03-15 11:32:00
平生与最后,不过一呼一吸间,要时刻当作最后来看
...行也不再容易。毕竟世间无常,万一在睡梦中离开,那该怎么办呢?难道要达到梦寐一如,那这真是难行中的难行啊!醒着的时候,勉强能记得,睡着的时候,还能继续,这就不是凡人了。我们习惯
2023-06-14 23:20:00
第三届ATEC科技精英赛结果出炉,蚂蚁联合清华等17所高校举办
...能学会指导,ATEC前沿科技探索社区发起,蚂蚁集团联合清华大学、上海交通大学、浙江大学、西安交通大学等17所知名高校共同承办,60多位学界专家联合评审的第三届ATEC科技精英
2023-09-01 16:47:00
...菇的名字是什么?有毒吗?”“这是什么蛇?户外遇到它怎么办”……当户外运动者等用户在深山等网络极端条件下遇到类似问题时,通过MiniCPM 就能获得解答,它像其他大模型一样具备
2024-02-04 05:41:00
花呗账单助手上线两周年,超过1亿使用者为90后年轻人
...正在使用账单助手来管理自己的消费信贷行为,今年初,清华大学五道口金融学院研究团队经过两年跟踪实验发现,账单助手能有效改善消费行为,从而推动了良好的还款行为,实验组用户的逾期率
2023-08-25 23:30:00
...天后,2022年度浙江省科学技术奖揭晓,由蚂蚁集团联合清华大学攻克的安全科技领域研究成果《面向海量交易的分布式协同风险防御关键技术与系统》(以下简称,分布式风险防御技术),获
2023-11-14 12:43:00
“被投资的”智谱AI成了“投资人”
...报道称,国内AI大模型独角兽公司“智谱 AI”参与投资了清华系AI Infra系统软件公司“清程极智”,首轮数千万元融资。天眼查显示,清程极智在3月27日完成数千万元人民币首
2024-04-03 11:12:00
更多关于科技的资讯: