• 我的订阅
  • 头条热搜
首个o1复现开源RL框架OpenR来了,UCL、上交等高校联合团队发布
...学(广州)、西湖大学联合开源了首个类 o1 全链条训练框架「OpenR」,一个开源代码库,帮助用户快速实现构建自己的复杂推断模型 。整个项目由 UCL 汪军教授发起和指导,实验主要由上海交大团队完成。 我们介绍了 OpenR,首...……更多
NeurIPS Spotlight|从分类到生成:无训练的可控扩散生成
...华大学等机构的研究团队联合提出了一种全新的统一算法框架,名为无训练指导(Training-Free Guidance, 简称 TFG)。这一框架无缝整合现有的无训练指导方法,凭借理论创新和大规模实验验证,成为扩散模型条件生成领域的重要里...……更多
扩散模型也能搞定社交信息推荐,港大数据智能实验室提出RecDiff
...了新项目RecDiff。RecDiff是一种全新的基于扩散模型的推荐框架,能够更好地捕捉用户的潜在偏好和兴趣,从而生成个性化、贴合用户需求的推荐内容。具体而言,该框架采用隐空间扩散机制,有效清除用户表示中的噪声,无论是...……更多
罗格斯大学团队提出思想链概念,提高大模型的算数推理能力
...提示设计的标准化方法。 借助 CoT,人们现在拥有了一个框架来创建更有效的提示,从而可以完成复杂的推理任务。而这种增强解数学题的能力,能帮助用户更好地解数学题。此外,CoT 还可以通过搜索引擎理解和处理多步骤查...……更多
多模态模型免微调接入互联网,即插即用新框架,效果超闭源方案
...大学、浙江大学、香港大学联合提出即插即用的SearchLVLMs框架,可以无缝整合任意的多模态大模型。该框架在推理阶段对大模型进行互联网检索增强,使得大模型无需微调即可对实时信息进行准确的反馈。研究团队提出首个辅助...……更多
不靠更复杂的策略,仅凭和大模型训练对齐,零样本零经验单LLM调用
...究团队也想发问:构建通用智能体时,在铺设复杂的系统框架前,是否已经优化了行动 / 观测空间,让这些功能模块达到了最优状态?论文链接:https://arxiv.org/abs/2410.13825 论文名:AgentOccam: A Simple Yet Strong Baseline for……更多
谷歌大模型推理范式,主要分为两个阶段
...waroopMishra是谷歌DeepMind的研究科学家,它参与的Self-Instruct框架在GitHub上星标3.5k、被引用次数超过600,并被ACL2023接收。此外QuocLe、DennyZhou等大模型提示微调、推理方向的老面孔也参与其中。虽然官方暂未开源,但已经有迫不及待..……更多
LLM超越人类时该如何对齐?谷歌用新RLHF框架解决了这个问题
...芝加哥大学一个研究团队开发了一种可扩展的开放式 RLHF 框架 eva,即 Evolving Alignment via Asymmetric Self-Play,也就是「通过非对称自博弈实现的演进式对齐」。论文标题:Evolving Alignment via Asymmetric Self-Play 论文地址……更多
空间智能新进展:教机器人组装家具,实现操作步骤与真实视频对齐
... 首先,研究者们首先定义了一套层次化的装配过程描述框架,将整个装配过程分为步骤、子步骤和视频帧等多个层级。作者首先从IAW数据集中提取每个手动步骤的视频片段,并将每个视频片段分解为更小的间隔(子步骤)。对...……更多
全模态对齐框架align-anything来啦:实现跨模态指令跟随
...京大学一支团队迅速跟进,用自研的全球首个全模态对齐框架「Align Anything」对 Llama 3.2 进行了微调,表现出了比 Meta 微调的 Llama-3.2-11B-Vision-Instruct 更强的对齐性与指令跟随性。 为进一步促进社区的多模态对齐研究,日前,该...……更多
将偏好学习引入模型训练,北大李戈团队提出代码生成优化新框架
...练过程中引入偏好学习,提出了一个全新的代码生成优化框架——CodeDPO。在部分模型上,相比于单独使用SFT,CodeDPO能够将模型的HumanEval得分再多提升10个百分点,最高增幅接近1/3。监督微调(SFT)等现有训练方法,尽管提升了...……更多
麻省理工的科学家可以让最流行的人工智能图像生成器提速30倍
科学家们已经建立了一个框架,通过将它们浓缩到更小的模型中,在不影响质量的情况下,给像Dall·E3和Stable Diffusion这样的生成式人工智能系统带来了巨大的提振。一项新的研究表明,由于一项技术可以将整个100个阶段的过程...……更多
多模态模型评测框架lmms-eval发布!全面覆盖,低成本,零污染
...oTA」的时代,简单易用、标准透明、可复现的多模态评估框架变得越来越重要,而这并非易事。为解决以上问题,来自南洋理工大学 LMMs-Lab 的研究人员联合开源了 LMMs-Eval,这是一个专为多模态大型模型设计的评估框架,为多模...……更多
...是一个技术过程,更是一个社会和心理过程。3.麦肯锡7S框架麦肯锡7S框架是由麦肯锡公司的两位顾问罗伯特·沃特曼和汤姆·彼得斯于20世纪80年代初提出的一个组织管理模型。最初出现在汤姆·彼得斯和罗伯特·沃特曼合著的书籍...……更多
补齐Transformer规划短板又不放弃快速思考,Dualformer双重优势
...决这些挑战,他们提出了一个利用随机化推理轨迹的训练框架。该方法的灵感来自两个研究方向: 该团队注意到,即便 Searchformer 是在完整的 A* 搜索轨迹上训练的,但它也会生成更短的勾勒搜索过程的轨迹。 研究表明,人类在...……更多
姚期智院士大模型新研究:思维图DoT,用数学理论确保AI逻辑一致
姚期智院士领衔,推出大模型新推理框架,CoT“王冠”戴不住了。提出思维图(DiagramofThought),让大模型思考更像人类。团队更是为这种推理过程提供了数学基础,通过拓扑斯理论(Topos Theory)正式化(formalize)DoT,确保其逻...……更多
阿里多模态检索智能体,自带o1式思考过程!复杂问题逐步拆解
...异。目前OmniSearch在魔搭社区还有demo可玩。动态检索规划框架,打破传统mRAG局限传统mRAG方法遵循固定的检索流程,典型的步骤如下: 输入转化:接收多模态输入(例如图像+文本问题),将图像转化为描述性文本(例如通过image...……更多
Llama3训练每3小时崩一次?豆包大模型、港大为脆皮万卡训练提效
...提出了 ByteCheckpoint。这是一个 PyTorch 原生,兼容多个训练框架,支持 Checkpoint 的高效读写和自动重新切分的大模型 Checkpointing 系统,相比现有方法有显著性能提升和易用性优势。本文介绍了大模型训练提效中 Checkpoint 方向面临的...……更多
阿里推出AI数据科学家,全流程自动化,科研小白也能用
基于开源Agent框架,可自动解决复杂数据科学问题的Agent来了!具体来说,Data Science Assistant(以下称DS Assistant)是基于Modelscope-Agent框架开发的数据科学助手。有了它,我们只需给需求,这个助手就能自己跑完探索性数据分析(ED...……更多
没排上SearchGPT?比Perplexity更好用的国产开源平替了解一下?
...,需要大约 3 小时才能做完。这款「国货」就是多智能体框架 MindSearch(思・索),由来自中科大和上海人工智能实验室的研究团队联合研发。正如其名,MindSearch 是一个会「思索」的系统,面对你输入的问题,它将先调用负责...……更多
零成本突破多模态大模型瓶颈!多所美国顶尖高校华人团队,联合推出自增强技术CSR
...数据,存在成本和质量问题。Calibrated Self-Rewarding(CSR)框架通过自我增强学习,利用模型自身输出构造更可靠的偏好数据,结合视觉约束提高学习效率和准确性。多模态大模型展现出了多种多样的能力,这些能力都通过SFT和预...……更多
突破时间序列组合推理难题!南加大发布一站式多步推理框架TS-Reasoner
【新智元导读】TS-Reasoner是一个创新的多步推理框架,结合了大型语言模型的上下文学习和推理能力,通过程序化多步推理、模块化设计、自定义模块生成和多领域数据集评估,有效提高了复杂时间序列任务的推理能力和准确性...……更多
苹果的封闭生态为大模型打开!发布开源多模态大模型、每天为 AI 烧百万美元,零碎的 Android 生态打得过吗?
...,苹果的机器学习研究团队还悄悄发布了一个名为 MLX 的框架来构建基础模型。彭博社报道称,苹果正在开发 Siri 的改进版本,并计划在下一个重大 iOS 版本中提供以人工智能为中心的功能。另外,苹果还正在与一些大型新闻出...……更多
CMU清华教LLM练成数学高手,LeanSTaR训练模型边思考边证明,登顶新SOTA
...学水平不及小学生怎么办?CMU清华团队提出了Lean-STaR训练框架,在语言模型进行推理的每一步中都植入CoT,提升了模型的定理证明能力,成为miniF2F上的新SOTA。如果想训练LLM证明定理的能力,你会怎么做?既然模型可以通过海量...……更多
苹果让大模型学会偷懒:更快吐出第一个token,准确度还保住了
... 对比了标准 LLM 与 LazyLLM。LazyLLM图 4 展示了 LazyLLM 的整体框架。从完整上下文开始,LazyLLM 会逐渐对 token 进行剪枝,从而逐渐减少得到最终模型所使用的计算数量。请注意,LazyLLM 允许模型在不同的生成步骤选取不同的 token 子集...……更多
比GPU性价比高百倍!Cerebras推出新AI推理服务,号称“全球最快”
...署更加便捷和一致,LangChain为语言模型应用提供快速开发框架,Weights&Biases打造了供AI开发者训练和微调模型的MLOps平台……“LiveKit很高兴能与Cerebras合作,帮助开发者构建下一代多模态AI应用。结合Cerebras的计算能力和模型以...……更多
陈天奇团队LLM结构化生成新引擎XGrammar:百倍加速、近零开销
...示:「我们正在开源 XGrammar 并将其集成到主要的开源 LLM 框架中。」XGrammar 概览如图 1 所示,Grammar 利用了字节级下推自动机(byte-level pushdown automaton)来解释上下文无关语法。这种字节级设计允许每个字符边缘包含一个或多个...……更多
推动大模型自我进化,北理工推出「流星雨计划」
...推理能力。作者表示,他们期待探究更通用化的自我进化框架和方法,使其在各种场景中都可以被广泛使用。流星雨计划论文:https://arxiv.org/abs/2411.11933 Github 链接:https://github.com/DIRECT-BIT/METEOR该计划提出一个由弱到强的……更多
以图灵机为师:通过微调训练让大语言模型懂执行计算过程
...南京大学的研究者提出了一种面向 LLM 的可组装算术执行框架 (CAEF),使 LLM 能够通过模仿图灵机的方式来执行算术,从而理解计算逻辑。此外,CAEF 具有高度的可扩展性,允许组合已经学习到的运算符,以降低复杂运算符的学...……更多
70倍极致压缩!大模型的检查点再多也不怕
...降低训练中的存储开销。代码目前已经开源,在 Apache 2.0 框架下发布,issue 中已经有小伙伴成功复现了结果。文章地址:https://arxiv.org/abs/2406.11257 仓库地址:https://github.com/Gaffey/ExCP方法也很有创新性,文章中提到……更多
更多关于科技的资讯:
NVIDIA RTX 60系列用上更大显存:DLSS 5性能再翻倍
快科技2月3日消息,NVIDIA RTX 50系列显卡刚发布开售不久,关于RTX 60系列显卡的爆料就已经来了。根据最新的泄露信息
2025-02-03 09:40:00
Intel XeSS游戏已达159款!但是XeSS 2只有两款
快科技2月3日消息,Intel在三大厂中率先发布了新一代显卡,锐炫B580凭借不错的性能、12GB的大显存、高超的性价比占据了一席之地
2025-02-03 09:40:00
特斯拉Model 3深陷海滩:越野车、皮卡救援无果 还得铲车上!
快科技2月3日消息,奉劝大家不有事没事开车上海滩上,一旦陷车,真不是那么容易救援的,如果恰好碰到涨潮,怕是车子都要废了
2025-02-03 09:40:00
DeepSeek引发美国地震!怀疑中国通过新加坡获取NVIDIA AI芯片
快科技2月3日消息,DeepSeek大模型的出色表现引发美国AI行业上下震动,不仅性能与OpenAI O1旗鼓相当,更关键的是训练成本低得多
2025-02-03 10:10:00
三星Galaxy Watch 5成功以60帧运行GTA:《战神》也不在话下
快科技2月3日消息,近日Reddit用户ZenonDesingk成功在三星Galaxy Watch 5智能手表上运行了多款经典游戏
2025-02-03 10:10:00
跟黄牛买了块便宜的RTX 3090:GPU、显存全都不见了!
快科技2月3日消息,NorthridgeFix是一家阅历极为丰富的硬件维修机构,见过各种各样奇奇怪怪的损坏产品,但最近收到的一块RTX 3090却相当疯狂
2025-02-03 10:40:00
突发!女艺人大S去世:在日本流感并发肺炎 年仅48岁
快科技2月3日消息,近日,媒体出现关于中国台湾艺人大S(徐熙媛)因急性疾病在日本去世的传闻,引发广泛关注和热议。根据多家媒体最新报道
2025-02-03 11:10:00
大S因流感并发肺炎去世!这波日本流感到底有多猛:高峰时1周258万人就医
2月3日消息,据国内媒体报道,中国台湾女演员、歌手、主持人徐熙媛(大S)因流感并发肺炎去世。小S发文:谢谢大家的关心!新年期间
2025-02-03 11:40:00
准时发布有望:《GTA6》被曝已能从头玩到尾
快科技2月3日消息,《GTA6》近期传出可能推迟到2026年发售的消息,引发了众多玩家的担忧,不过前R星开发者迈克·约克(Mike York)的最新言论为玩家们带来了希望
2025-02-03 11:40:00
大S去世 日本流感引网友关注:1999年以来感染人数最多的一次
2月3日消息,中国台湾女演员、歌手、主持人徐熙媛(大S)因流感并发肺炎去世。随后,日本流感登上微博热搜,引发国内网友关注
2025-02-03 12:40:00
大S流感并发肺炎去世:感冒出现这些症状千万别拖!
据澎湃新闻,中国台湾女演员、歌手、主持人徐熙媛(大S)因流感并发肺炎去世,年仅48岁。流感(Influenza)在中文中称为“流行性感冒”
2025-02-03 12:40:00
帧率翻倍!NVIDIA驱动级帧生成Smooth Motion将下放RTX 40系列
快科技2月3日消息,NVIDIA DLSS 4带来了全新的Transformer大模型、MFG多帧生成技术,后者可以为每一帧画面额外生成3帧
2025-02-03 13:10:00
大疆无人机撞停加州山火灭火飞机:飞手认罪全额赔偿65169美元
快科技2月3日消息,上月9日,参与美国加州南部山火灭火工作的一架CL-415“超级舀子”灭火飞机在空中与一架私人无人机相撞受损
2025-02-03 13:10:00
万元显卡标杆!影驰名人堂RTX 5080隆重登场:26相供电
快科技2月3日消息,曾经,各家显卡都有自己的顶级系列,比如华硕的Matrix、微星的Lightning、七彩虹的九段,但能坚持下来的不多了
2025-02-03 14:40:00
叉腰、扎马步:看看我国1600多年前的“手电筒”
快科技2月3日消息,在浙江省博物馆,有一件瓯窑青瓷点彩牛形灯盏,20世纪50年代出土于浙江温州的一处东晋墓地,距今已有1600多年
2025-02-03 14:40:00