• 我的订阅
  • 头条热搜
首个o1复现开源RL框架OpenR来了,UCL、上交等高校联合团队发布
...学(广州)、西湖大学联合开源了首个类 o1 全链条训练框架「OpenR」,一个开源代码库,帮助用户快速实现构建自己的复杂推断模型 。整个项目由 UCL 汪军教授发起和指导,实验主要由上海交大团队完成。 我们介绍了 OpenR,首...……更多
扩散模型也能搞定社交信息推荐,港大数据智能实验室提出RecDiff
...了新项目RecDiff。RecDiff是一种全新的基于扩散模型的推荐框架,能够更好地捕捉用户的潜在偏好和兴趣,从而生成个性化、贴合用户需求的推荐内容。具体而言,该框架采用隐空间扩散机制,有效清除用户表示中的噪声,无论是...……更多
罗格斯大学团队提出思想链概念,提高大模型的算数推理能力
...提示设计的标准化方法。 借助 CoT,人们现在拥有了一个框架来创建更有效的提示,从而可以完成复杂的推理任务。而这种增强解数学题的能力,能帮助用户更好地解数学题。此外,CoT 还可以通过搜索引擎理解和处理多步骤查...……更多
多模态模型免微调接入互联网,即插即用新框架,效果超闭源方案
...大学、浙江大学、香港大学联合提出即插即用的SearchLVLMs框架,可以无缝整合任意的多模态大模型。该框架在推理阶段对大模型进行互联网检索增强,使得大模型无需微调即可对实时信息进行准确的反馈。研究团队提出首个辅助...……更多
不靠更复杂的策略,仅凭和大模型训练对齐,零样本零经验单LLM调用
...究团队也想发问:构建通用智能体时,在铺设复杂的系统框架前,是否已经优化了行动 / 观测空间,让这些功能模块达到了最优状态?论文链接:https://arxiv.org/abs/2410.13825 论文名:AgentOccam: A Simple Yet Strong Baseline for……更多
谷歌大模型推理范式,主要分为两个阶段
...waroopMishra是谷歌DeepMind的研究科学家,它参与的Self-Instruct框架在GitHub上星标3.5k、被引用次数超过600,并被ACL2023接收。此外QuocLe、DennyZhou等大模型提示微调、推理方向的老面孔也参与其中。虽然官方暂未开源,但已经有迫不及待..……更多
LLM超越人类时该如何对齐?谷歌用新RLHF框架解决了这个问题
...芝加哥大学一个研究团队开发了一种可扩展的开放式 RLHF 框架 eva,即 Evolving Alignment via Asymmetric Self-Play,也就是「通过非对称自博弈实现的演进式对齐」。论文标题:Evolving Alignment via Asymmetric Self-Play 论文地址……更多
全模态对齐框架align-anything来啦:实现跨模态指令跟随
...京大学一支团队迅速跟进,用自研的全球首个全模态对齐框架「Align Anything」对 Llama 3.2 进行了微调,表现出了比 Meta 微调的 Llama-3.2-11B-Vision-Instruct 更强的对齐性与指令跟随性。 为进一步促进社区的多模态对齐研究,日前,该...……更多
麻省理工的科学家可以让最流行的人工智能图像生成器提速30倍
科学家们已经建立了一个框架,通过将它们浓缩到更小的模型中,在不影响质量的情况下,给像Dall·E3和Stable Diffusion这样的生成式人工智能系统带来了巨大的提振。一项新的研究表明,由于一项技术可以将整个100个阶段的过程...……更多
多模态模型评测框架lmms-eval发布!全面覆盖,低成本,零污染
...oTA」的时代,简单易用、标准透明、可复现的多模态评估框架变得越来越重要,而这并非易事。为解决以上问题,来自南洋理工大学 LMMs-Lab 的研究人员联合开源了 LMMs-Eval,这是一个专为多模态大型模型设计的评估框架,为多模...……更多
...是一个技术过程,更是一个社会和心理过程。3.麦肯锡7S框架麦肯锡7S框架是由麦肯锡公司的两位顾问罗伯特·沃特曼和汤姆·彼得斯于20世纪80年代初提出的一个组织管理模型。最初出现在汤姆·彼得斯和罗伯特·沃特曼合著的书籍...……更多
补齐Transformer规划短板又不放弃快速思考,Dualformer双重优势
...决这些挑战,他们提出了一个利用随机化推理轨迹的训练框架。该方法的灵感来自两个研究方向: 该团队注意到,即便 Searchformer 是在完整的 A* 搜索轨迹上训练的,但它也会生成更短的勾勒搜索过程的轨迹。 研究表明,人类在...……更多
姚期智院士大模型新研究:思维图DoT,用数学理论确保AI逻辑一致
姚期智院士领衔,推出大模型新推理框架,CoT“王冠”戴不住了。提出思维图(DiagramofThought),让大模型思考更像人类。团队更是为这种推理过程提供了数学基础,通过拓扑斯理论(Topos Theory)正式化(formalize)DoT,确保其逻...……更多
Llama3训练每3小时崩一次?豆包大模型、港大为脆皮万卡训练提效
...提出了 ByteCheckpoint。这是一个 PyTorch 原生,兼容多个训练框架,支持 Checkpoint 的高效读写和自动重新切分的大模型 Checkpointing 系统,相比现有方法有显著性能提升和易用性优势。本文介绍了大模型训练提效中 Checkpoint 方向面临的...……更多
没排上SearchGPT?比Perplexity更好用的国产开源平替了解一下?
...,需要大约 3 小时才能做完。这款「国货」就是多智能体框架 MindSearch(思・索),由来自中科大和上海人工智能实验室的研究团队联合研发。正如其名,MindSearch 是一个会「思索」的系统,面对你输入的问题,它将先调用负责...……更多
零成本突破多模态大模型瓶颈!多所美国顶尖高校华人团队,联合推出自增强技术CSR
...数据,存在成本和质量问题。Calibrated Self-Rewarding(CSR)框架通过自我增强学习,利用模型自身输出构造更可靠的偏好数据,结合视觉约束提高学习效率和准确性。多模态大模型展现出了多种多样的能力,这些能力都通过SFT和预...……更多
阿里推出AI数据科学家,全流程自动化,科研小白也能用
基于开源Agent框架,可自动解决复杂数据科学问题的Agent来了!具体来说,Data Science Assistant(以下称DS Assistant)是基于Modelscope-Agent框架开发的数据科学助手。有了它,我们只需给需求,这个助手就能自己跑完探索性数据分析(ED...……更多
突破时间序列组合推理难题!南加大发布一站式多步推理框架TS-Reasoner
【新智元导读】TS-Reasoner是一个创新的多步推理框架,结合了大型语言模型的上下文学习和推理能力,通过程序化多步推理、模块化设计、自定义模块生成和多领域数据集评估,有效提高了复杂时间序列任务的推理能力和准确性...……更多
苹果的封闭生态为大模型打开!发布开源多模态大模型、每天为 AI 烧百万美元,零碎的 Android 生态打得过吗?
...,苹果的机器学习研究团队还悄悄发布了一个名为 MLX 的框架来构建基础模型。彭博社报道称,苹果正在开发 Siri 的改进版本,并计划在下一个重大 iOS 版本中提供以人工智能为中心的功能。另外,苹果还正在与一些大型新闻出...……更多
CMU清华教LLM练成数学高手,LeanSTaR训练模型边思考边证明,登顶新SOTA
...学水平不及小学生怎么办?CMU清华团队提出了Lean-STaR训练框架,在语言模型进行推理的每一步中都植入CoT,提升了模型的定理证明能力,成为miniF2F上的新SOTA。如果想训练LLM证明定理的能力,你会怎么做?既然模型可以通过海量...……更多
苹果让大模型学会偷懒:更快吐出第一个token,准确度还保住了
... 对比了标准 LLM 与 LazyLLM。LazyLLM图 4 展示了 LazyLLM 的整体框架。从完整上下文开始,LazyLLM 会逐渐对 token 进行剪枝,从而逐渐减少得到最终模型所使用的计算数量。请注意,LazyLLM 允许模型在不同的生成步骤选取不同的 token 子集...……更多
比GPU性价比高百倍!Cerebras推出新AI推理服务,号称“全球最快”
...署更加便捷和一致,LangChain为语言模型应用提供快速开发框架,Weights&Biases打造了供AI开发者训练和微调模型的MLOps平台……“LiveKit很高兴能与Cerebras合作,帮助开发者构建下一代多模态AI应用。结合Cerebras的计算能力和模型以...……更多
以图灵机为师:通过微调训练让大语言模型懂执行计算过程
...南京大学的研究者提出了一种面向 LLM 的可组装算术执行框架 (CAEF),使 LLM 能够通过模仿图灵机的方式来执行算术,从而理解计算逻辑。此外,CAEF 具有高度的可扩展性,允许组合已经学习到的运算符,以降低复杂运算符的学...……更多
70倍极致压缩!大模型的检查点再多也不怕
...降低训练中的存储开销。代码目前已经开源,在 Apache 2.0 框架下发布,issue 中已经有小伙伴成功复现了结果。文章地址:https://arxiv.org/abs/2406.11257 仓库地址:https://github.com/Gaffey/ExCP方法也很有创新性,文章中提到……更多
苹果开源7B模型,训练过程数据集一口气全给了,网友:很不像苹果
...、StarCoder和ProofPile2 MMLU得分接近Llama 3 8B 使用PyTorch和OpenLM框架进行训练具体而言,研究团队先是提出了一个语言模型数据比较新基准——DCLM。之所以提出这一基准,是因为团队发现:由机器学习 (ML) 模型从较大的数据集中自动...……更多
AI药物化学家登Nature子刊:重现职业化学家专业知识,有望加速药物研发
...的模型不仅限于当前研究的应用范围。具体来说,讨论的框架可以扩展到药物发现领域的其他可量化但却昂贵的可观测值。此外,它可以为化学空间中尚未被探索的领域提供见解。 鉴于这一点,研究团队相信一些流行的基于规...……更多
...数学问题提出了“新见解”,并通过系统的、迭代的评估框架确保其正确。这一研究或可改进LLM用来解决问题和学习新知识的途径。相关论文发表在14日的《自然》杂志上。基于人工智能的工具(例如LLM)有时受制于“幻觉”,...……更多
字节版Sora火爆24小时,同名论文再次被热议
...值也是拉满了,嗷嗷待哺内测资格!与此同时,字节研究团队一篇PixelDance同名论文,也被扒了出来,再次引发热议。‍‍‍背后论文揭示「PixelDance」原型‍‍字节团队此前入选CVPR 2024的论文,就提出了名为一种PixelDance的模型。...……更多
量化能让大模型“恢复记忆”,删掉的隐私版权内容全回来了
...种称作SURE(Saliency-Based Unlearning with a Large Learning Rate)的框架作为改进方案。该框架通过构建模块级显著性图来指导遗忘过程,选择性地对与遗忘数据最相关的组件使用较大的学习率,同时最小化对其它功能的影响。通过实验,...……更多
...上,360集团创始人周鸿祎就宣布,360将“用基于智能体的框架打造慢思考系统,从而增强大模型的慢思考能力”,并在近期多次强调,将“利用智能体框架,让大模型从快思考转成慢思考模式,把多个大模型组合起来解决业务问...……更多
更多关于科技的资讯:
国际化再提速!新北洋(泰国)公司隆重开业
12月12日,新北洋(泰国)公司投产启动仪式在泰国春武里府隆重举行。这是新北洋在海外设立的首座工厂,标志着公司国际化战略的又一重大突破
2024-12-16 10:45:00
2099元起 铭瑄Intel Arc B580系列显卡正式公开发售!12GB超大显存
快科技12月16日消息,Intel前不久刚发布了二代锐炫 B580和B570显卡,铭瑄也首次加入推出了MAXSUN Intel Arc B580 iCraft 12G和MAXSU
2024-12-16 10:48:00
349元学习神器!小米MIJIA词典笔C1发布:2600万+英汉词库 没网也能用
快科技12月16日消息,今日,小米生态链新品——MIJIA词典笔C1发布,目前已在小米商城、小米有品上架预约,将于12月18日众筹开售
2024-12-16 10:48:00
江苏中塑王TPE|TPE材料染色用什么色剂?
染色,是TPE材料进行初步配方的设计,通过初步配方进行调整,使之适合于规模生产,从而更好地保证TPE制品颜色的均匀一致性
2024-12-16 10:58:00
【品牌】小米海外新机曝光 后置Deco撞脸iPhone16
近日海外科技媒体91mobiles曝光了小米POCO旗下的两款新机产品渲染图,有消息称其可能对应国行的某款机型设计,来简单看看~如上图所见
2024-12-16 13:38:00
7000mAh大电池!新机官宣:12月16日,全面开售
随着智能手机不断升级,功耗越来越大,主要原因是高配置、高性能、系统高运行等。为了提升新机的续航能力,各大手机品牌优先增加电池容量
2024-12-16 13:39:00
中国销量Top10机型公布:华为Mate70第一,小米新机没上榜!
2024年末中国智能手机市场风云再起!临近年底,虽然还有一些新机没有正式的发布,但各大厂商之间的实力,已经非常的清晰。尤其是近期
2024-12-16 13:39:00
vivo新机发布前瞻:三扬声器+6500mAh电池,或搅局千元市场!
不得不说,在2024年的手机市场中,vivo真的是带来了很激进的表现,不仅带来了一系列给力的配置参数,还带来许多不同定位的机型
2024-12-16 13:39:00
华为Mate70Pro+再见了!Mate60RS突降3100元,为什么更值得?
科技界最近迎来了一场热议:华为Mate70 Pro+高调登场,但同时Mate60 RS却以降价数千元的惊喜价格抢走了不少目光
2024-12-16 13:40:00
苹果iPhone SE4没了 新机命名为iPhone 16E
据消息人士透露,苹果iPhone SE系列或将采用全新的命名方式,将在2025年3月推出的iPhone SE4,最终的命名可能会是iPhone 16E
2024-12-16 13:40:00
一加10Pro揭开神秘面纱:打破行业纪录与电竞世界的融合
在科技快速发展的今天,手机的迭代速度和技术创新层出不穷。而一加10Pro的推出,无疑是新一年手机市场的一大亮点。这款被称为“旗舰大磨王”的手机将于1月11日下午14点揭开神秘面纱
2024-12-16 13:41:00
实力认证!一加10Pro刷新行业新标准,获国际权威机构A级认证
在竞争激烈的手机市场,产品实力才是硬道理。即将于1月11日发布的一加10Pro手机,在正式亮相前就已经交出了一份令人瞩目的成绩单
2024-12-16 13:41:00
一加Ace2V:游戏性能与设计魅力的双重突破
随着智能手机的普及,手机游戏行业正以迅猛的速度发展,成为了现代科技生态中的重要组成部分。特别是近年来,多款经典PC端游戏的开发商纷纷将其旗舰产品跨平台移植到移动设备上
2024-12-16 13:41:00
OPPO高管被催快点发Find N5:升级点没“快点出”选项?
【CNMO科技消息】12月16日,OPPO Find系列产品负责人@OPPO周意保 发微博征求用户对OPPO折叠屏新机的建议
2024-12-16 13:41:00
□娄欣叶“第一次搜机票,直飞最便宜的也要4309元,我就反复评论‘机票太贵了,买不起,不去了’。后来就变成了1903元
2024-12-16 11:00:00