• 我的订阅
  • 头条热搜
清华UCSD提出全新微调方法,8B小模型媲美GPT-4o!科学问题正确率提高28%
【新智元导读】最近,一支来自UCSD和清华的研究团队提出了一种全新的微调方法。经过这种微调后,一个仅80亿参数的小模型,在科学问题上也能和GPT-4o一较高下!或许,单纯地卷AI计算能力并不是唯一的出路。我们都知道,在...……更多
CMU清华教LLM练成数学高手,LeanSTaR训练模型边思考边证明,登顶新SOTA
【新智元导读】LLM数学水平不及小学生怎么办?CMU清华团队提出了Lean-STaR训练框架,在语言模型进行推理的每一步中都植入CoT,提升了模型的定理证明能力,成为miniF2F上的新SOTA。如果想训练LLM证明定理的能力,你会怎么做?既...……更多
北大字节VAR最佳论文、厦大清华亚军,NeurIPS 2024最佳论文出炉
...获得了最佳论文亚军(Best Paper Runner-up):由厦门大学、清华大学、微软研究者共同完成的《Not All Tokens Are What You Need for Pretraining》(并非所有 token 都是预训练所需的), Zhenghao Lin 和 Zhibin……更多
科研也完了,AI暴虐170位人类专家!Nature子刊:大模型精准预测研究结果,准确率高达81%
...如果大模型对预测结果表示具有高度自信时,回答结果的正确率也更高,也就是说,大模型完全可以辅助人类做科研新发现。最重要的是,这种方法并不特定于某一个学科,其他知识密集型任务上也可以使用。科研结果预测即使...……更多
空间智能版ImageNet来了!李飞飞吴佳俊团队出品
...(SAIL)。他在麻省理工学院完成博士学位,本科毕业于清华大学姚班,曾被誉为“清华十大学神”之一。同时,他也是李飞飞创业公司World Labs的顾问。参考链接:[1]https://arxiv.org/abs/2411.04998v1[2]https://www.worldlabs.ai/t……更多
AI老师上线?专家:通用人工智能将推动教育范式转变
...让通用大模型像学生一样去解答题库里的题目,发现它的正确率非常低;接下来又尝试让通用模型进行模拟题的定制,测试下来发现,通用大模型只能做到模仿题目的形态,在题目的难度、内容和考点设置上都没有办法满足需求...……更多
常见电子邮件分类算法的性能分析
...)。从图1可看出,随着训练量(Train examples)的增大,训练集正确率下降,测试集正确率上升,最后稳定在0.84左右,准确率一般,但方差较小,具有较强的抗过拟合能力。图2.决策树图2为决策树学习曲线,红色线代表测试集(学习过...……更多
将偏好学习引入模型训练,北大李戈团队提出代码生成优化新框架
代码模型SFT对齐后,缺少进一步偏好学习的问题有解了。北大李戈教授团队与字节合作,在模型训练过程中引入偏好学习,提出了一个全新的代码生成优化框架——CodeDPO。在部分模型上,相比于单独使用SFT,CodeDPO能够将模型的...……更多
科学家推出大模型数据集,涵盖奥赛数学题,有望让AI辅导数学课程
...随后,他们开始进行大量的测试。期间发现,如果只使用正确率作为最终的测试结果,并不能完全体现本次算法的优势。由于对大模型的请求是有成本的,所以当算法在使用大模型解决数学问题时,算法会设置一个针对大模型的...……更多
谷歌AlphaFold 3在《自然》杂志刊登:准确率超50%
...歌旗下公司DeepMind创建的基于深度学习的人工智能测序式模型AlphaFold解决了这个问题。北京时间5月8日(周三)晚间,《自然》杂志刊登了DeepMind的AlphaFold团队和伦敦药物研发公司IsomorphicLabs共同署名的论文,介绍了AlphaFold3,这是...……更多
智能体不够聪明怎么办?清华&蚂蚁团队:让它像学徒一样持续学习
... 800 次互动就能达到稳定效果,并且证据收集能力和推理正确率显著提升。AMOR 及基线方法在微调或不微调时的实验结果 实例展示下图比较了 AMOR 和传统的 ReAct 框架(基于 GPT-3.5)分别回答同一问题的推理过程:AMOR(上)和 ReAc...……更多
火爆全球的Chat GPT,想毁灭人类?
...录,足足有80.3%的准确率,明显好于使用传统方法的74.6%正确率。有趣的是,当研究人员尝试微调(fine-tune,是指通过使用在大数据上预先训练好的模型来初始化自己的模型权重,从而提升精度。自己训练好的模型也可以当做预...……更多
科研党狂喜!AI预测神经学研究结论超人类专家水平 | Nature子刊
...LLM的表现也都全方位超过了人类专家。更重要的是,这些模型被证实对于数据没有明显的记忆。也就是说,它们已经掌握了一般科研的普遍模式,可以做更多的前瞻性(Forward-looking)预测、预测未知的事物。这立马引发科研圈的...……更多
Bengio团队提出多模态新基准,直指Claude 3.5和GPT-4o弱点
...时间、地名、人名的错误,人类在简单难度下的中文平均正确率约为 98.58%,在困难难度下的中文平均正确率约为 91.84%。而去掉这些因为时间、地名、人名的错误,人类在简单难度的中文下几乎接近满分,而中文困难难度下正确...……更多
OpenAI直播第二弹!奥特曼2024年最大惊喜竟来自字节?强化微调让o1-mini逆袭o1
...,他们设置了三个不同的评估指标,分别是Top-1(第一项正确率)、Top-5(前五项正确率)和Top-max(是否包含正确答案)。在Top-1指标中,o1 mini在约200条数据上的得分是17%。o1得到了25%,而微调后的o1 mini,得到了31%。ChatGPT就此生...……更多
首个o1复现开源RL框架OpenR来了,UCL、上交等高校联合团队发布
...理教授(研究)杨林易。o1 作为 OpenAI 在推理领域的最新模型,大幅度提升了 GPT-4o 在推理任务上的表现,甚至超过了平均人类水平。o1 背后的技术到底是什么?OpenAI 技术报告中所强调的强化学习和推断阶段的 Scaling Law 如何实现...……更多
OpenAI o1模型到博士水平了?复旦教授:没有真正推理能力,学到的还是概率相关性
...现。上述评测还显示,o1模型在MMLU Categories中的高数测试正确率高达98%,且在ML Benchmarks中的数学测试相较GPT-4o获得了超过34%的最大绝对性优势,足以显示o1模型是个数学超级“学霸”。 OpenAI还选择了专为美国最优秀的高中数学...……更多
专访小竹财税AI袁林:在通用大模型浪潮中寻找财税大模型的蓝海
...下没有难懂的财税。 记者:小竹财税AI在财税领域的回答正确率高达92%,远超通用大模型。这一成就是如何实现的?袁林:这一成就得益于我们高质量、多样化的垂直(专业)数据库。在模型的embedding过程中,我们探索了多种中...……更多
港中文团队提出大模型元推理范式,革新大模型的评价体系
...院工作过一段时间。在 ChatGPT 面世以后,他意识到针对大模型的研究范式存在一定的不足,于是决定来到香港中文大学读博。图 | 曾忠燊(来源:曾忠燊)前不久,曾忠燊和所在团队提出一个全新评测范式。基于这一评测范式,...……更多
媲美OpenAI事实性基准,这个中文评测集让o1-preview刚刚及格
...闭源大模型。目前在评测集上 o1-preview 都仅刚过及格线 (正确率 63.8), 其他大部分模型都处于低分状态,其中 GPT-4o mini 仅 37.6 分,ChatGLM3-6B 和 Qwen2.5-1.5B 仅 11.2 和 11.1 的准确率。基于中文 SimpleQA,我们对……更多
上交大推出“可进化游戏引擎”!虚拟世界演化无需预设
...(Naive Evaluation):评估引擎的正确性,包含两个指标。正确率(Acc):即生成的代码是否正确地实现了应有的功能。执行率(Exe):即生成的代码是否能通过编译,不论正确与否。Exe对于用户的体验感非常重要,很多情况下,...……更多
重要突破!西湖大学团队和浙二医院共同实现脑机接口中文解码
...数平均仅为29%,部分参与者通过脑电解码得到的句子完全正确率达到了30%。相对高效的解码性能得益于三个独立音节元素解码器的优秀表现和智能语言模型的完美配合。特别的是在分类21个声母方面,声母解码器的准确率超过了4...……更多
ICML2024演讲爆火!Meta朱泽园揭秘大模型内心世界:不同于人类推理
...,当在 op≤21 的题目上进行训练时,模型不仅能达到 99% 正确率,还能在更高难度的题目(如 op=32)上保持 83% 的正确率(见图 3)。这表明模型学会了某种推理技能,毕竟它从未见过 op>21 的题。(顺带一提,GPT-4o 在该数据集...……更多
清华教授唐杰:Scaling Laws虽被质疑,但至今仍是提高大模型性能的重要方法
清华大学计算机系讲席教授、人工智能研究院基础模型研究中心主任唐杰出品|搜狐科技作者|郑松毅2024年已过半,大模型之争热度不减,通往AGI的路究竟该怎么走?近日,清华大学计算机系讲席教授、人工智能研究院基础模...……更多
Meta祭出三篇最详尽Llama微调指南!千字长文,0基础小白必备
...开的彻彻底底。这不,Meta一连放出三篇技术文章,从大模型适配方法出发,介绍了:如何使用特定领域数据微调LLM,如何确定微调适配自己的用例,以及如何管理良好训练数据集的经验法则。接下来,直接进入正题。适配大模...……更多
搜题更精准、难题都有解 夸克“AI搜题”提升用户学习能力与效率
...新评测中,夸克 “灵知” 学习大模型在考研数学题上的正确率和得分率已经可以比肩OpenAI最新发布的o1模型,且远超国内其他模型。另外,在多个国内数学竞赛与高考等重要测试中,夸克的正确率和得分率也处于绝对领先地位...……更多
迈向多语言医疗大模型:大规模预训练语料,开源模型与全面基准测试
...这是该团队在继 PMC-LLaMA 后,在持续构建开源医疗语言大模型的最新进展。该项目受到科创 2030—“新一代人工智能” 重大项目支持。在医疗领域中,大语言模型已经有了广泛的研究。然而,这些进展主要依赖于英语的基座模型...……更多
频繁使用GPS丧失方向感?清华大学陈霓虹:影响或可逆,可通过学习训练提升
...在目标位置放上食物奖励,这些经过了自由探索的大鼠的正确率有着突飞猛进的变化。“通过这个实验,我们可以看出,自由探索和好奇心可能对我们的学习和空间认知都非常关键。”陈霓虹说。图片来自陈霓虹讲授的《认知心...……更多
AI科学家太多,谁靠谱一试便知!普林斯顿新基准CORE-Bench:最强模型仅有21%准确率
...简单任务的准确率可以达到60%,最难任务准确率仅有21%大模型的能力越来越强,用户在一些重要的任务中也可以依赖大模型,比如说辅助做科研。不过现有科研辅助相关的基准测试都太简单,跟现实世界的任务差距还是比较大的...……更多
OpenAI发布最新技术研究,AI“黑盒”不再是难题!
...随着ChatGPT在法律、金融、营销等领域的广泛使用,确保模型的安全、准确输出同时被很好理解变得非常重要。但由于神经网络的复杂和多变性,我们根本无法验证其生成内容的准确性,这也就会出现输出“黑盒”的情况。为了...……更多
更多关于科技的资讯:
Roxtec电缆和管道密封技术赋能济南地下管廊 为城市生命线安全 “护航”
随着城市化的快速发展,地下综合管廊已成为城市运转不可或缺的“隐形动脉”,承担着输送能源与信息的重要任务。济南市工业北路沿线工厂众多
2025-01-03 19:52:00
华为鸿蒙next5.0来袭,新增应用锁功能
每次提到手机系统的时候,原生鸿蒙就被提及,原因是其证明了中国人独立自主、自力更生的强大精神力量,这也是华为品牌影响力能够得到很大幅度提升的关键
2025-01-03 19:58:00
中新经纬1月3日电 题:电商运营模式差异决定补贴受益程度作者 司东海 巨丰投顾高级投资顾问1月3日上午,国务院新闻办公室举行“中国经济高质量发展成效”系列新闻发布会
2025-01-03 20:57:00
得物App开放日活动,身临其境体验正品保障全流程
如今,线上购物已成为人们日常生活不可或缺的一部分,而如何在海量商品中甄选出真正值得信赖的正品,成为了每一位消费者关注的焦点
2025-01-03 21:14:00
挥杆结缘品味清雅: 国缘V9高尔夫赛事成功营销案例复盘
近日,白酒行业在经济复苏与消费场景恢复的推动下稳步发展,高端白酒市场竞争愈发激烈。在此背景下,今世缘酒业的国缘V9凭借独特的高尔夫赛事营销项目成功突围
2025-01-03 21:49:00
又一位安徽餐饮老板要IPO,老乡鸡9个月收入近50亿,有望成“中式快餐第一股”
快餐的生意越来越不好做。 紧随小菜园,又一安徽餐饮品牌冲击港交所,这次是老乡鸡。撤回上交所主板上市申请近1年半后,1月3日
2025-01-03 22:14:00
美国科研新突破:抗老“神器”PSSOPP诞生,掀起社会热议浪
长生不老,这一人类亘古以来的梦想,正逐渐在科学的助力下变为现实。全球顶尖的研发机构纷纷投入大量的人才和资源,致力于寻找青春永驻的秘诀
2025-01-03 17:01:00
与拜耳分手自建销售团队,糖尿病市场老将陆宇加盟华领医药,华堂宁未来怎么卖?
华领医药组建销售团队。 2025年开年,华领医药(02552.HK)组建销售团队有了新进展。1月1日,华领医药对外宣布
2025-01-03 17:13:00
7000mAh超大电池!真我Neo7限时回归首销价:2099元起
快科技1月3日消息,在今天下午的不良人限定版发布会上,真我Neo7宣布限时重回首销价,2099元起。这是目前2K档最热门的机型之一
2025-01-03 17:14:00
国漫典藏级定制!真我Neo7《画江湖之不良人》限定礼盒发布:2899元
快科技1月3日消息,今天下午,真我Neo7《画江湖之不良人》限定版礼盒正式发布,售价2899元(16GB+512GB)
2025-01-03 17:14:00
老外评PS5十大年度游戏:《宇宙机器人》强势夺冠 《黑神话》第六
PushSquare之前曾开启过“2024年十大PS5游戏”的用户投票,每名玩家最多可以为五款游戏投票,共计12652有效票数
2025-01-03 17:14:00
499元配置良心!王腾:REDMI 14C没做任何宣传的情况下爆火了
快科技1月3日消息,日前,REDMI百元入门新机——REDMI 14C发布,起售价仅499元,新机配置十分良心,不仅有120Hz高刷新率屏幕
2025-01-03 17:15:00
男子利用小程序Bug逃匿28万加油费:获刑4年
1月3日消息,日常生活中确实会有不少“聪明人”,善于发现利用一些漏洞来为自己谋私利,然而这种行为往往会给自己带来严重的后果
2025-01-03 17:15:00
近日,国家医疗保障局(以下简称“国家医保局”)在北京举办“五年筑基 智启未来”医保码五周年活动,渤海银行股份有限公司(以下简称“渤海银行”)受邀参加并荣获“医保码优秀合作伙伴”证书
2025-01-03 17:20:00
本文转自:人民网人民网北京1月3日电 (记者王震)2024年12月29日,由国家制造强国建设战略咨询委员会指导,中国工业经济联合会联合十多家全国性行业联合会(协会)共同举办
2025-01-03 17:36:00