• 我的订阅
  • 科技

谷歌deepmind公布ai模型训练法

类别:科技 发布时间:2023-12-16 02:20:00 来源:浅语科技

12月15日消息,谷歌DeepMind日前公布了一种名为“FunSearch”的模型训练法,号称能够计算包含“上限级问题”、“装箱问题”在内的一系列“涉及数学、计算机科学领域的复杂问题”。

谷歌deepmind公布ai模型训练法

▲图源谷歌DeepMind(下同)

据悉,FunSearch模型训练法主要为AI模型引入了一个“评估器(Evaluator)”系统,AI模型输出一系列“创意解题方法”,“评估器”则负责评判模型输出的解题办法,反复迭代后,就能训练出数学能力更强的AI模型。

谷歌DeepMind使用PaLM2模型进行测试,研究人员建立了专用“代码池”,使用代码形式为模型输入一系列问题,并设置了评估器流程,之后模型便会在每一次迭代中,自动从代码池中挑选问题,生成“具有创造性的新解法”,并交由评估器进行评估,其中“最佳解法”将会被重新加入到代码池中,重新开始另一次迭代。

IT之家注意到,FunSearch训练法对“离散数学(Combinatorics)”特别擅长,经训练法锻炼后的模型,可以轻松解决极值组合数学问题,研究人员在新闻稿中便介绍了模型计算“上限级问题(数学中涉及计数和排列领域的一个中心问题)”的过程方法。

谷歌deepmind公布ai模型训练法

此外,研究人员也成功使用FunSearch训练法解决了“装箱问题(BinPackingProblem)”,这是一个“将不同大小物品放进最少数量容器”的问题。

谷歌deepmind公布ai模型训练法

FunSearch为“装箱问题”提供一种即时性的解决方案,生成了一项“根据物品现有体积自动进行调整”的程序,研究人员提到,与其他利用神经网络进行学习的AI训练法相比,经过FunSearch训练法锻炼后的模型,输出的代码更易于检查与部署,也就代表更容易被整合到实际工业环境中。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-12-16 09:45:10

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

...,通常依赖于把监督微调(SFT)这个环节。在这个阶段,研究人员会使用大量已标注的数据对预训练的AI模型进行进一步训练。这些数据包含了问题及其对应的正确答案,以及如何建立思考步
2025-05-27 10:23:00
李飞飞团队“50美元”复现DeepSeek R1?真相是…
...广泛关注。据报道,李飞飞等斯坦福大学和华盛顿大学的研究人员以不到50美元的云计算费用,成功训练出了一个名为s1的人工智能推理模型
2025-02-07 06:25:00
小模型越级挑战14倍参数大模型,谷歌Test-Time端新的Scaling Law
...训练模型之间的表现,后者是一个*大14倍的预训练模型。研究人员考虑了在两种模型中都预期会有 tokens的预训练和 tokens的推理
2024-09-12 09:58:00
免训练大模型知识编辑,吸收新数据更高效|EMNLP\'24
...导致过拟合,从而影响其原始性能。为了解决上述问题,研究人员期望探索更有效的检索和即时编辑方式,以及对模型进行更小的干预,以避免在编辑数据集上过度拟合。 模型方法知识编辑相关
2024-10-30 09:57:00
第一个100%开源的MoE大模型,7B的参数,1B的推理成本
... checkpoint、训练日志和训练数据都已经开源。尽管大语言模型 (LM) 在各种任务上取得了重大进展,但在训练和推理方面
2024-09-06 10:01:00
影响英伟达根本逻辑的大争论:OpenAI改变策略意味着什么?谁在撒谎?
...?OpenAI则极力否认AI模型训练面临瓶颈。作为应对,OpenAI研究人员正在探索一项“测试时计算”(training runs)的技术
2024-11-13 14:09:00
“GPT-N”一定更强吗?专家警告:当人类数据用完 AI大模型或将越来越笨
...来训练自己时,又会怎样?近日,牛津大学、剑桥大学的研究人员及其合作者对这一问题进行了研究,并将研究成果论文发表在了预印本网站 arXiv 上
2023-06-14 11:31:00
迎战GPT-4V!谷歌PaLI-3视觉语言模型问世,更小、更快、更强
...模型与相似的体积大 10 倍的模型相比具有显著竞争力。研究人员使用分类目标预训练的视觉变换器(ViT)模型与对比性预训练的模型(SigLIP)进行了比较
2023-10-17 16:31:00
成本不到150元!26分钟训出个推理模型 媲美o1和R1
...1团队的目标是寻找到Test-time Scaling的简单方法。过程中,研究人员先构建了一个1000个样本的数据集
2025-02-07 15:14:00
更多关于科技的资讯:
烟台联通圆满完成2026“百花汇海”山东秧歌会通信保障
胶东在线3月3日讯3月1日,由山东省文学艺术界联合会等单位指导主办的2026“百花汇海”山东秧歌会在烟台海阳市河清岛体育场盛大举行
2026-03-03 20:29:00
涌金楼丨浙江经济第一区确立“首要任务”
余杭“十四五”五年成绩单。受访者供图3月2日,余杭区召开经济高质量发展大会。这是余杭连续第五年以“高质量发展”为题召开大会
2026-03-03 22:27:00
江南时报讯 凌晨2点,扬子江数字视听产业园的“短剧公寓”里,张弛仍然坐在电脑前,屏幕上是他十多个海外短视频账号的数据反馈——当天发布的97条短剧切片
2026-03-03 22:48:00
河北特色产业集群数字金融平台助力解决企业融资难银企互联 点“数”成金“通过平台提供的‘数字信用’,仅用5天我们就拿到了1700万元的授信贷款
2026-03-03 17:55:00
2026全国两会正月十五元宵节,委员们从天津出发共赴盛会!海河传媒中心为委员们送上精心准备的贺卡!万家团圆日,一张贺卡,一份天津情!奋斗再出发!
2026-03-03 18:54:00
去年涨3次,今年集体降价!羽毛球价格“过山车”的背后
大河网讯(记者 莫韶华)“终于等到你,还好我没放弃!”近日,多个羽毛球品牌宣布降价的消息在球友圈刷屏。降价是真是假?幅度有多大
2026-03-03 18:57:00
中国联通精彩亮相MWC2026 聚焦“连接、算力、服务、安全”核心赛道 共筑全球数字新生态
3月2日至5日,2026年世界移动通信大会(MWC2026)在西班牙巴塞罗那盛大举行。中国联通以“数智焕新,向实同行”为主题
2026-03-03 19:24:00
从哲学思辨到技术冲击,再到智能融合,艺术与科技的关系不断被重新定义。围绕“AI与艺术的融合”这一主题,实战派管理美学专家
2026-03-03 17:58:00
鲁网3月3日讯近日,国际权威品牌价值评估机构Brand Finance发布2026“全球电子家电品牌价值50强”榜单(Electronics &
2026-03-03 14:24:00
线下二手店为何圈粉年轻人?
“益客”二手循环商店展示的生活用品“益客”二手循环商店,衣服整齐陈列“善淘”二手店前台,随处可见公益标识 “三兔二手”店一角“三兔二手”店部分商品 不想穿的衣服鞋子
2026-03-03 15:54:00
巴基斯坦政府引进阿里巴巴达摩院多癌筛查AI
近日,阿里巴巴达摩院在巴基斯坦达成系列合作,与巴基斯坦首都医院(Capital Hospital)、卡瓦贾·穆罕默德·萨夫达尔医学院(Khawaja Safdar Medical College)
2026-03-03 14:19:00
AI产品榜:月活2.03亿、增速552%,千问成全球第三大AI应用
3月3日,AI产品榜发布全球AI应用最新数据。榜单显示,MAU(月活用户数)排名前三的AI应用分别为ChatGPT、豆包和千问
2026-03-03 14:49:00
重塑桌面生产力:腾讯应用宝联合微软、英特尔发布《2026年跨端生态趋势白皮书》
全球PC产业正从疫情后的需求透支期转向稳态复苏。中国大陆市场表现尤为强劲,2025年连续两个季度PC出货量实现两位数增长
2026-03-03 14:19:00
AI一键生成以假乱真的卖家秀,无需实拍就能打造“完美”产品效果;批量伪造买家秀、炮制虚假好评,用算法拼凑“走心”体验……日前
2026-03-03 11:14:00
正面硬刚Meta!千问AI眼镜MWC首秀,与全球巨头对垒
在MWC 2026巴塞罗那展会现场,千问AI眼镜与Meta的AI眼镜展台正面对垒。3月2日,千问宣布其首款AI硬件将于3月8日在中国现货发售
2026-03-03 11:16:00