• 我的订阅
  • 头条热搜
4轮暴训,Llama 7B击败GPT-4!Meta等让LLM「分饰三角」自评自进化
...actor-judge的互动中再引入meta-judge,且由同一个模型「分饰三角」,不需要额外人类数据的参与。其中,actor负责对给定提示生成响应;judge负责为自己的响应进行评价和打分;而meta-judge会对自己的打分质量进行对比。最终的优化...……更多
LLM超越人类时该如何对齐?谷歌用新RLHF框架解决了这个问题
让 LLM 在自我进化时也能保持对齐。我们这个世界是不断变化的开放世界。人工智能要在这个世界长久立足,就需要突破许多限制,包括可用数据和规模和质量以及有用新信息的增长率。对基于 LLM 的 AI 来说,高质量的人类数据...……更多
首个o1复现开源RL框架OpenR来了,UCL、上交等高校联合团队发布
...理教授(研究)杨林易。o1 作为 OpenAI 在推理领域的最新模型,大幅度提升了 GPT-4o 在推理任务上的表现,甚至超过了平均人类水平。o1 背后的技术到底是什么?OpenAI 技术报告中所强调的强化学习和推断阶段的 Scaling Law 如何实现...……更多
文心大模型4.0 Turbo来了!百度推出文心快码2.5,已覆盖内部80%程序员
...步研发了智能体(Agent)机制,包括理解、规划、反思和进化,使其能够可靠执行、自我进化,并一定程度上将思考过程白盒化,让大模型像人一样思考和行动,调用工具自主完成复杂任务,在环境中持续学习实现自主进化。 ...……更多
与OpenAI o1技术理念相似,TDPO-R算法有效缓解奖励过优化问题
...计算机学院攻读博士二年级,研究方向为强化学习、扩散模型和大模型对齐。OpenAI 最近发布的 o1 模型在数学、代码生成和长程规划等复杂任务上取得了突破性进展,据业内人士分析披露,其关键技术在于基于强化学习的搜索与...……更多
百图生科高亮:AI大模型或改写生命科学领域的研发技术能力
...改写生命科学领域的研发技术能力。“大模型可以从所有进化知识中学习可能性和收敛规律,跳出局部最优,快速迭代演化,从而拥有高效的全新蛋白设计能力。”此外,高亮认为,若要做好生物计算大模型引擎,须有三大模块...……更多
...。但正如电池行业的铁律:成本、性能与安全是不可能之三角,电池厂商往往需要做出取舍,才有机会在风云诡谲的产业中立足。高阶智能驾驶也面临同样困境:高质量、低成本与大规模,几乎不可兼得。目前,市面上城区智驾...……更多
Transformer打破三十年数学猜想!Meta研究者用AI给出反例,算法杀手攻克数学难题
...无4-圈问题上获得了比传统方法更佳的解。「许多边没有三角形」问题问题引入现在让我们来设想这样一个问题:在一个n个顶点的图中,如果没有任何三个边形成三角形,那么它最多可以有多少条边?第一步,我们可以提出一些...……更多
文心大模型赋能千行百业,自主进化
...这四大能力也为通用人工智能的实现带来了曙光。 自主进化时代周报:百度文心大模型的技术迭代过程及最新进化程度如何?吴昊:2019年,百度推出了文心大模型1.0,然后持续演进到2.0、3.0版本,今年5月份升级到3.5版本。文...……更多
零成本突破多模态大模型瓶颈!多所美国顶尖高校华人团队,联合推出自增强技术CSR
新智元报道编辑:LRST【新智元导读】现有多模态大模型在对齐不同模态时面临幻觉和细粒度感知不足等问题,传统偏好学习方法依赖可能不适配的外源数据,存在成本和质量问题。Calibrated Self-Rewarding(CSR)框架通过自我增强学...……更多
千行百业加速拥抱大模型(AI前沿观察)
...北超级智算中心等陆续投入运营。今年以来,中国联通长三角(芜湖)智算中心、河北石家庄智算中心等相继启动建设。 当前,各地加速推动算力基础设施建设,提升算力供给能力。《北京市促进通用人工智能创新发展的若干...……更多
“百模大战”下半场:野蛮生长后,如何避免重复“造轮子”?
...多领域表现出了让人惊艳的创作能力,并且每天都在快速进化。业内专家认为,这一技术带来的产业红利才刚刚初露峥嵘,AIGC与数字经济、实体经济的深度融合,还将创造出更多颠覆性的社会价值、经济价值,有望开启一场关...……更多
ChatGPT走红背后:苦熬五年,三次AI路线迭代|行业观察
...让AI真正可用好用,才是终章。参考文献:《透过ChatGPT的进化足迹,OpenAI传达了哪些信号?》,脑极体《百度类ChatGPT产品将在3月完成内测 业内人士:谨慎乐观》,财联社《ChatGPT爆火,揭秘AI大模型背后的高性能计算网络》,Inf...……更多
整合长期记忆,AI实现自我进化,探索大模型这一可能性
...杂性是我们的意识和智慧的来源。而这一切背后的机制是进化(evolution)。到了现今的大模型时代,强大的基础模型已经展现出了强大的智能水平,能完成多种多样的任务。但它们也有个缺点,训练之后就基本定型了,难以随着...……更多
...位生产效率。规模化商用指日可待证券时报记者:大模型进化到目前的水平,哪些方面让您觉得惊艳?哪些方面表现平平?潘青华:应该说大模型进化到现在,虽然表现得不够完美,但已经足够让人惊奇。我们注意到,大模型在...……更多
OpenAI 超强 o1 智商超 120 遥遥领先于其他模型:1 小时写出 NASA 博士 1 年代码,最新编程赛超越 99.8% 选手
...成的博士论文代码,竟被 AI 在 1 个小时之内实现了。o1 模型已经强到,能够直出博士论文代码了!来自加州大学欧文分校(UCI)的物理学博士 Kyle Kabasares,实测 o1 preview+mini 后发现:自己肝了大约 1 年的博士代码,o1 竟在 1 小时...……更多
京东探索研究院院长、京东科技人工智能业务负责人何晓冬:让大模型在产业先跑起来
...。具体来看,言犀大模型在语言模型的基础上,实现了自进化技术,通过构建偏好数据集和奖励模型打分机制,促进模型的快速迭代更新;在推理技术方面,京东采用了端到端低比特高精度量化技术,有效降低了模型体积,同时...……更多
3天把Llama训成Mamba,性能不降,推理更快!
...大尺寸Mamba模型的却很少。目前比较有名的是AI21的Jamba(进化到了1.5版本,最大398B,MoE),以及NVIDIA的Hybrid Mamba2模型(8B)。不过世界上有那么多成功的Transformer大模型,而知识就包含在这些模型参数里。如果能够锁住知识,同...……更多
李彦宏发布文心大模型4.0工具版,推理成本降到1%
...大量的AI原生应用。智能体机制包括理解、规划、反思和进化,它让机器像人一样思考和行动,可以自主完成复杂任务,在环境中持续学习、实现自我迭代和自我进化。“在一些复杂系统中,我们还可以让不同的智能体互动,相...……更多
百度文心大模型4.0技术进展
...百度进一步研制了智能体机制,包括理解、规划、反思和进化,能够做到可靠执行、自我进化,并一定程度上将思考过程白盒化,让机器像人一样思考和行动,自主完成复杂任务,在环境中持续学习实现自主进化。文心一言助力...……更多
Sam Altman或筹数十亿美元自造AI芯片,DeepMind首席科学家或将辞职创业
...僵化和脆弱,无法适应环境。他们从自然界的集体智慧、进化和涌现等原则中获取灵感,构建更灵活、反应灵敏的人工智能模型。Sakana来源于日语さかな,意为“鱼”。其背后的理念是“让一群鱼聚集在一起,从简单的规则中形...……更多
半年冒出近百家新公司,「具身智能」也有春天 | 36氪新风向
...分布上,以北京为代表的北方公司,理想派偏多;而以珠三角为代表的南方,现实派偏多。这与行业人员的出身背景、投资方的偏好有关。北方的项目大多孵化于高校(清华、北大、中科大、北航、北理工等等),从高校实验室...……更多
苹果AI版iOS首日火爆:聊天秒变高情商,大模型成最强嘴替
...变得儒雅随和:开启Apple Intelligence后,苹果自研的端侧大模型就会被下载到设备当中。根据手快的网友体验反馈,不像其他家的AI那样动不动就是拒绝服务。与此同时,苹果自家大模型的报告也已出炉,披露了大量技术细节。报...……更多
...心集群建设,实现对大规模算力的集中部署。9月1日,长三角(芜湖)智算中心发布会召开,芜湖市政府与中国电信安徽公司就长三角(芜湖)智算中心建设运营工作签订合作协议;9月26日,芜湖集群(润六尺)智算中心1000P算...……更多
CMU清华教LLM练成数学高手,LeanSTaR训练模型边思考边证明,登顶新SOTA
...学生怎么办?CMU清华团队提出了Lean-STaR训练框架,在语言模型进行推理的每一步中都植入CoT,提升了模型的定理证明能力,成为miniF2F上的新SOTA。如果想训练LLM证明定理的能力,你会怎么做?既然模型可以通过海量语料学会生成...……更多
chatgpt低成本复现流程开源
首个开源的ChatGPT低成本复现流程来了!预训练、奖励模型训练、强化学习训练,一次性打通。最小demo训练流程仅需1.62GB显存,随便一张消费级显卡都能满足了。单卡模型容量最多提升10.3倍。相比原生PyTorch,单机训练速度最高...……更多
依图科技的人工智能究竟赢在哪儿?
...这得从它的三个核心特点说起——\"会思考、可对话、能进化\"。 首先,\"会思考\"是依图天问大模型的核心能力之一。它能够准确识别视频中的内容,将机器的视觉能力转化为直观的算法。这种能力不仅提升了视频监控的智能...……更多
L4级自动驾驶首次赋能家用车 百度辅助极越创造历史
...+高精地图+规则算法”组合完成,但随着AI大模型的快速进化,激光雷达和高精地图的“拐杖”角色将逐步被取代,纯视觉以强大的自我学习能力,不断提升智驾水平。 基于百度Apollo的L4级自动驾驶原子化能力和安全体系全面赋...……更多
刚刚,百度最高奖发出2800万!李彦宏:再苦不能苦技术人
...云帆”和“轻舟”。其中,“纵横”项目重点突破大语言模型万卡集群高效训练难题,支撑文心大模型高效训练迭代;“百炼” 项目专攻新一代大语言模型预训练技术创新,全面提升文心大模型效果;“云帆”项目将生成式大...……更多
GPT刚刚公开「草莓」项目:推理能力翻倍,定价200美元?
...发展超出了某些董事会成员的预期。他们担心 AI 的快速进化带来不可控的风险,甚至可能对社会产生深远的影响。OpenAI内部,围绕「Q*」是否应该继续推进的争论愈演愈烈。部分董事会成员认为项目的推进过于激进,尤其是涉及...……更多
更多关于科技的资讯:
科创大赛助力科技梦想
本文转自:人民日报海外版《 人民日报海外版 》( 2024年11月17日 第 06 版)11月14日,甘肃省张掖市民乐县举办首届中小学生科创实践活动现场赛
2024-11-17 03:17:00
天舟月夜逐天宫
本文转自:人民日报海外版天舟月夜逐天宫——天舟八号货运飞船飞天记《 人民日报海外版 》( 2024年11月17日 第 03 版)11月16日在北京航天飞行控制中心拍摄的天舟八号货运飞船与空间站组合体进行交会对接的模拟图像
2024-11-17 03:20:00
美国男子假扮野熊砸劳斯莱斯 骗保超14万美元
11月17日消息,据外媒报道,美国加州洛杉矶发生一起假扮熊砸车骗保的案件。四名嫌疑人于当地时间周三被捕,并被指控保险欺诈
2024-11-17 07:21:00
小米NAS终于要来了!米粉心急等待:希望这7大功能全都有
快科技11月17日消息,日前,小米生态链总经理陈波微博发文谈到小米后续规划的NAS产品,他坦言,小米一开始其实并没有做NAS的想法
2024-11-17 07:52:00
10月车企出口销量榜:奇瑞断层式领先 出口超8万台
快科技11月17日消息,日前,易车榜发布了10月份车企出口销量排行榜。榜单显示,奇瑞排名第一,单月出口量81547辆,断层式领先第二名的名爵和哈弗汽车
2024-11-17 07:52:00
泰森宣布自己赢了
泰森在赛后感言中称:“六月我差点死掉,在医院里输了八次血掉了25斤体重,拼了老命才重返拳台,因此我是赢家。”“在我孩子面前
2024-11-17 07:52:00
厦门网讯(厦门日报记者 林露虹)近日,跨国企业日立能源在厦门的制造基地——厦门日立能源高压开关有限公司迎来25周岁生日
2024-11-17 08:43:00
38款车AEB大横屏:华为系5兄弟霸榜 包揽前三名
快科技11月17日,易车网于11月14日-16日举办了三天超级评测大会,对38款车型进行AEB测试横评。据介绍,参与测试的车辆品牌有阿维塔
2024-11-17 08:52:00
SU7 Ultra 之后 小米又造了台仰望吗
不是,我们还等着 SU7 Ultra 继续刷纽北呢,结果你小米 SU7 又要出新版本了?呃......虽然目前官方还没说啥
2024-11-17 08:52:00
海南首届开源信创论坛暨海南智算创新发展研究院揭牌及成果发布仪式成功举办
本文转自:人民网-海南频道活动现场。主办方供图人民网海口11月16日电(记者牛良玉)11月16日,海南首届开源信创论坛暨海南智算创新发展研究院揭牌及成果发布仪式活动在文昌航天超算中心报告厅隆重举行
2024-11-17 08:52:00
泛“舟”星海 “年货”送达(深阅读)
本文转自:人民日报天舟八号货运飞船顺利抵达中国空间站泛“舟”星海 “年货”送达(深阅读)本报记者 刘诗瑶 孙海天11月16日在北京航天飞行控制中心拍摄的天舟八号货运飞船与空间站组合体进行交会对接的模拟图像
2024-11-17 06:04:00
对阵日本的1380门票炒到8000:国足世界杯出线概率37.9%
11月6日消息,18强赛结束第五轮比赛,数据博主We Global Football更新了亚洲各队出线概率。国足直接晋级概率为2
2024-11-16 21:21:00
苹果iPhone 16刚买一个月就自燃了 女生:发誓没用磁吸充电器
快科技11月16日消息,一名女生在社交平台上称,她11月6日买的iPhone 16,在看综艺的时候突然自燃,目前已经联系商家及平台
2024-11-16 21:51:00
苹果官方没宣传:M4 MacBook Pro首发量子点显示技术
快科技11月16日消息,显示专家Ross Young在社交平台上表示,最新的M4 MacBook Pro使用量子点(QD)薄膜
2024-11-16 22:21:00
队史首个连冠!成都AG超玩会夺得2024KPL年度总决赛冠军
快科技11月16日消息,成都AG超玩会夺得2024KPL年总决赛总冠军!在今晚的比赛中,成都AG超玩会以4:2比分战胜重庆狼队
2024-11-16 22:21:00