• 我的订阅
  • 科技

GPT-5被曝不及预期,OpenAI员工:没什么科学突破了,只需要工程

类别:科技 发布时间:2024-11-12 09:54:00 来源:量子位

猛料来了,OpenAI下一代旗舰模型被曝提升不如预期。

消息来自The Information,具体指代号“猎户座”(Orion)的模型相对GPT-4的提升幅度,小于GPT-4相对GPT-3,已进入收益递减阶段。

或许这也是奥特曼曾说,可能不会把新模型命名为GPT-5的原因之一。

GPT-5被曝不及预期,OpenAI员工:没什么科学突破了,只需要工程

消息一出,著名悲观派学者Gary Marcus直接半场开香槟,宣布自己胜利。

GPT-5被曝不及预期,OpenAI员工:没什么科学突破了,只需要工程

在更详细的一篇文章中,他认为整个AI行业公司的高估值建立在模型能力不断增强、迅速达到AGI的预期之上。

如果改进放慢了,多数AI公司都能赶上最前沿模型的水平。从此行业进入价格战,收入保持在低位。同时因芯片成本高昂,利润也将难以获得。

当每个人都意识到这一点时,金融泡沫可能会迅速破灭,即使是英伟达也可能受到打击。

GPT-5被曝不及预期,OpenAI员工:没什么科学突破了,只需要工程

并且遇到瓶颈的或许不只是OpenAI,此前Anthropic没有如期发布Claude 3.5 Opus,并且从官网删除了相关描述。

以及谷歌Gemini 2虽然计划很快发布,但也被曝性能提升也不及DeepMind创始人的预期。

GPT-5被曝不及预期,OpenAI员工:没什么科学突破了,只需要工程

大模型Scaling Law真的撞墙了吗?

“猎户座”被曝不及预期,奥特曼:AGI 2025

根据目前消息,长期跟踪ChatGPT进展和网页源码的“光头哥”Tibor Blaho总结如下:

参与测试新模型的OpenAI员工称, “猎户座”仅完成20%训练时就达到了GPT-4级别的性能。 但最终质量提升小于从GPT-3到GPT-4的飞跃,这表明传统的Scaling可能由于高质量数据变得有限而放缓。 训练“猎户座”使用了先前模型(GPT-4和o1)生成的数据,可能导致它重现旧模型的一些行为。 OpenAI创建了一个“基础团队”,在高质量数据供应减少的情况下寻找新方法。 o1类模型成本是传统模型的6倍,“猎户座”可能提高OpenAI数据中心的运营成本,进一步增加财务压力。 OpenAI正在做“猎户座”的安全测试,计划于明年初发布,可能不会再命名为GPT系列

GPT-5被曝不及预期,OpenAI员工:没什么科学突破了,只需要工程

与此同时,从OpenAI CEO和许多资深员工那里,传来的却是不同的故事。

首先是奥特曼接受YC总裁Garry Tan采访,在回答最后一个问题“2025年什么会让你兴奋”时,脱口而出“AGI”,没有半秒犹豫。

GPT-5被曝不及预期,OpenAI员工:没什么科学突破了,只需要工程

这段采访引起争议后,强化学习大牛Noam Brown发声:

我听人们说奥特曼只是在炒作,但从我的观察来看,他说的一切都符合OpenAI一线研究员的中位数观点。

GPT-5被曝不及预期,OpenAI员工:没什么科学突破了,只需要工程

今年1月才入职OpenAI的特斯拉前工程师也表达了认同:

自从我加入以来,我的观点已经从“这是毫无成效的炒作”转变成“AGI基本就在这里”恕我直言,接下来的科学创新会相对很少,将由多年的艰苦工程代替。

GPT-5被曝不及预期,OpenAI员工:没什么科学突破了,只需要工程

那么,究竟发生了什么?

在Garry Tan与奥特曼的对话中,两人从奥特曼早期在YC的经历,谈到OpenAI的创立、发展过程,以及给如今创业公司的建议等等。

在接近结束的时候,Garry Tan抛出了这样的问题:你从去年秋天的动荡中学到了什么?你对一些人员离职有什么感受?

奥特曼回答:很累,但感觉很好。

ChatGPT还不到两岁,我们有点像在两年内速通了中型甚至大型科技公司的发展历程,通常需要十年时间。这带来了很多痛苦的事情。任何公司在扩张时,都会以某种速度经历管理团队的更替。擅长从0到1的人不一定适合从1到10或从10到100的阶段。……我希望我们现在正走向一个更平稳的时期,但我确信将来还会有其他时期,事情会再次变化剧烈。

Garry Tan接着提问:我想知道OpenAI现在运作的如何?目前的质量和推进速度如何?

奥特曼接下来的回答虽然一如既往的打太极,但引起很多关注:

这是我们第一次真正知道该做什么。构建AGI仍然需要大量的工作,有一些已知和未知,还需要一段时间,而且会很困难,但这非常令人兴奋。……我们的研究路径相当清晰,我们的基础设施路径相当清晰,产品路径也越来越清晰……很长一段时间,我们都不是这样。

GPT-5被曝不及预期,OpenAI员工:没什么科学突破了,只需要工程

评论区网友显然不买账,有人怀疑这只是奥特曼在试图修改AGI的定义,按照合同,一旦董事会宣布AGI达成,就可以停止与微软分享技术了。

GPT-5被曝不及预期,OpenAI员工:没什么科学突破了,只需要工程

也有人指出,这无法解释最近OpenAI人才频繁出走。

GPT-5被曝不及预期,OpenAI员工:没什么科学突破了,只需要工程

对于人才流动,OpenAI模型架构研究员Rohan Pandey表示并没有人们以为的那么严重。

今年早些时候OpenAI员工总数被曝已超过1700,比去年董事会叛变时期增加了上千人。

GPT-5被曝不及预期,OpenAI员工:没什么科学突破了,只需要工程

也有网友认为,反过来也说得通:

OpenAI高管看到技术进展很快,所以提前离开去创办AI智能体公司。

GPT-5被曝不及预期,OpenAI员工:没什么科学突破了,只需要工程

参考链接:[1]https://www.theinformation.com/articles/openai-shifts-strategy-as-rate-of-gpt-ai-improvements-slows[2]https://www.youtube.com/watch?v=xXCBz_8hM9w[3]https://garymarcus.substack.com/p/confirmed-llms-have-indeed-reached[4]https://www.theverge.com/2024/10/25/24279600/google-next-gemini-ai-model-openai-december[5]https://x.com/btibor91/status/1855381376054251654

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-11-12 12:45:01

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

OpenAI首席科学家伊尔亚离职,曾被猜测发现“超级智能”突破
...表示,公司的发展轨迹堪称奇迹,相信OpenAI将在CEO山姆·奥特曼(Sam Altman)、OpenAI总裁格雷戈里·布罗克曼(Greg Brockman)
2024-05-15 10:24:00
成立不到3个月,OpenAI前首席科学家新公司获10亿美元融资
...“Q*”,正是引发OpenAI“宫斗”并导致首席执行官山姆·奥特曼(Sam Altman)曾被突然解职的原因。事件最终以奥特曼重返公司复职并重组董事会告终,伊尔亚也从董事会名
2024-09-05 12:46:00
硅谷奥特曼,为啥被自己公司赶走?
·山姆·奥特曼被自己一手创办的公司开除。理想与现实的博弈,最坏的结果就是两败俱伤。作者:尹洁上周五,一个重磅消息在美国硅谷炸响:有“ChatGPT之父”称号的山姆·奥特曼,被自己
2023-11-22 11:56:00
OpenAI“宫斗”大反转 奥特曼要回归?
OpenAI前首席执行官萨姆·奥特曼。 IC供图OpenAI董事会成员兼首席科学家伊尔亚·苏茨克维。 斯坦福大学网站供图据多家媒体报道
2023-11-20 09:35:00
风险团队解散 OpenAI宫斗再起
...也被证实解散。同时,他们直指离职内幕——OpenAI创始人奥特曼(Sam Altman)不给资源、力推商业化不顾安全
2024-05-19 23:48:00
“失控”的OpenAI,宫斗后员工追随奥特曼转投微软会是下一步?
...十几天前首届开发者大会的高光时刻,到灵魂人物山姆·奥特曼(Sam Altman)毫无征兆地被驱逐的狗血剧情,OpenAI的“宫斗大戏”已经破了科技圈
2023-11-20 22:10:00
突发!OpenAI董事会内讧,CEO奥特曼被解雇,总裁退出
...定由董事会作出,经过深思熟虑和审查程序后,结论是:奥特曼先生在与董事会的沟通中始终不坦诚,阻碍了董事会履行职责的能力。董事会不再对他继续领导OpenAI的能力充满信心。太突然
2023-11-18 09:01:00
OpenAI近500员工签署联名信:要求董事会改组,恢复奥特曼职位,否则加入微软
... | 搜狐科技作者 | 梁昌均在OpenAI联合创始人、前CEO山姆·奥特曼(Sam Altman),以及前董事长&
2023-11-20 23:59:00
奥特曼重返OpenAI担任CEO!全程回顾100小时“宫斗”大戏
...开发机构OpenAI宣布,已经原则上达成协议,创始人山姆·奥特曼重返公司担任CEO,“并组建由Bret Taylor(主席)
2023-11-22 17:06:00
更多关于科技的资讯: