• 我的订阅
  • 科技

加里·马库斯:如果生成式AI是哑弹,可能导致不必要的中美紧张

类别:科技 发布时间:2023-08-16 17:38:00 来源:澎湃新闻

【编者按】当地时间8月13日,一向喜欢给ChatGPT泼冷水的美国知名AI学者加里·马库斯(Gary Marcus)发表文章,标题为《如果生成式AI被证明是个哑弹怎么办?》。在文章中,他认为,生成式人工智能目前还没有带来足够的收入以支撑火热的估值,继续这样可能会导致一些初创企业倒闭。在技术上,短期内也无法解决幻觉问题和实现通用人工智能。

除此之外,马库斯更担心生成式人工智能带来一些可能的地缘政治影响。“如果生成式人工智能将比火和电更强大的前提被证明是错误的,或者至少在未来十年内没有得到证实,那么有可能事后看来,最终会导致与中国产生不必要的额外紧张关系。”他写道。

马库斯一直是生成式AI浪潮的唱反调者,坚称仅靠深度学习并不能实现类人智能,经常在社交媒体上与AI知名学者舌战,并签署了暂停训练比GPT-4更强大AI系统的公开信。以下为这篇文章的全文翻译。

加里·马库斯:如果生成式AI是哑弹,可能导致不必要的中美紧张

美国AI科学家、作家和企业家加里·马库斯。除了迅速火热和迅速降温的所谓室温超导体LK-99之外,我很少见过有东西比生成式人工智能被炒作得更厉害。许多公司的估值都在数十亿美元,新闻报道持续不断;从硅谷到华盛顿特区再到日内瓦,这是任何人都可以谈论的话题。

但是,首先,收入还没有到来,而且可能永远不会到来。估值预计将达到数万亿美元市场,但据传生成式人工智能目前的实际收入为数亿美元。这些收入确实可能增长1000倍,但这极具猜测性。我们不应该只是推测。

到目前为止,大部分收入似乎来自两个来源:编写半自动代码(程序员喜欢使用生成工具作为助手)和编写文本。我认为程序员会对生成式人工智能的帮助感到满意;它的自动完成特性对于他们的工作来说非常棒,并且他们接受过检测和修复常见错误的培训。本科生将继续使用生成式人工智能,但他们的财力并不雄厚(他们很可能会转向开源竞争对手)。

其他潜在的付费客户可能很快就会失去信心。今天早上,颇具影响力的风险投资家本尼迪特·埃文斯(Benedict Evans)在X(以前的Twitter)上的一系列帖子中提出了这一点:

加里·马库斯:如果生成式AI是哑弹,可能导致不必要的中美紧张

风险投资家本尼迪特·埃文斯写道:我用了半年的ChatGPT3.5&4,真的没发现对我有任何用处。它可能是新的个人电脑,但不是电子试算表或文字处理器。我相信会有,但目前还没有。我的朋友尝试使用ChatGPT来回答搜索查询以帮助进行学术研究,他们也面临着类似的幻灭。一位使用ChatGPT进行法律研究的律师受到了法官的严厉斥责,并且基本上不得不以书面形式承诺,永远不会再以无人监督的方式这样做。几周前,一则新闻报道暗示GPT的使用可能会下降。

如果埃文斯的经历是煤矿里的金丝雀(编者注:通常预示着前方有更多危机),那么整个生成式人工智能领域,至少按照目前的估值,可能会很快结束。程序员将继续使用它,而必须编写大量文案来推广其产品以提高搜索引擎排名的营销人员也会继续使用它。但无论是编程还是快速、质量平庸的文案写作都远远不足以维持当前的估值梦想。

即使是OpenAI也很难实现其290亿美元的估值;如果年复一年只有数千万或数亿美元的收入,估值在数十亿美元以下的正在竞争的初创公司很可能最终倒闭。微软今年的股价上涨了近一半,或许主要是因为其对生成式人工智能的承诺,但其股价可能会暴跌;英伟达暴涨得更多,也可能下跌。

罗杰·麦克纳米(Roger McNamee)是软件风险投资的早期先驱,前几天我和他讨论了这个问题。也许在经济上对我们双方来说真正有吸引力的唯一用例是搜索(例如,使用由ChatGPT提供支持的Bing而不是谷歌搜索),但其中的技术问题是巨大的;没有理由认为幻觉问题(编者注:AI出现错误或偏差,导致生成不准确、错误甚至荒诞结果的现象)很快就会得到解决。如果不行,泡沫很容易破裂。

但现在让我担心的,不仅仅是整个生成式人工智能经济(仍然更多地基于承诺而不是实际商业用途)可能会出现大规模、令人痛苦的修正,而是我们正在把整个全球和国家政策建立在一个前提上,即生成式人工智能将以事后看来可能不现实的方式改变世界。

在全球方面,拜登政府不仅限制了对生成式人工智能(目前)至关重要的高端硬件芯片的使用,而且对中国的投资也设限;中国对全球合作也并不十分热情(仅代表作者本人观点)。紧张局势非常严重,其中很多都围绕着谁可能“赢得人工智能战争”的梦想。

但如果赢家不是任何人,至少在短期内不是这样呢?

在国内方面,可能保护消费者的监管(例如围绕隐私、减少偏见、要求数据透明度、打击错误信息等)正在因确保美国生成式人工智能尽快发展的制衡压力而放缓。我们可能无法获得所需的消费者保护,因为我们正在努力培育一些可能不会按预期增长的东西。

我并不是说任何人的某些政策都是错误的,但如果生成式人工智能将比火和电更强大的前提被证明是错误的,或者至少在未来十年内没有得到证实,那么有可能事后看来,最终会导致与中国产生不必要的额外紧张关系,甚至可能因海市蜃楼而引发台湾战争,以及社交媒体层面的惨败,消费者在资讯中受到剥削,错误信息占据了主导地位,因为政府不敢采取足够严厉的打击措施。很难对这一切提出质疑,但这是一个发人深省的想法,我希望华盛顿和北京都能对此有所考虑。

在我看来,几乎每个人都犯的根本错误是相信生成式人工智能等同于 AGI(通用人工智能,与人类一样聪明、足智多谋,甚至更出色)。

行业里的每个人可能都希望你相信通用人工智能即将到来。它激发了他们对必然性的叙述,并推动了他们的股价和初创公司的估值。 Anthropic首席执行官达里奥·阿莫代(Dario Amodei)最近预测,我们将在2-3年内实现AGI。谷歌DeepMind首席执行官德米斯·哈萨比斯(Demis Hassabis)也预测AGI会在近期到来。

我严重怀疑这一点。生成式AI的核心问题不是一个,而是许多严重的、未解决的问题——从编造(幻觉)虚假信息的倾向,到无法可靠地与Wolfram Alpha等外部工具交互,到每个月的不稳定(这使得它们不适合在大型系统中进行工程化使用)。

而且,事实证明,除了纯粹的技术乐观主义之外,我们没有任何具体理由认为这些问题的解决方案近在眼前。通过扩大系统规模来“扩展”它在某些方面有所帮助,但在其他方面却没有帮助。我们仍然无法保证任何给定的系统都是诚实的、无害的或有帮助的,而不是阿谀奉承的、不诚实的、有毒的或有偏见的。人工智能研究人员多年来一直致力于解决这些问题。想象这些具有挑战性的问题会突然全部得到解决是愚蠢的。22年来,我一直在抱怨幻觉错误;人们一直承诺解决方案即将到来,但它从未实现。我们现在拥有的技术是建立在自动完成而不是事实性的基础上的。

有一段时间,这种担忧被置若罔闻。但一些科技领袖似乎终于明白了这一点。看看几天前《财富》杂志上的这个故事:

加里·马库斯:如果生成式AI是哑弹,可能导致不必要的中美紧张

《财富》杂志报道称,科技专家开始怀疑ChatGPT和AI的幻觉问题是否会解决。如果幻觉无法修复,生成式人工智能每年可能赚不到1万亿美元。如果它每年赚不到1万亿美元,那么它可能不会产生人们预期的影响。如果它不会产生这种影响,也许我们不应该围绕它的前提来构建我们的世界。

原文链接:https://garymarcus.substack.com/p/what-if-generative-ai-turned-out

(本文来自澎湃新闻,更多原创资讯请下载“澎湃新闻”APP)

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-08-17 10:59:50

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

独家专访Gary Marcus:Sora很神奇,但很多视频违背物理定律
...我:“我觉得这里就是天堂。”我们一边散步,一边讨论人工智能发展的现状。“我对此感到沮丧。”他告诉我,“当我进入这个领域的时候,我们并不是要让财富大规模地从艺术家那里流向大公司
2024-02-22 10:10:00
ChatGPT创始人首次在美国国会参加听证会,呼吁监管AI
...器Dall-E2的OpenAI首席执行官山姆·奥特曼首次在美国国会就人工智能技术的潜在危险参加听证会。奥特曼呼吁政府对生成式人工智能进行监管和干预。据《卫报》5月16日报道,
2023-05-17 17:06:00
外媒体验Sora:猴子长出鹦鹉尾巴,OpenAI称还有很长路要走
...会觉得它太神奇了。但如果你仔细看看,就会发现(这个人工智能系统)仍然不太懂常识。”Sora视频并非即时生成,何时公众发布仍未知与文生图相比,Sora需要更长的时间和计算来生成
2024-02-23 20:09:00
殳海:加里纳利选择再度与里弗斯联手 虽雄鹿似乎不缺前场攻击手
...鹿)的去向纷纷明朗,买断市场上的球员已经所剩无几(马库斯-莫里斯,森林狼?)。虽然不能寄望买断球员就能扭转乾坤,但对各支志在夺冠的球队而言,这也的确是最后的补强机会,目前凯尔
2024-02-16 11:00:00
ChatGPT之父出席听证会 拥抱AI监管
...法机构隐私、技术和法律小组委员会举行名为“AI监管:人工智能的规则”的听证会,希望能迈出AI监管的第一步。与会的证人有三位
2023-05-18 10:58:00
AI能生成超越自然界的新型蛋白质,可用于制造特定机械性能材料
...为了解决这个问题,麻省理工学院(MIT)的研究人员利用人工智能技术,开发了一种能够生成超越自然界的新型蛋白质的方法。他们创建了一种基于机器学习的算法,可以根据预设的结构目标,
2023-04-24 20:48:00
大善人!绿军得到波尔津吉斯,布罗格登去快船,奇才获小莫加里纳利
...尔特人得到波尔津吉斯,快船得到布罗格登,而奇才得到马库斯-莫里斯和选秀权(来自快船的今年首轮30号签)。随后,另一位NBA名记Woj补充报道,加里纳利、阿米尔-科菲也被送去了
2023-06-22 08:00:00
来源:看看新闻Knew 中国已将人工智能列为发展重点,并向该领域的研究者和企业提供支持。去年ChatGPT出现后,百度推出了文心一言;Sora发布短短96小时内,国内也有AI团队
2024-02-24 15:15:00
奥特曼发布“王炸”模型Sora,周鸿祎:中美AI差距再度拉大
...,OpenAI一款王炸级的文生视频大模型再次让世界感受到了人工智能的强大。就连马斯克也感叹:“人类认赌服输。”OpenAI推新款大模型Sora可根据文本生成60秒视频16日凌晨
2024-02-17 19:43:00
更多关于科技的资讯: