技术狂飙突进，共识规则亟待建立

本文转自：解放日报

技术狂飙突进，共识规则亟待建立

——访华东政法大学人工智能与大数据指数研究院院长高奇琦

周丹旎

本报记者 周丹旎

最近，OpenAI推出的文生视频大模型Sora引爆全网，因其模拟逼真场景的强大能力，被视为“颠覆性”的存在。

作为一名持续追踪人工智能技术演进的人文社科学者，华东政法大学人工智能与大数据指数研究院院长高奇琦在接受记者采访时表示，自己对此“并不是太意外”。他认为，未来人工智能发展速度会越来越快，通用人工智能大突破的时代可能会大大提前，这是无可阻挡的大趋势。技术狂飙突进之下，当务之急是尽快形成全球共识，使技术发展在一定规则之下运行，使其符合人类社会的整体利益。

“世界模拟器”令人震撼

记者：ChatGPT和Sora两款大模型产品，有何区别与内在关联？

高奇琦：从ChatGPT到Sora，是一个从单一文本到文本、图片、音频、视频多模态进阶的过程。

虽然形态上有区别，但其本质都是通用人工智能拼图中的一部分，是实现通用人工智能前的一些小目标，具有内在连贯性。OpenAI接下来可能会把这几个项目结合起来，实现文字、图片、音频和视频的多模态交互。

记者：Sora被称作“世界模拟器”。相比去年的ChatGPT，Sora带来的震撼和冲击似乎更为剧烈，这是为什么？

高奇琦：Sora让人耳目一新，是因为它做的事情是比较难的。它能生成60秒的长视频，而同类竞品Pika和Runway只能生成几秒或十几秒。我们日常生活中，可能觉得60秒的视频算短的。但是对AI模型来说，越长就越涉及高度复杂的细节，考验它对真实物理世界的理解能力。

为什么说它是“世界模拟器”？因为它需要理解画面当中出现的东西代表了什么，以及它们在现实世界中运行的规律。举个例子，自动驾驶为什么长期突破不了，离不开人的干预？根本原因就在于机器不理解这个世界，不理解图像中实体和实体之间的关系，以及实体之间关系所代表的现实意义——这向来是人的能力。但是今天的Sora能理解了，可以做出一些推理和判断了，这是它的震撼所在。

颠覆性创新会越来越多

记者：有人将Sora视为走向通用人工智能的重要里程碑，您怎么看？

高奇琦：所谓通用人工智能，简单地讲，就是可以像人类一样完成几乎所有任务。过去的人工智能如AlphaGo，只能完成专用任务，充其量只能算弱人工智能、窄人工智能。而Sora理解世界的精准度、承担任务的复杂度，虽然还没有完全达到人的水平，但已经非常高了，可以说相当接近通用人工智能了。

毋庸置疑，Sora让我们看到，通用人工智能大突破的时代可能会大大提前。

记者：毫无疑问，人工智能技术正在加速度发展。未来，类似Sora这样颠覆传统认知的技术创新，是否会越来越多？所谓的人工智能奇点真的会来吗？

高奇琦：一个不争的事实是，人工智能体的发展速度会越来越快，未来出现任何新的颠覆性创新，我可能都不会太吃惊。

所谓的人工智能奇点，是雷·库兹韦尔提出的，可以理解为机器智能超越人类智能的一种可能性。如果放在十年前，很多人可能觉得这一天还很遥远，许多专家把这个时间周期定在50—100年。ChatGPT诞生后，人们认为这个周期可能要缩短到5—20年。今天Sora来了，更多人意识到，通用人工智能无限接近甚至超越人类，可能不再是“天方夜谭”。

深度神经网络提出者、图灵奖获得者杰弗里·辛顿在接受媒体采访时就多次说过，过去他觉得谈论这一天还“为时过早”，但现在不这么认为了，“我们应该认真考虑如何阻止这些东西对我们的控制”。

警惕“知识泡沫”的冲击

记者：新兴技术的发展同时带来“创造性的破坏”。具体来说，以Sora为代表的技术，将给人类社会带来哪些潜在风险和挑战？

高奇琦：技术本身是与社会紧密联系在一起的。以ChatGPT、Sora等为代表的通用大模型技术，其潜在的失业、失序和失控效应，可能会对人类社会产生很大冲击。

一是失业。在工业化发展过程中，也会不断出现结构性失业，但人们通过技能再培训往往就能获得新工作岗位。然而，通用大模型技术所产生的替代效应针对的是知识类工作者。人类历史之前的经验表明，知识类工作是相对可靠、稳定和受到保障的，但大模型技术会给内容创作相关的职业带来巨大冲击。

二是失序。通用大模型技术会打破传统的知识秩序，大量的人工智能生成物进入人们的现实世界，会冲击人类传统的知识创造。人们可能很难再相信“真相”，因为所有的信息都可以被虚拟制造。这种“知识泡沫”的巨大冲击会将人类社会传统的知识秩序完全打破，而人类社会的其他重要秩序（如政治秩序、经济秩序等）都是建立在知识秩序基础之上的。

三是失控。Sora还未正式向公众开放，但此前的GPT-4已经表现出部分失控的特征，例如机器会带有某种情绪性，表现出某些类人意识的特征。我们需要未雨绸缪，为人工智能体发展设定一整套全新的规制框架。

科技是非常复杂的双刃剑

记者：人工智能技术加速迭代演进，该如何展开科学治理？

高奇琦：必须承认，没有人能够阻止技术的进步。科技是一把非常复杂的双刃剑，如果社会制度的演进速度严重落后于技术的变革速度，那么新技术就有可能引起社会的一系列不良反应。为了使技术的发展符合人类社会的整体利益，需要对其进行相应限制，并使其在一定的规则之中运行。

从企业角度说，由于相关技术开发会产生巨大而广泛的社会效应，OpenAI需要承担起相应的社会责任，比如开放相关的技术细节。

从政府角度说，要将社会各个部门整体动员起来以建立一种新的规则。例如，针对庞杂的人工智能生成物，建立一系列知识创新规则，在一定程度上保障其知识产权，避免知识的无序状态，并在创新过程中产生新的秩序。

从全球来看，主要国家需要尽快在大模型技术发展问题上形成共识。各国可以设立一些试验区，充分观察这些技术可能产生的破坏性效应，并尽可能将破坏性效应降到最低。国际组织也需要将OpenAI这一类头部企业的社会责任履行和信息技术细节公开等列为重要治理议题。

人工智能技术狂飙突进的当下，巨大的社会转型才刚刚开始。我喜欢把人工智能发展与核能利用作类比：核能的特点是在瞬间产生巨大的能量，和平利用核能的关键是调控核能输出的速度，将核能爆炸产生的巨大能量缓慢地输出，这样就能使核能产生的巨大能量为人类社会服务。我想，可以将这样的思维引入到人工智能发展的过程当中，最终导向人类理想的未来。