韩国首尔大学教授：AI“奇点”或在5年后出现，风险需管控

人工智能在何时会超越人类智能的水平？这一颠覆性时刻的到来，被称为“奇点”（Singularity）。如果放在几年前，多数人会认为“奇点”时刻还很遥远，但今天再问人工智能领域的科学家，可能会有不同答案。

3月26日，博鳌亚洲论坛2024年年会在海南博鳌正式开启。在当天下午举行的一场专门探讨科技“奇点”的论坛上，韩国首尔大学电子与计算机工程系教授、《IEEE模式分析与机器智能汇刊》主编Kyoung Mu Lee大胆预言，“奇点”有可能在5年后就出现。

图据博鳌亚洲论坛官网。

Kyoung Mu Lee主攻计算机视觉、机器学习等方向，拥有40多年人工智能领域研究的经验。他在会上提到，2017年一项面向人工智能领域科学家的问卷显示，多数人预测科技“奇点”将会出现在2045年到2090年之间，最有可能是2060年。但现在很多人认为，“奇点”到来的速度会远早于预期。

当前，人工智能正在以前所未有的速度发展，并不断地刷新人们对科技的想象。即便是从事人工智能领域研究的专家，Kyoung Mu Lee表示，每天也会被各式各样的新结果所震惊。特别是深度学习，在短短十年内发生了巨大的变化，“这是我们完全没有预料到的。”

最近两年来，以ChatGPT、Sora为代表的大模型技术取得重要突破，掀起了新一轮的人工智能热潮。Kyoung Mu Lee提到，ChatGPT不仅仅是聊天机器人，它还可与汽车或者其他机器人结合，实现更大的技术创新与变革。

据南都记者了解，人工智能正在迈向多智能融合的新阶段。多模态大模型成为当前模型研究的主攻方向，多技术路径的交叉融合，正在加速通用人工智能（AGI）的到来。

在人工智能之外，Kyoung Mu Lee还关注到量子计算、核聚变等颠覆性技术。他认为这些技术的组合将产生很强的协同效应，带来真正爆炸式的发展。目前机器学习仍受大量的数据、算力和能源限制，但量子计算或核聚变的研究突破，有可能帮助人们利用有限的资源开发更强大的人工智能。

事实上，人工智能“奇点”何时到来，没有人能给出准确的答案。但可以看到的是，当前很多国家、企业都将发展人工智能摆在重要位置，并在政策扶持、资源投入和人才培养等方面有所倾斜。

“在人类历史中，似乎找不出这样一个技术——能吸引如此多的资金和资源，并获得政府和民众如此高的关注。”Kyoung Mu Lee说，在这样背景下，“奇点”到来的时间会比预期更早、更快。

需要警惕的是，技术快速发展的同时，也会带来安全伦理的挑战。南都记者关注到，近期利用AI复活逝者的话题在网上引发热议，还有不法分子通过AI换脸、拟声技术冒充他人实施诈骗。如何规制这类AI造假行为？当天论坛上，Kyoung Mu Lee也分享了他的看法。

他认为，通过技术来解决AI造假问题，目前看来效果并不是特别乐观。其中反映出的一种尴尬是：“AI拟声、换脸技术发展得比相关检测技术还快——我们好像是在追着兔子跑，而它总是跑得比我们快一步，所以要技术上解决这种（AI造假）问题很难。”

为此，Kyoung Mu Lee建议先从法规着手。对于那些正在被广泛商业应用的人工智能产品，有必要加强法律管控。整个研发和产出的过程，具体到从测试训练开始到对外销售、面向公众提供服务等环节，应当是可监测且符合相关标准和规范的。特别是，由AI生成的内容必须标注水印，以更好地帮助人们辨别真伪。

采写：南都记者 李玲 黄莉玲 发自海南博鳌