清华大学教授李宗鹏：大模型消除不了幻觉，大语言模型注定没有希望

（在2024大湾区科学论坛现场，清华大学教授李宗鹏接受凤凰网财经的采访）

作者|王迪

百度李彦宏称大模型基本消除了幻觉，AI从一本正经胡说八道变得可被信赖。清华大学李宗鹏在接受凤凰网财经采访时则指出，大模型永远不会彻底摆脱幻觉和出错的问题，这是数学上已经证明的。

“AI代替了交易员，这已经发生了。以前用算法和数学来炒股，大模型是其中一种。现在航空公司机票定价也用算法代替人工。”即便如此，李宗鹏依然提醒大家如果都依赖大模型炒股，可能会有新的风险。比如说，现在有人专门攻击大模型和人工智能。

今年7尊诺奖，AI“戏份”过半。李宗鹏向凤凰网财经透露，自己1999年到2005年曾在多伦多大学读博士。今年诺贝尔物理学奖得主杰弗里·E·辛顿（Geoffrey E. Hinton）正是他的老师。

李宗鹏认为，辛顿老师获奖实至名归，因为贡献足够大。获奖的争议点集中在研究领域是否属于物理。

有人说AI是第四次工业革命,李宗鹏的看法是还到不了工业革命的程度。现在还是人类聪明。在更远的未来，AI会否反过来统治人类，我们会不会变成大模型的奴隶，这都是需要进一步思考的问题。

“以前的行业是整个产业链谁离用户最近，谁赚大部分的钱。现在是谁离用户最远，谁将赚大部分的钱。”为解决盈利问题，李宗鹏表示，一是等待杀手级应用的出现，真的创造生产力，利用人性的弱点吸引C端的钱。另一方面是降低算力成本，让计算变得更高效。至于大模型是否已经摆脱了幻觉问题，或者是能否摆脱幻觉问题，李宗鹏认为，现在不可能，以后也不可能，这是数学和理论计算机领域可以证明的结论。

以下为凤凰网财经与李宗鹏的对话节选：

01 大模型永远不会彻底摆脱幻觉和出错的问题

凤凰网财经：最近，百度李彦宏说，大模型基本消除了幻觉，AI从一本正经胡说八道变得可被信赖。您怎么看？

李宗鹏：如果让对话机器人一定要保证100%正确，排除幻觉，我认为永远做不到的。以前你问大模型：“张飞和貂蝉为什么离婚了？”它会告诉你为什么离婚，这时候它产生了幻觉。后来的对话机器人做了一些改进，看起来没有那么离谱了，或者出错的比例低一点，但是它永远不会彻底摆脱幻觉和出错的问题。为什么这么说呢？

从数据结构和算法的层面看，深度神经元网络和大语言模型是非常有趣、非常强大的想法和创造。这和传统计算机科学里面离散的数据结构、逻辑推理等完全不一样。非常离经叛道，但是在实际应用中爆发了强大的冲击力。

但是，从计算复杂度和可计算性的层面看，大语言模型注定是没有希望的。计算机专业本科都会学上下文无关语法CFG、确定自动机DFSA和正则表达式RE，研究生阶段有Horn logic，再复杂一些到了propositional logic和predicate logic，最后是最复杂的自然语言NLP。前面是computable，后面包括NLP是not computable。既然不可计算，还非要给出回答，那答案注定是没法保证靠谱的。

现在很多搞AI的人，并没有扎实的数学和计算机科学的基础。脱离了严谨的理论分析，这些AI行业的从业者、投资人等等，对AI的理解和预测可能会出现偏差，感情用事，比如过度乐观。也有一定的可能，再过10年之后，大语言模型就退烧了，也可能会有新的人工智能技术出现，这也说不定。

02 大模型是目前最火的AI，辛顿老师获诺奖实至名归

凤凰网财经：中国工程院院士高文称今年不是AI“诺奖元年”，元年在1978年。

李宗鹏：AI其实很早就有了，只是以前的AI可能不是大模型，以前的AI是其他的AI。AI是一个更广的概念，大模型是目前关注度最高的AI。

凤凰网财经：您怎么看今年7尊诺奖，AI“戏份”过半？

李宗鹏：今年诺贝尔物理学奖得主杰弗里·E·辛顿（Geoffrey E. Hinton）也曾是我的老师，1999年到2005年我在多伦多大学读硕士和博士。我在的时候他很惨，有人说他骗经费，误导学生。那时候都说Ray Reiter要获得图灵奖了；他是做知识表示和推理的，是完全不同的AI。那时候没人想到辛顿老师会获得图灵奖或者诺贝尔奖。

凤凰网财经：那您觉得辛顿老师获得诺贝尔奖实至名归吗？

李宗鹏：是，贡献足够大。获奖的争议点是属不属于物理，因为他是做计算机的，获得的却是诺贝尔物理学奖。

凤凰网财经：您觉得应该算AI领域的奖，不应该算诺贝尔物理学奖？

李宗鹏：看到新闻，在高兴之余我也很惊讶，我觉得他更偏计算机，他是做计算机的人。如果从广义的物理上来看，研究自然界各种规律和运作，是有关系的。从狭义的物理上看，如果回望过去20年获得诺贝尔物理学奖的人，他和这些人的研究方向和研究方法又非常不同。主要看是对物理狭义还是广义的理解。

凤凰网财经：将诺奖颁给AI领域专家，是因为他们契合了时代发展的趋势？

李宗鹏：AI可以让很多科研或工程变得更高效。你要自己去判断，可能会比你自己一步一步做，效率提升很多。

03 AI炒股有风险，现在航空公司机票定价用算法代替人工

凤凰网财经：有人说AI是第四次工业革命，您认同这种说法吗？

李宗鹏：我个人觉得现在可能还没到这种高度。工业革命是像电的发明那样，那就很重要了。

凤凰网财经：AI炒股会不会改变人的生活模式？

李宗鹏：AI代替了交易员，这个已经发生了。以前也有更广义的用算法和数学炒股，比如Jim Simons的文艺复兴基金。大模型也可以看作是数学和算法的一种吧。

凤凰网财经：以前也有金融模型？

李宗鹏：现在飞机航空公司机票定价，也开始用算法来代替人工来定价。

凤凰网财经：这会导致作弊行为的发生吗？

李宗鹏：如果大家都依赖大模型炒股，可能会有新的风险。比如说，有人会专门放出让大模型上当的一些新闻。或者有人专门攻击大模型。比如说，人工智能本来是识别猫狗的，只加了一点点噪声，就让AI将猫认成狗了。现在有人研究专门攻击大模型和人工智能，给它投毒，投错误的训练材料。

04 A I未来是否会统治人类，人类是会否变成大模型的奴隶，需进一步观察

凤凰网财经：是不是又回到这样一个问题上：到底是AI聪明还是人聪明的问题。我们不能过度依赖AI。有时候AI也不聪明，万一帮我炒股炒输了？

李宗鹏：整体上还是人聪明。但是AI做很多事情肯定比人快。比如说，做运算，以前计算器比人快。AI是个更广的词。目前，我觉得整体上还是人更聪明。

凤凰网财经：前段时间AI恋爱比较火热。很多人说AI在情商、智商方面可能都超越了人类，也有人说AI只是一个算法。您觉得AI的智商会超越人类吗？

李宗鹏：现在也不确定大模型到底是真的有智慧，还是说和人类通常理解的智慧不太一样。我觉得可能还是有争议，还需要再观察。比如，在更远的未来，AI以后会不会反过来统治人类，我们会不会变成大模型的奴隶，这都是更进一步的问题了。我想可能还需要进一步观察。

05 谈大模型盈利：降算力成本，期待杀手级应用的出现

凤凰网财经：现在大模型同质化比较严重。大家也处在烧钱的模式，您觉得应该如何解决盈利问题？

李宗鹏：开源节流。第一，等待杀手级应用的出现。因为现在行业和以前的行业不一样。以前的行业是整个产业链谁离用户最近，谁赚了大部分的钱。现在是谁离用户最远，谁将赚大部分的钱。这个可能不太正常，也不知道以后会不会改变。有没有杀手级应用出来，可以吸引大量的钱涌入。

另外一个就是成本。这一代的AI和以前不太一样，商汤科技董事长兼CEO徐立也说了，以前的研发主要是人的成本，现在算力的成本占了很大一部分，可能和人的成本差不多，甚至更多。所以，一方面你要有杀手级的应用：要么真的创造生产力，要么利用人性的弱点吸引C端的钱，总之要有大量的收入。不过，现在还没出现。另外就是算力成本怎么降下来，让计算变得更高效，人工智能模型本身变得更高效，需要这方面的革命。