外滩大会｜“机器学习泰斗”迈克尔·乔丹：如何解决AI量化不确定性

·“当前谈论技术时，总是谈到用机器替代人，但我认为不是这样，我们应该将技术看作是一个工具来赋能人类，而不是所谓的超级电脑智能。”

·“我的关注点不是个人或各台电脑，而是一个智能的集体。怎么设计机制让它公平，怎么可扩展、更稳定，这是人工智能真正面临的问题。AI的本质是集体而不是个人。”

美国科学院院士、美国工程院院士、英国皇家学会外籍院士迈克尔·I·乔丹（Michael I. Jordan）在外滩大会上发表主旨演讲。

“ChatGPT，你刚刚写的内容你确定吗？”9月7日，在上海举办的2023 Inclusion·外滩大会主论坛上，美国科学院院士、美国工程院院士、英国皇家学会外籍院士迈克尔·I·乔丹（Michael I. Jordan）谈到大语言模型（Large Language Models）的不确定性，“它完全无法回答这个问题。因为它的技术上是存在问题的，而这个问题其实它还没有真正有效地解决。而人在讲到“不确定”的时候，是非常擅长处理这些类似的问题，怎么去沟通不确定的信息以及应对。”

乔丹教授是机器学习领域的先驱，通过在机器学习、概率学、统计学以及图模型这四者间建立联系，为机器学习奠定了数学与计算基础。他曾获得IEEE约翰·冯·诺依曼奖章、国际人工智能联合会议卓越研究奖和2022年第一届世界顶尖科学家协会奖。

在外滩大会题为《新兴人工智能系统的挑战——量化不确定性》的主旨演讲中，乔丹认为，目前的技术缺乏一个根本的点，这个对于金融、对于金融科技是至关重要的，因为金融科技归根结底讲的是不确定性的技术。如果说不确定性应对不好，你不可能有非常好的金融科技技术。“所以，ChatGPT也没有办法对不确定性进行量化，我们需要去解决这个问题，我们要找到一个可能的方法去应对这些挑战。”

另一个问题是，当前谈论技术时，总是谈到用机器替代人，“会有这样一种所谓的超级电脑，超级电脑智能”，但乔丹认为不是这样，“我们应该把技术看作是一个工具来赋能人类。”

“所以我的关注点不是个人或各台电脑，而是一个智能的集体。蚂蚁（蚂蚁集团）就是一个很典型的例子，它创造了双边市场，把商户和客户有效联结在一起，我觉得这才是一个智能的集体，这个是有真正的智能。怎么样设计这个机制，怎么让它公平，怎么可扩展，怎么更稳定，这也是我们人工智能真正要面对的问题。所以AI的本质是集体，而不是个人。”乔丹说。

那么，如果说把这两个问题结合在一起，我们怎么在一个协作式的、去中心化的系统中来实现集体智能？

乔丹认为，我们可以设计这样一个集体智能体，也可以去解决这个不确定性，我们在日常生活中经常遇到不确定性，能够有集体的去中心化的系统帮助我们有效应对日常和世界当中的不确定性，这才是亟待解决的问题。

乔丹以AlphaFold预测蛋白质为例，“它主要用于蛋白质预测，其预测能力强于人，某种程度上来讲是有智能的，但是它依赖的是人的数据，依赖的是有标记的蛋白质结构数据，这个可以用于药品的开发、药品的监管。”乔丹提到，有一个研究方法叫做预测驱动的推理。就像很多科学家可以用预测的蛋白质数据，而不是真实世界的蛋白质的数据，来作为真实数据使用，这样可以实现上亿级别的蛋白质结构预测，如果用人的X-射线晶体结构技术的话，只能做几十万级别的预测。

乔丹在演讲的最后表示，“今天大家都听到AI可能会替代人的说法，但我认为它只不过是一个新的工程系统，它应该是普世的，让每个人都受益，而且是公平、公正、透明、稳定的。这些特性是整个工程系统的特点，而不是系统当中个体的特点，所以AI是关于一个集体，而不是关于一个个体。”

2023 Inclusion·外滩大会9月7日在上海黄浦世博园正式开幕。这场以“科技·创造可持续未来”为主题的大会为期3天，近20位“两院”院士、诺贝尔奖和图灵奖得主，全球超500位有影响力的科技领军企业和专家学者，将在此带来一场科技、人文和产业的思想碰撞。大会设有1场主论坛、36场见解论坛、8000平方米科技展览、3000平方米绿色集市，并首次举办科技人才招聘会。