如何安全“喂养”人工智能？这届WAIC上，科学家、企业家这样建议

本文转自：劳动报

7月7日，2023世界人工智能大会(WAIC)如这几日申城的高温天一般，进展得火热。无论是参展的企业，还是前来参观的观众数量都显著超越往年。

今年3月，特斯拉马斯克呼吁暂停开发人工智能技术，并与几百名科技界知名人士一同签署了公开信，提醒人们警惕先进人工智能可能带来的危险，在业内引起轰动。在今年的世界人工智能大会上，无论是政府还是学界，都对人工智能行业报以期待，并提出了理性的建议。

图灵奖得主杨立昆：要迫使人工智能屈从于人类的目标

人类花了很长时间才建立起当下的伦理和治理机制。如果允许人工智能形成像人类一样的意识和智慧，人类该如何满足伦理和治理的要求？人类对人工智能的干预机制是什么？

在世界人工智能大会开幕式上，2018年图灵奖得主、Meta AI基础人工智能研究院团队首席人工智能科学家杨立昆表示，他完全不同意“因为任何人可用人工智能做任何事，情况可能会非常危险，所以需要严格监管人工智能”的说法。

在他的判断中，从长远来看，使人工智能平台安全、良善、实用的唯一方法就是开源。

杨立昆谈到了人工智能变得智能、可控的方法。“如果你认为达到人类水平的人工智能的方法是做更大的自回归LLM（大语言模型），然后利用多模型数据测试，那么你可能会认为，这些人工智能系统不安全。但事实上我不认为这个系统可以非常智能，我认为它们变得智能的方法也是让它们变得可控的方法，即目标驱动人工智能的理念。本质上来说，这是它们必须满足的目标。”

杨立昆认为，人工智能系统不会通过一点一滴的渗透来欺骗或支配人类。人类可以设定迫使人工智能诚实的目标，例如迫使人工智能屈从于人类的目标，要小心那些想让它们好奇的目标，小心让它们接触到它们不应该拥有的资源。“所以我认为这些系统将是完全可控可操纵的。系统可以被设计得安全，但这并不容易。设计这些目标，让系统安全，将会是一个艰巨的工程挑战。”

蚂蚁集团：化身“安全黑客”找茬大模型

的确，人工智能的深度应用，不仅对数据、算法、算力提出了更高要求，也对安全、隐私、伦理提出更多挑战。蚂蚁集团认为，在确保数据安全和隐私保护、健全人工智能伦理与安全的前提下，才能让AI技术真正地释放应用价值。

在WAIC展台上，蚂蚁集团首次系统展示蚂蚁可信AI的技术架构，以及全新升级的可信AI工业检测平台——蚁鉴2.0。

记者在蚂蚁集团展示现场，看到了一台搭载这一系统的装置。该装置模拟了蚁鉴2.0对AIGC安全性进行评测的过程，左边的“蚁鉴机器人”通过智能对抗技术，自动生成海量测试集，对右边的“AIGC生成式模型”进行交互诱导，每分钟可调用10余种不同难度系数的对抗手法，生成超过30个诱导问题。

它很像一个24小时不眠不休的“安全黑客”在找茬大模型，同时比“安全黑客”更智能化的是，在诱导的同时，会对大模型的回答进行实时、自动化的检测计算，从近200个子类维度，找到大模型存在的弱点和安全问题所在，进行量化计算，最后生成大模型的安全体检报告。

根据蚂蚁集团副总裁、人工智能首席科学家王志荣介绍说，“蚁鉴”应用沉淀的这一套标准，已经在国内乃至国际可信AI标准制定过程中发挥了重要的参考价值，目前已经支持内容安全、数据安全、科技伦理三大类的安全性检测，构建了一套“可靠、可控、可信、可用”的评测标准框架。

市经信委：上海将探索适应大模型特点的创新监管方式

7月7日，在2023世界人工智能大会“大模型时代的通用人工智能发展方向以及风险”论坛上，上海市经信委副主任阮力表示，上海市将人工智能作为三大先导产业之一，不仅积极打造具有国际影响力的世界级产业集群，同时坚持科技向善理念，持续推进人工智能健康规范发展。

随着以大模型为代表的通用人工智能技术不断演进，人工智能呈现出从专用智能跨向通用智能，从单点突破迈向协同创新，从技术研发跃向普惠引领的发展趋势。4月召开的中共中央政治局会议指出,“要重视通用人工智能发展，营造创新生态，重视防范风险”。

阮力透露，上海将从四方面推进人工智能健康规范发展。一是探索前沿风口技术，积极推进大模型技术的创新和应用，系统性支持技术攻关、算力供给、数据集建设和公共服务需求；布局科学智能，加快推进科学智能赋能生物医药、集成电路、高端装备和先进材料等创新应用；突破具身智能，提升智能机器人在复杂场景下的智能能力。

二是完善行业治理体系，面向人工智能关键领域技术、产品与服务、行业应用、安全伦理等，加快标准制订，在健全法规、标准、监管体系等方面，努力形成上海特色方案。

三是加强大模型风险管理，启动高风险人工智能产品和服务清单式管理相关研究，积极推动大模型相关治理研究；建立健全大模型评测体系，建设大模型评测中心，探索大模型自动化评测工具；探索适应大模型特点的创新监管方式。

四是深化国际合作交流，搭建更多研讨平台，引导产业人士参与科技创新实践；积极参与国际人工智能治理规则的制定和实施，推动人工智能伦理标准的互认和协调，共同推进人工智能造福人类。

头图为论坛现场。