AI技术为安全治理提供“新工具箱”

本文转自：科技日报

“数字时代安全科技价值”专题研讨会举行

AI技术为安全治理提供“新工具箱”

图为郑州网络安全科技馆中，“手机安全的秘密”“移动终端安全”“钓鱼邮件”等展区。视觉中国供图

◎本报记者 崔 爽

“数字化进入新阶段，我们面临着全新的安全挑战。”1月18日，中国社会科学院大学数字中国研究院举办“数字时代安全科技价值”专题研讨会，中国社会科学院大学数字中国研究院执行院长吕鹏在会上说，“安全风险呈现出快迭代、高智能、全覆盖的新特点。尤其是有了生成式人工智能以后，关注人工智能的安全风险更加紧迫。”

研讨会上发布了《数字时代安全科技价值报告》。该报告指出，未来，安全科技将成为公共品，与人工智能（以下简称AI）并列成为两项通用技术。具体来看，AI作为核心关键技术，将成为未来生产力的“发动机”。安全科技将作为“方向盘”，把新兴科技控制在向善的道路上。新的安全技术发展得越好，个人与社会为数字化转型所付出的代价也将越小。

安全科技将成为公共品

“当人们提到安全科技时，想到的往往是防病毒软件和防火墙软件。但全球安全科技的版图和技术工具已远远超过这个范围。”吕鹏介绍，“在网络安全、系统安全之外，还有数据安全、终端安全、AI安全、云安全等技术门类，也包括区块链、隐私计算、量子计算等前沿技术。”

浙江工业大学网络空间安全研究院院长宣琦指出，本质上，安全科技是一种伴生技术。它永远在面向新科技、新发展。比如，伴随AI发展提出智能安全，针对生物科技提出生物安全。新技术的发展有时非常快速，所以安全技术的发展和创新也同样在高速进行。

中国社会科学院科学技术和社会研究中心研究员段伟文认为，未来，安全科技必将成为公共品。整体来看，安全科技具有“压舱石”与“助燃剂”的双重价值：守住技术的安全底线，防御外部风险隐患，让技术“难作恶”；提高技术的安全上限，降低技术运行成本，让新技术得以规模化落地，让产业在安全的基础上“跑起来”。

吕鹏举例说明安全科技在产业发展中的应用。“北京中铁建工物资有限公司和蚂蚁蚁盾共建产业风控平台，用数据智能防范上下游的协作风险，产生了较好的效果。”吕鹏说，“工作效率提高了50%以上，产业授信额度的评定科学化、可量化程度也得到大幅提高。风险预测、预警、事后风险处置等都更好更精准。”

AI安全风险主要分三类

2023年，AI大模型安全风险凸显。AI技术在带来强有力的新工具的同时，也带来数据隐私、技术滥用、失控等安全问题。“加强对AI这一新兴技术的潜在风险研判和防范，确保AI安全、可靠、可控，已成为产业发展的核心要素。”吕鹏说。

在段伟文看来，AI安全风险目前来看主要可以分为三类：内生风险、衍生风险、外生风险。

在内生风险方面，AI存在技术本身的脆弱性、对数据的依赖性等自身缺陷带来的安全问题。比如，如果给数据库不断投喂带有特定价值观的数据，会对AI系统形成严重干扰，产生“数据偏见”“观点霸权”等问题。衍生风险是指AI系统因其自身脆弱性被利用或不恰当使用，可能引发其他领域的安全问题。例如生成虚假新闻、利用深度合成伪造进行诈骗等，这涉及人身安全、隐私保护等一系列社会治理挑战。外生风险也就是面向AI系统的外部网络攻击。

《数字时代安全科技价值报告》认为，当前，安全风险变得更加复杂隐蔽、强对抗、更具破坏力，将AI驱动的业务风控系统建设得更强、更智能，更好地应对大规模网络攻击与入侵，成为行业健康发展的必需。过去几年，通过应用AI来提高安全技术的效率和成功率，已经成为技术领先企业的常态。业界开始推出“大模型质检”类安全产品，成为推进大模型安全健康发展的方式之一。

“快”“慢”结合维护大模型安全

吕鹏指出，AI技术发展给安全治理增加挑战的同时，也形成AI安全治理的“新工具箱”。

谈到“用AI对抗AI”的具体产业实践，他介绍，一方面，可以使用智能对抗技术向大模型“投射问题”，观察模型生成的回答，以此实现对AI生成图片、视频等多模内容进行“真伪”辨别和安全性检测。另一方面，通过智能化风控技术，可以帮助大模型拦截外界的恶意提问，确保外部恶意诱导无法传入大模型。同时，对生成的回答内容能够进行风险过滤，保障大模型上线后从用户输入到生成输出实现整体安全防御。

整体来看，通过从已有数据中学习，AI可以更快地识别攻击的模式和趋势，从而预测未来攻击，并配置自动响应威胁功能，在更快的时间内对抗网络威胁。

吕鹏表示，维护大模型安全既要“快”也要“慢”。大模型安全防御方面要“快”，要能快速检测、查杀病毒，确保服务无毒害。大模型安全可信方面要“慢”，要能长远地、体系化地保证整个系统环境的可控、可信。