聚焦第七届数字中国峰会｜奇安信董事长齐向东：人工智能可能给基层治理、数字政府带来三个新风险

《科创板日报》5月25日讯（记者 李明明） 5月23日至27日，第七届数字中国建设峰会系列活动在福州举行。本届峰会以“释放数据要素价值，发展新质生产力”为主题。

**作为新型生产要素，便捷的数据流动、高质量的数据供给，是新质生产力发展的重要动力。那么，如何让数据要素更好赋能新质生产力发展，以及，AI大模型时代，网安行业如何为“新质生产力”保驾护航？

在峰会期间，奇安信集团董事长齐向东接受了《科创板日报》记者的采访。**

网安能力是数字政务、智能制造等新场景的基础装备

《科创板日报》：不久前你提到“网络安全既是新质生产力，又能护航新质生产力”，可以展开分享下这个新观点吗？

齐向东：对于这个观点，我从两方面来解读。

第一、网络安全是数智技术的集大成者，本身就是一种新质生产力。新质生产力特点是创新，关键在质优，本质是先进生产力。

网络安全的本质是攻防两端的高度对抗，科技创新在这个过程中起关键作用，这个行业一天不创新就落后，落后就挨打。保障安全，网络安全必须成为各类数智新技术的集大成者，代表新技术发展的最高水准和前沿方向，做好技术和产品的融合创新。

第二、网络安全能力是新主体、新场景的必备能力，为更多元的新质生产力保驾护航。

随着政府、企业数字化、网络化、智能化进程加速，高水平、实战化的网络安全能力是新主体的基础能力，是数字政务、智能制造、智慧交通等新场景的基础装备。通过体系化的网络安全建设，可以将新主体、新场景串联成网，在可信网络下实现生产资料即数据和信息的交换，护航未来产业，推动生产力大发展。

《科创板日报》：奇安信多次参加数字中国峰会，你如何看待福建在数字未来建设方面的潜力？可以介绍下奇安信在福建有哪些布局吗？

齐向东：福建是数字中国建设的“风向标”，一直走在我国数字化发展前列。在“人工智能+”和“数据要素x”的共同作用下，福建坚持“以数强实”，数字底座不断夯实，数据资源全面盘活。作为民营经济大省，福建传统产业密集、新兴产业众多，不论是创新发展还是数字化转型，都有非常旺盛的需求。

奇安信一直将福建作为重点发展领域，在福州成立全资子公司，持续深耕东南沿海地区。目前，我们已经在福州建立了超百人的团队。

我们服务福建政府、教育、卫生、金融、运营商等各个行业客户，客户覆盖率达到70%以上；为福建省级部门，以及福州、厦门、泉州、漳州、宁德、莆田、龙岩、三明等各级网信办提供技术支撑；持续配合福建省网信、公安等行业主管部门组织实战攻防演习活动，提升了各单位的网络安全防护水平。

数据要素x”碰上“人工智能+ 会出现三大安全新挑战

《科创板日报》：企业发展过程中都面临“数据要素×”和“人工智能＋”的需求，你认为当“数据要素×”和“人工智能+”产生碰撞时，会出现哪些安全新威胁？

齐向东：“数据要素x”碰上“人工智能+”，数据的流通速度会更快、规模会更大、通过的节点会更多、价值会更高，将面临三大安全新挑战。

一是人工智能打破攻防平衡，数据要素既是目标也可能成为“毒药”。

人工智能大幅降低了网络攻击门槛，不懂代码和技术的普通人也能成为黑客，网络攻击数量大增。专业的黑客组织还能利用人工智能对攻击进行升级改造，数据既是重要攻击目标，也能被用于发动网络攻击。

比如，黑客可以通过数据投毒、对抗样本、模型窃取等多种方式攻击AI算法，使其产生错误判断，由于算法黑箱和算法漏洞的存在，这些攻击往往难以检测和防范。

二是人工智能加大了数据非法获取、数据泄露以及恶意滥用等安全问题。

员工向ChatGPT等生成式人工智能“投喂”数据，可能导致数据被动泄露。国外研究机构的数据显示，ChatGPT等生成式人工智能导致网络钓鱼邮件攻击增长了135%。生成式人工智能大模型在对话交互过程中还能获取用户数据或输出训练数据，带来了数据泄露及恶意滥用等安全问题。

三是人工智能扩大了攻击暴露面，数据要素流通风险激增。

当前，企业数据在终端、应用、云上、数据中心侧之间流转，链路非常复杂，提高了边界和接口的管理难度，导致访问者的身份难以辨认、行为难以管控，黑客能披着合法的外衣做坏事，很难及时捕捉安全风险，增加了数据泄露的机会和攻击面。

《科创板日报》：怎么看AI在基层治理中的安全风险？从技术上，应该怎么解决这些问题？

齐向东：人工智能可能给基层治理带来三个新风险，让数字政府成为安全风险“高发区”。

首先是AI大模型本身存在数据污染和投毒隐患，引发信息真假难辨的安全风险。

如果训练内容本身存在立场问题，或者被注入恶意或误导性样本，会让政务大模型的思维能力和推理能力变得混乱，导致散播虚假信息和不当言论，引发社会混乱和政治风险，也可能诱导工作人员做出错误的决策，极大破坏政府公信力。

其次是AI大模型涉及海量数据训练、流转和使用，政府的机密数据、敏感数据很容易被泄露。

生成式人工智能会在与群众对话交互的过程中获取隐私数据，基层工作人员也可能出于工作便利，往里面输入一些比较敏感的信息，容易造成个人信息、核心机密和其他数据泄露。

三是AI带来“饱和式”攻击的风险，可能会击垮数字政府的安全防线。

网络攻击好比偷东西，攻击者会特意制造群众性事件分散目标注意力。AI大模型的出现，让黑客可以在短时间内发动大范围连续进攻，让目标处于无法应付的饱和状态，然后趁虚而入。这样一来，安全专家稀缺的政府机构，将遭遇“饱和式”攻击，陷入“攻强守弱”的境地。

从技术层面看，破解人工智能给数字政府带来的安全挑战，要做好两件事，首先是用人工智能驱动安全，为数字政府打造高效、智能的安全防护能力。其次，是用安全护航大模型落地，确保AI应用安全，为数字政务提质提效。

（财联社记者 李明明）