人工智能时代呼唤网络安全治理升级

8月28日至29日举办的首届网络空间安全（天津）高峰论坛上，近800位来自网络安全领域的官员、专家学者和科研机构、院校、企业代表齐聚一堂，共话网络空间安全形势、共享网络安全理念、共商网络安全对策。

随着人工智能的出现，网络信息技术迭代升级加速，网络安全领域新情况、新问题、新挑战层出不穷，影响全球经济格局、发展格局、安全格局，也给网络安全保障提出了更高要求。部分业内人士认为，应强化风险意识，建立有效的风险预警和应对机制。同时，各方应加强交流与合作，不断提升网络安全水平。

人工智能产业在规范中发展、发展中规范

今年，生成式人工智能热潮席卷全球。目前，国内的百度、科大讯飞等企业机构已推出自己的大模型产品。

部分专家判断，生成式人工智能将引发新一轮人工智能革命，人类与机器、技术与产业、虚拟与现实之间的关系正在发生广泛而深刻的变化，技术创新也给人类社会文明秩序带来了挑战。

对此，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、国家广播电视总局公布的《生成式人工智能服务管理暂行办法》（以下简称《办法》）于8月15日起正式实施。这是我国首个针对生成式人工智能产业的规范性政策。《办法》明确鼓励生成式人工智能技术在各行业、各领域的创新应用，生成积极健康、向上向善的优质内容，探索优化应用场景，构建应用生态体系。

360集团创始人周鸿祎认为，《办法》内容表明了有关部门鼓励创新，支持大模型发展的态度，为科技企业创新提供了信心和保障。《办法》还明确了适用边界，既能够规范大模型的公众服务，同时也有利于组织机构的研发和应用。

“产业数字化战略背景下，大模型作为工业革命级的生产力工具，应当帮助传统产业特别是制造业实现数字化转型、智能化升级。《办法》对推动大模型在企业级场景的落地有积极意义。”周鸿祎说。

出席论坛的国家网信办有关负责人表示，生成式人工智能首先要统筹发展和安全。“我们深知人工智能是今天技术发展方向，生成式人工智能是人工智能的重要内容，它必将对我们的经济社会发展、人民群众的生活发挥重要作用；同时，我们也要看到生成式人工智能可能带来的安全风险，需要法律、标准规范引领。”他说。

出席论坛的工业和信息化部有关负责人表示，工信部系统推进网络安全的保障体系和能力建设，取得积极成效，关键信息基础设施的保护、工信领域的数据安全、新型基础设施安全等一批标准陆续出台，网络空间环境大幅改善，人民群众利益得到了切实保护。

“我国针对大模型的安全管理政策是科学且务实的。”百度安全副总经理包沉浮说。

多位专家表示，加强生成式人工智能的发展、应用、管理，目的是把技术转变为生产力，让人工智能技术在经济社会发展中发挥更大的作用。

人工智能为网络安全治理带来新挑战

“人工智能在网络安全领域给攻防双方都带来了变革。”杀毒软件企业安博士中国区首席执行官沈珉奎说。公安部网络安全保卫局杨骎博士也表示，人工智能正在降低网络犯罪的门槛。

在个人层面，人工智能降低个人网络犯罪门槛。美国专业安全技术公司迈克菲市场总监泰勒·麦基说，“我发现暗网上有很多暗黑版的GPT，价格低廉，容易获取，有的每个月只需花90美元就能订阅使用。这些暗黑版GPT不但能写钓鱼邮件，还能编写恶意程序代码。”

技术“小白”也能通过简单的问答方式实施黑客攻击，这相当于给了普通人一本“武林秘籍”，让不懂代码、不懂技术的普通人成为黑客。此外，近期，通过AI换脸和拟声技术获取信任进行诈骗的案例屡见不鲜。“只需要几秒钟的语音样本或者一些视频，就可以假乱真，利用人工智能诈骗，人们很难辨别。”泰勒·麦基说。

在社会层面，人工智能伪造虚假信息会误导社会公众。人工智能深度伪造软件简单易用，能轻松将面部表情、技术动作和声音三者融为一体，这种平民化和社会娱乐化的工具，使得大规模、低成本的针对个人的恶搞乃至污蔑成为可能。从娱乐到工作，从新闻到科普，无处不见人工智能的身影，它们以惊人的速度和数量回答问题、发布文章、制作图片，但往往缺乏真实性、准确性。杨骎举例说，利用人工智能技术制作虚假新闻事件，对公众人物制作虚假视频，容易造成不良引导，影响社会认知，甚至破坏社会信任、扰乱社会秩序。

今年6月，浙江绍兴警方在网上巡查时发现“绍兴上虞化工厂发生重大火灾”的视频，短时间内浏览量迅速攀升。警方核实后确认视频为人工智能技术深度合成，并很快锁定某科技网络公司有较大作案嫌疑。经调查，5月以来，该公司为牟取利益，从网上非法收购一批视频账号，通过人工智能软件，自动生成或拼接制作虚假视频发布，以博取流量，并通过流量算法返款盈利，造成了不良社会影响。

联合国安理会7月18日就人工智能与安全问题举行高级别公开会。中国常驻联合国代表张军在会上指出，国际社会要强化风险意识，建立有效的风险预警和应对机制，确保不发生超出人类掌控的风险，确保在关键时刻人类有能力按下停止键。

呼唤网络安全治理新格局

面对人工智能时代，网络安全领域的新情况、新问题、新挑战，业内专家建议，首先，建立纵深化立体化防御体系。深信服科技股份有限公司首席安全官周欣认为，针对多阶段和定制化的攻击，可以建立纵深防御体系解决勒索病毒攻击的行为。他建议以人工智能技术为核心，持续对抗未知的样本攻击。“我们希望用‘魔法’对抗‘魔法’，用人工智能打败人工智能，我们企业也在进行有益尝试。”他说。

其次，建设一体化网络安全运营中心。奇安信科技集团董事长齐向东表示，做好安全合规不能只从简单的产品堆砌入手，要配合安全体系从管理、技术、运营三个角度开展安全运营治理和防护工作，要建立“人+数据+智能”的运营体系，让安全能力真正活起来。

“只有这样才能实现多元数据的汇聚，对安全风险进行整体的态势感知，在遭到威胁和网络攻击的时候能够及时预警和响应，完成对安全事件的闭环处置。”齐向东说。

此外，还应深化国际交流，推进网络安全技术新发展。俄罗斯卡巴斯基实验室创始人尤金·卡巴斯基表示，要打击散布全球的网络罪犯，执法部门之间的国际合作至关重要。国家计算机病毒应急处理中心主任陈玉东说，网络安全是开放的而不是封闭的，只有立足开放环境，加强交流合作，吸收借鉴先进技术，网络安全水平才会不断提高。

“推动网络空间国际治理进程，需要发挥信息化对经济社会发展的引领作用，积极利用法律法规和标准规范引导新技术应用，自主创新推进网络安全技术提升，以技术创新夯实网络安全基础。”陈玉东说。

“各方应继续努力，进一步搭建合作交流的平台，共同建立更加科学完善的网络安全威胁应对处置机制，携手构建网络空间命运共同体。” 天津市副市长、市公安局长衡晓帆表示。