【经济观察】怎样应对AI技术变革带来的安全挑战？

本文转自：工人日报

本报记者 杨召奎

《工人日报》（2024年05月20日 04版）

近日，宁夏固原彭阳县发生的一起AI（人工智能）换脸换声诈骗案件引发社会关注。诈骗分子通过AI换脸和拟声技术，佯装成受害者亲戚对其实施诈骗，导致受害者被骗1.5万元。类似AI换脸诈骗案件已经发生多起。

当前，人工智能技术变革加快，在赋能各行各业的同时也带来了前所未有的安全挑战。网络攻击、数据泄露等安全风险日益凸显，过度采集、歧视性算法、滥用深度伪造等问题可能给社会经济的运行带来风险。

今年正值网络强国战略提出10周年、中国接入国际互联网30载。站在新的时代起点、迎接新的风险挑战，亟须新的应对策略。5月18日，在以“智绘安全 乘数而上”为主题的2024第十二届西湖论剑·数字安全大会上，与会专家深入探讨了AI技术变革带来的安全挑战并寻求有效的应对策略。

中国工程院院士邬江兴指出，人类社会正在进入以数据为关键要素的数字经济时代，传统网络安全治理的局限性日益凸显，急需数字生态系统底层驱动范式转型，即建立一种可防御且富有弹性和韧性的数字生态系统，使其更容易形成内在防御能力，能让攻击方付出比防御方更高的代价，实现防御优势的转变，从而挫败数字生态系统面临的种种威胁。

中国工程院院士吴世忠则指出，在AI时代，安全问题不仅涵盖了传统的信息安全，也包括系统运行的稳定性和可靠性，还包括伦理安全，即技术应用必须符合道德伦理标准。这三者交织融合，对个人隐私保护、社会稳定、国家发展以及国际合作等方面都提出了新的挑战和要求。因此，构建一个安全、坚韧、可信的人工智能发展生态至关重要，这就要求必须在推动技术发展的同时，充分考虑到安全保障，实现发展与安全统筹兼顾。

近年来，从监管层、学界到产业界，都非常关注AI带来的潜在风险。2023年7月，国家网信办等七部门发布《生成式人工智能服务管理暂行办法》，坚持发展和安全并重，在鼓励生成式人工智能创新发展的同时，对生成式人工智能服务实行包容审慎和分类分级监管。AI和大模型会带来网络安全新的挑战，但利用好也可以实现更智能的安全防控。

在产业界方面，西湖论剑·数字安全大会发布了“共建网络强国：AI时代数字安全共识”，其中就包括以AI对AI、以AI管AI，积极应用AI等数字技术，助力数字安全保障能力持续提升。目前，一些企业已发布融合AI技术的防火墙、入侵防御、数据防泄露等创新型产品。还有企业发布了安全大模型，通过大量安全知识和数据的训练，将通用大模型训练成“安全专家”。

筑牢AI时代的安全底线，人才队伍建设是关键。教育部最新公布的数据显示，到2027年我国网络安全人员缺口将达327万。安恒信息首席人才官、高级副总裁苗春雨表示，培养一个复合型网络安全人才非常难，需要满足强实战、高技能、重协同、跨领域等条件。

目前，工信部教育与考试中心、安恒信息已达成战略合作协议，联合打造“赛训研培一体化”合作模式，共同推进数字安全领域的人才选拔、能力提升、教学研究与人才培养等相关工作。期待更多政府部门、机构、高校和企业参与进来，构建多层次、跨领域的数字安全人才培养体系和产教融合共同体，尽快打破数字安全领域人才短缺的瓶颈。