人工智能发展快，风险治理要跟上

本文转自：光明日报

作者：宋建立

《光明日报》（ 2024年03月14日 16版）

【科学随笔】

人工智能技术的加速迭代，深刻改变着人类的生产生活，并对人类文明发展和社会进步产生着广泛而深远的影响。但技术的进步往往是一把“双刃剑”，在人工智能新业态新产品层出不穷的同时，人工智能技术转化与应用的不确定性，对网络安全、社会就业、法律伦理等带来了冲击，并对国家政治、经济和社会安全带来诸多风险和挑战。如何确保人工智能始终按照为人类服务的预设目标发展正成为当今国际社会普遍关注的问题。

当前，人工智能仍处于快速发展阶段，但因其技术自身固有的脆弱性和监管体系落后于技术发展等客观因素的存在，各国对人工智能风险治理尚未形成统一认识，出现了新问题快速涌现，治理规则缺失的困境。坦率地说，人们在享用人工智能技术高效便捷的同时，其所带来潜在的法律、伦理等各种风险也日益凸显。

笔者长期从事司法工作，本文着重探讨如何平衡好人工智能产业创新发展与法律风险防范。2023年11月，首届全球人工智能安全峰会在英国召开并发布了《布莱奇利宣言》，该宣言在人工智能的共同协作和以安全为中心方面达成共识，即确保世界共同迈向人工智能安全和合乎道德地为人类服务的未来。世界主要国家都在积极推动人工智能创新发展应用，同时亦大力加强对安全风险的前瞻研究和主动预防，力图在新一轮人工智能发展浪潮中占得先机、赢得主动。如欧洲议会近期通过了《人工智能法案》授权草案，旨在促进欧洲在人工智能领域的创新能力，同时支持在整个欧盟经济中发展和采用合乎伦理且可信的人工智能。美国通过《人工智能应用的监管指南》，强调监管的科学性和灵活性，重视为人工智能应用创建“安全港”、监管豁免等。

当前，如何有效管控人工智能安全风险尚处于探索阶段，我国未来仍需进一步做好安全管理工作的前瞻性研究与战略布局，以务实审慎的态度参与和推动人工智能风险治理的国际规则制定，尤其是鼓励产业一线企业与组织的积极参与，提高我国人工智能安全与治理方案的国际话语权。

加强人工智能风险治理，必须重视标准的制定。一项与技术标准有效结合的关键技术一旦占领某行业或领域，就很容易掌握市场主动权。确立技术标准方面的领导地位是企业做大做强的关键环节。多年来，一些发达国家依托创新驱动，通过标准战略、专利战略和新产业集群战略的合力作用，维持其经济与技术强国地位。实践证明，制定标准的企业具有竞争优势，谁缺席标准制定，谁就会在未来竞争中陷于被动。当前，碳减排技术、新一代移动通信、人工智能、量子计算、新能源汽车等领域的标准制定方兴未艾，人工智能亟须借助标准优势提高治理能力，只有明确清晰且适应人工智能发展的标准化体系，才能实现协同人工智能的产业力量和多方共治的愿望。可以说，标准制定权竞争已成为大国博弈和全球治理变革的重要体现，标准化进程和核心专利布局是赢得竞争的关键。

目前，国际上人工智能现有标准主要集中在人工智能技术、应用领域的通用标准，而涉及人工智能安全、伦理、隐私保护等方面的安全标准，大多处于研究阶段。我国虽然颁布了一些与人工智能标准化体系建设相关的政策文件，但与人工智能自身安全或基础共性相关安全标准的研究则不足。国际标准具有决定产业发展的技术规则和未来方向，国际组织是各领域标准制定主体，未来我国应积极参与人工智能领域相关国际组织的标准制定，将中国标准纳入国际标准，主动掌握更大的规则话语权，促进本国人工智能产业发展。

加强人工智能风险治理，要加强人工智能国际合作。当前国际竞争形势复杂多变，必须放眼世界和未来。一方面以大模型训练为代表的新兴技术和应用快速崛起、反复迭代，助推数据量和算力需求爆炸性增长，亟须在理论架构和软硬件层面实现质的飞跃，解决人工智能技术瓶颈、促进人工智能成熟发展，离不开国际交流与合作；另一方面人工智能在促进生产力水平提高的同时，也带来了权益侵害、隐蔽犯罪和认知混乱等客观风险，构建可信向善的人工智能亦离不开国际社会的共同协作。首届全球人工智能安全峰会虽对此达成了共识，但仍存在不少局限。

为此，我国应加快整合国内人工智能产业、政府及专家资源，推动完善符合我国国情、适应全球化发展的人工智能法律制度体系，推行更加公开开放的政策和实践，在国家战略层面对人工智能创新发展和安全进行系统布局、主动谋划，推进标准建设、行业协同、人才培养、国际交流等工作，提升我国人工智能创新发展与安全的综合能力，把握人工智能新发展阶段国际竞争的主动权，打造竞争新优势、开拓发展新空间。此外，实现上述目标，还需跟踪最新技术成果，加强与先进国家和领军企业开展技术研究国际合作，共享治理经验，共同应对人工智能创新应用中的安全问题和伦理影响，切实保障人工智能真正造福人类。

（作者：宋建立，系最高人民检察院知识产权检察办公室副主任）