守护AI安全 业界推动行业自律

本文转自：人民网

人民网北京12月29日电 （记者王绍绍）人工智能释放技术价值红利的同时带来复杂风险挑战，如何平衡发展与安全已成为牵动人类命运共同体的重大课题。为把握机遇，应对挑战，中国人工智能产业发展联盟（以下简称“联盟”）近日起草发布《人工智能安全承诺》（以下简称“《承诺》”），旨在推动行业自律，建立高效协同的治理机制，协力共促人工智能应用以人为本，智能向善。

近日，在2025中国信通院深度观察报告会主论坛上，首批17家企业正式签署《承诺》。《承诺》凝聚产业界守护人工智能安全、促进人工智能向善的基本共识，旨在共同应对技术变革带来的复杂挑战。

相关负责人介绍，未来，中国信通院将依托联盟继续推动《承诺》广泛适用落实、敦促企业披露安全实践，期冀以高水平安全保障高质量发展，携手构建人工智能治理生态，协力共促人工智能健康发展。

《人工智能安全承诺》全文内容：

人工智能浪潮席卷全球，积极释放技术价值红利，对全球经济社会发展和人类文明进步产生深远影响。我们也清晰认知到，人工智能带来难以预知的各种风险挑战。为把握新一轮发展机遇，我们郑重发起《人工智能安全承诺》，通过产业自律，以高水平安全保障高质量发展，协力共促人工智能稳健发展。我们深知，自律承诺是获得社会信任的关键要素，我们将以本承诺作为行动守则，接受社会各界监督，不断提升优化，促进人工智能技术应用以人为本，智能向善。

承诺一：设置安全团队或组织架构，构建安全风险管理机制。内部设有专业团队负责开展人工智能风险评估、安全治理等工作，明确安全负责人。主动设定符合实际需求的安全风险基线，开源时采取相应的安全措施，开展贯穿人工智能开发部署全生命周期的风险管理，明确风险识别和应对流程及措施。

承诺二：开展模型安全测试，提升模型效果与安全可靠性。通过专业性的仿真测试团队，在发布、更新人工智能模型之前对其进行测试。对于大模型，重点围绕其通用理解、推理和决策能力，以及其在工业、教育、医疗、金融、法律等场景下表现出的能力开展安全性和可靠性测试。

承诺三：采取措施保障训练数据和业务数据安全。制定数据安全防护制度，配套建立防护技术措施，发现并及时处置数据投毒的情况，把控训练数据的准确性与可靠性；对业务数据进行加密存储与访问控制，确保商业秘密、用户隐私及用户上传的知识库仅在授权下访问，不被人工智能模型非法输出，保障数据安全与隐私权益。

承诺四：提升基础设施安全。建立人工智能系统部署的软硬件安全监测和防护能力，实施定期和动态的安全渗透测试，模拟各种潜在的风险场景，识别并报告环境中的安全隐患，研判可能导致的各种风险。建立基础设施安全应急响应机制，包括应急处理流程、责任分配以及事后改进方案。

承诺五：增强模型透明度。主动披露安全治理实践举措，提升对各利益攸关方的透明度。公开披露模型的功能、适用领域以及局限性。通过模型说明、服务协议等方式，向公众披露可能涵盖的风险。

承诺六：积极开展前沿安全研究。研判前沿应用领域的安全风险，针对智能体、具身智能等前沿应用可能存在的偏见歧视、不可控等方面进行风险研判，向公众披露研究成果。研究开发和部署智能向善的人工智能系统，以帮助应对社会面临的最大挑战。

据了解，接下来，中国信通院将联合人工智能产业界各方合作伙伴共同携手应对人工智能技术带来的安全挑战，推动人工智能产业的健康可持续发展。