涉人工智能安全！官方征求意见

中新经纬3月27日电 据中国信通院网站27日消息，工业和信息化部人工智能标准化技术委员会秘书处组织编制了《工业和信息化领域人工智能安全治理标准体系建设指南(2025)(征求意见稿)》(以下简称《指南》)，现面向社会公开征求意见。

近年来，我国人工智能产业在技术创新、产品创造和行业应用等方面实现快速发展，在人工智能安全治理标准制定方面也取得了一定进展，但仍面临数据安全、网络安全等方面挑战。《指南》提出了2个阶段的建设目标，具体来看：

短期目标(1-2年)：急用先行，快速突破。初步构建工业和信息化领域人工智能安全标准体系框架，明确标准体系的总体架构、分类和关键标准领域。制定一批急需急用的标准，为行业提供基本的安全规范和技术指导。推动相关标准的试点应用，在部分重点企业和项目中开展标准实施的验证和反馈工作，及时发现和解决标准在应用过程中存在的问题，为标准的完善和推广奠定基础。

长期目标(3-5年)：全面保障，产业落地。完善工业和信息化领域人工智能安全标准体系，补充和细化各领域的安全标准，涵盖人工智能系统的设计、开发、部署、运行、维护等全生命周期，覆盖工业和信息化领域人工智能应用的各个方面，并促进与国际标准的对接协调。同时，加强标准的推广应用，规范工业和信息化产业主体人工智能应用，提高行业整体的安全水平，为传统产业的高端化升级和前沿技术的产业化落地提供有力保障。

智算中心安全方面，《指南》提到，规范面向人工智能的算力中心安全要求，包括面向人工智能的大规模计算集群、新型数据中心、智算中心、算力网络等基础设施的安全要求，访问控制、加密传输等网络安全、数据安全、信息安全技术要求标准，以及安全防护、应急响应等管理标准。

在应用安全上，《指南》提及了六方面内容：

1. 新型工业化应用安全。规范人工智能技术在制造业全流程智能化的应用安全要求，包括工业研发设计、中试验证、生产制造、营销服务、运营管理等制造业全流程网络安全防护、评测指标与方法、安全运营、风险评估等标准。

2. 行业应用安全。规范人工智能在不同行业中的应用安全要求，涵盖人工智能行业应用安全开发、监控审计等能力评估，人工智能应用的安全架构框架要求，应用数据隐私保护、合规性要求规范，人工智能应用的安全测试评估方法。

3. 智能产品安全。规范人工智能技术和产品在具体应用场景下的安全要求，包括智能机器人、智能运载工具、智能移动终端、数字人、智能系统、生物特征识别终端等智能产品安全防护与检测标准。

4. 智能服务安全。规范面向特定业务场景提供的人工智能服务安全保障要求，包括智能软件开发安全、智能设计安全、模型即服务安全、生成式人工智能服务安全、生物特征识别服务安全、智能产品辅助操作安全、智能服务安全运营、智能服务安全风险评估、智能服务安全保障能力评价等标准。

5. 智能体安全。规范以通用大模型为核心的智能体实例安全要求，包括智能体内生安全、智能体数据接口安全、人机协作安全、智能体自主操作安全、多智能体协作安全等标准。

6. 信息安全。规范深度合成、生成式人工智能等在应用过程中的内容安全等方面的要求，制定安全规范和评估方法。规范利用深度合成和生成式人工智能技术生成内容、算法审核及评估、合成鉴伪检测技术等内容管理的安全要求，包括生成内容的模型引导、模板制作、内容审核等方面的技术规范要求，算法审核及评估的算法机制机理审核、信息发布审核、涉生成违法违规内容审查等能力评估，合成鉴伪检测技术的测评要求、评测方法和工具箱、指标体系等评价标准。(中新经纬APP)

来源：中新经纬

编辑：付健青

广告等商务合作，请点击这里

未经过正式授权严禁转载本文，侵权必究