• 我的订阅
  • 国内

全流程安全管理打造可信赖的人工智能技术

类别:国内 发布时间:2025-03-21 03:16:00 来源:国际时事讲解

四部门联合发布《人工智能生成合成内容标识办法》

全流程安全管理打造可信赖的人工智能技术

核心阅读

伴随标识管理与算法备案、安全评估等机制逐步实现有机衔接,生成合成内容标识合规有望成为相关部门开展人工智能监督检查、专项行动的重点关注领域。

本报记者 刘欣

利用人工智能“换脸”“拟声”冒充亲友实施诈骗,借助人工智能合成的假视频冒充名医、名人进行虚假宣传,通过人工智能生成谣言后在网上传播……越来越多人工智能生成的信息,充斥在网络中,真假难辨。

近年来,人工智能技术快速发展,为生成合成文字、图片、音频、视频等信息提供了便利工具,海量信息得以快速生成合成并在网络平台传播,在促进经济社会发展的同时,也产生了生成合成技术滥用、虚假信息传播扩散加剧等问题,引发社会各界的关注。

为了促进人工智能健康发展,规范人工智能生成合成内容标识,保护公民、法人和其他组织合法权益,维护社会公共利益,近日,国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》(以下简称《标识办法》),自2025年9月1日起施行。

推动建立新技术安全体系

《标识办法》重点解决“哪些是生成的”“谁生成的”“从哪里生成的”等问题,推动由生成到传播各环节的全流程安全管理,力争打造可信赖的人工智能技术。

据联合国高级别人工智能咨询机构中方专家、中国政法大学数据法治研究院教授张凌寒介绍,在人工智能生成合成内容的生产环节,服务提供者应对生成合成内容添加标识。服务提供者应对文本、图片、音频、视频、虚拟场景等典型应用场景的生成合成内容添加显式标识,并在生成合成内容的文件元数据中添加隐式标识,以明确内容属性、服务提供者信息等内容。

在人工智能生成合成内容的传播环节,不同主体应对标识的合规性进行确认。服务提供者在提供生成合成内容下载、复制、导出等服务时,应当确保文件中含有满足要求的显式标识。网络信息内容传播平台应当核验文件元数据中是否含有隐式标识,并采取适当方式在发布内容周边添加显著的提示标识,明确提醒用户。互联网应用程序分发平台在应用程序上架或上线审核时,应核验生成合成内容标识相关材料。

在人工智能生成合成内容的使用环节,用户同样应履行标识义务。服务提供者应当在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容,并提示用户仔细阅读并理解相关的标识管理要求。用户向网络信息内容传播平台上传生成合成内容时,应当主动声明并使用平台提供的标识功能进行标识。

国家计算机网络应急技术处理协调中心正高级工程师张震表示,《标识办法》是对《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》的继承和延伸,从人工智能技术特性出发,在生成合成标识这一人工智能安全治理关键上提出了针对性的管理思路,将成为我国建立健全人工智能新技术安全体系的重要推动力。

“《标识办法》进一步明确了人工智能生成合成内容全生命周期履行标识义务的具体要求与主体责任,完善了我国生成式人工智能的治理框架。”张凌寒说。

张震认为,《标识办法》充分彰显了监管理念的与时俱进,从传统的严格监管转向更加灵活的引导与规范,既尊重了技术创新的内在规律,又体现对潜在风险的有效防范。

同步发布强制性国家标准

为推动《标识办法》落地实施,强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》(以下简称《标识标准》)同步发布。

国家网信办有关负责人介绍说,《标识办法》主要从立法层面提出管理要求,明确生成合成内容制作传播各主体的责任义务,为促进人工智能技术创新发展,对具体实施操作不作要求。《标识标准》以强制性国家标准形式制定实施,主要提出强制执行部分的标识具体实施方式和操作方法,两者同步推出,于2025年9月1日同步实施,以更好地指导相关主体规范开展标识活动。

“《标识标准》作为《标识办法》的补充,明确了生成合成内容标识应当遵循的技术方法,为产业落地提供了参考依据。”张震说。

在中国电子技术标准化研究院副院长范科峰看来,此次《标识办法》《标识标准》的协同发布,破解了以往治理中管理规范与技术标准衔接不畅的问题,形成了“制度牵引技术落地,技术固化制度要求”的治理闭环。

作为我国人工智能领域首部“办法+强标”组合拳,其创新性体现在三个维度:管理维度明确生成、传播、分发全链条主体责任;监管维度建立审核、监测、追责的闭环机制;技术维度规范显隐标识体系并预留创新空间。范科峰说,“这种三位一体的治理架构,既通过管理机制明确责任边界,又依托监管举措筑牢安全防线,更以技术标准固化治理要求,为人工智能安全治理提供了清晰的实施路径。”

规范人工智能生成合成内容标识的举措还有许多。全国网络安全标准化技术委员会针对生成合成服务提供者和内容传播服务提供者的平台编码,组织起草了配套实践指南《网络安全标准实践指南——人工智能生成合成内容标识 服务提供者编码规则》,已于3月14日正式获批发布,为相关主体开展文件元数据隐式标识提供了编码指引。

此外,全国网络安全标准化技术委员会正在就各文件格式的元数据标识规范、各应用场景的标识方法等组织编制一系列推荐性标准、实践指南,将在《标识办法》发布后逐步推出。

全社会凝心聚力协同配合

《标识办法》《标识标准》的发布,标志着我国在人工智能安全治理领域迈出了重要的一步。推动《标识办法》《标识标准》落地的重要性不言而喻。

“考虑到企业需要时间充分理解相关规定和标准规范,有针对性地开展能力建设和功能研发,基于标识技术实施的复杂程度、试点试行的实践经验,设定《标识办法》和《标识标准》6个月左右的施行过渡期。”国家网信办有关负责人说。

“《标识办法》和《标识标准》的落地离不开全社会的凝心聚力和协同配合。”中国工程院院士、浙江大学教授陈纯说,地方主管部门、高校、科研机构、企业可共同参与,充分利用新媒体、新渠道面向全社会进行大力宣贯,形成标识工作先行的多点协同内容治理网络,推动标识工作行稳致远。此外,有必要建立全国性的内容标识公共服务平台,以可视可交互的实际操练形式,配合口头宣贯,促进公众和产业深入理解标识工作。

“可以预见,我国人工智能安全执法将延续重点事项监管、促进产业有序发展的方向。”公安部第三研究所副所长金波认为,伴随标识管理与算法备案、安全评估等机制逐步实现有机衔接,生成合成内容标识合规有望成为相关部门开展人工智能监督检查、专项行动的重点关注领域。在此进程中,一系列深层次问题亟待审慎思考与妥善解决——如何平衡发展与安全、创新与责任、公益与私益等多元目标的内在张力,怎样达成不同执法部门、不同层级、不同地域执法的一致性、协调性,又该通过何种路径提升执法的专业化、精细化、智慧化水平,从而培育出安全、开放、公平、符合国情的人工智能产业生态环境。这些都是标识管理中需要深入探究的重要课题。

“此外,‘人的因素’应融入人工智能标识管理的全过程,着重提升公众对于信息内容真实性、来源可追溯性的批判性评估能力,无疑是重中之重。积极培育公众人工智能素养,确保人工智能技术成果普惠共享,这也是应有之义。”金波说。

张凌寒认为,目前的人工智能生成合成内容标识制度主要关注于“是否机器生成”的形式判断,随着标识技术的进步与发展,未来标识制度能够发挥更为丰富的功能,从形式判断逐渐转向“是否足够可靠”的质量判断,进一步促进行业健康发展。【编辑:杨亚龙】

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2025-03-21 08:45:09

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

旷视持续践行“负责任AI”发展理念
本文转自:中国经济网人工智能是新一轮科技革命和产业变革的重要驱动力量,为促进人工智能健康发展,我国相继发布《新一代人工智能治理原则》《新一代人工智能伦理规范》等文件,明确提出发展
2023-01-11 17:36:00
人工智能安全可信护航计划启动
...心消息,2月13日,2023中关村论坛首场系列活动——北京人工智能产业创新发展大会在北京中关村展示中心举行,会上举行了“人工智能安全可信护航计划”(以下简称“护航计划”)启动
2023-02-14 19:18:00
动码印章搭载AI引擎,筑牢教育行业数字化转型安全基石
...章以前沿科技之力强势赋能,深度融合物联网、大数据、人工智能以及区块链等先进技术,为教育文件筑牢安全防线,赋予其全流程可溯源、信息不可篡改的安全保障,确保数据在传输与存储过程中
2025-04-03 15:45:00
云测数据入选首批“人工智能安全可信护航计划”合作伙伴单位
2月13日,2023中关村论坛首场系列活动——北京人工智能产业创新发展大会在北京中关村展示中心举行。本次大会由北京市科委、中关村管委会、北京市经济与信息化局、北京市科学技术协会与
2023-02-15 19:00:00
...自:中国新闻网中新网北京5月23日电(记者 张素)如何重塑人工智能治理模式、确立人工智能治理原则?怎样匹配人工智能政策、程序和标准?怎样开展人工智能风险评估、衡量人工智能治理
2024-05-23 22:24:00
可信AI-人工智能背景调查新趋势
...研究院联合主办,南京经济技术开发区管理委员会、中国人工智能产业发展联盟共同承办的“2023南京人工智能产业发展大会(NAIC2023)”在汉府饭店召开,这已是南京第六次牵头举
2023-09-22 16:35:00
AI时代发电厂在京浮出水面!国产芯片集结,智能算力开箱即用
人工智能毫无疑问是当今一项重要议题,通过大模型、垂类应用、智能体等多种方式推动着数字经济的发展。然而,服务AI的基础设施——算力和数据,是限制人工智能发展的瓶颈,也成了进一步讨论
2024-08-05 09:34:00
本文转自:人民网-观点频道李白杨近年来,以生成式人工智能、脑机接口、人形机器人等颠覆性智能技术的飞速发展,我们的生产、生活方式乃至社会治理模式都迎来重要变革期。然而,技术的快速发
2024-04-03 14:37:00
实在智能RPA数字员工与浪潮信息AIStation完成适配认证
...、便捷对接、高效调度、全流程自动化、高时效性、全域可信等特点,可以协助业务人员处理日常各项繁琐、重复的操作,释放人力资源。实在智能是中国AI准独角兽、RPA行业头部企业和超自
2023-07-14 12:00:00
更多关于国内的资讯:
德州市宁津县津城街道:绷紧“安全弦” 守牢“安全线”
鲁网10月31日讯(记者 逯广宇 实习记者 李安琦 通讯员 傅朝阳)连日来,德州市宁津县津城街道开展安全生产隐患大排查大整治行动
2025-10-31 11:00:00
中建中新安装分公司开展“巧手传廉意 佳节守清风”廉洁主题活动
为进一步筑牢职工廉洁思想防线,营造崇廉尚俭的节日氛围,中建中新安装分公司组织开展了廉洁主题剪纸与廉洁主题珐琅挂件制作活动
2025-10-31 11:01:00
省级荣誉!聊城市东昌府区实验幼儿园拟入选省级“书香校园”典型案例
鲁网10月31日讯10月27日,山东省教育厅网站公示关于省级“书香校园”典型案例名单,经各市遴选推荐和省级专家初审、复审
2025-10-31 11:01:00
喜报 | 山东省地矿局二四八大队提案荣获全省地质系统竞赛三等奖
鲁网10月31日讯欣闻捷报,倍感振奋!山东省地质工会于2025年10月组织开展的“履职献良策 创新促发展”职工代表提案竞赛中
2025-10-31 11:01:00
严打、宣防、控源!聊城公安打出反诈“组合拳”
鲁网10月31日讯(记者 泮晓阳)10月30日下午,聊城市政府新闻办公室召开“‘十四五’发展看聊城”系列主题新闻发布会(十)“公安机关护航高质量发展”专场
2025-10-31 11:01:00
“民天农谷”释放“新活力”:德州市宁津县津城街道借“绿沃川”产业项目发力,打造乡村振兴“新样板”
鲁网10月31日讯(记者 赵洪斌 实习记者 李安琦 通讯员 吴浩然 殷梦雪 刘飞飞)“看着温室大棚一天天建起来,心里特别期待
2025-10-31 11:01:00
山东省地矿局七队组织离退休职工参加临沂市老年人太极拳教学骨干培训班
鲁网10月31日讯为进一步弘扬太极传统文化,促进老年人身心健康,提高老年人健康生活幸福指数,近期,山东省地矿局七队组织两名离退休太极拳爱好者参加了临沂市老体协组织的老年人太极拳教学骨干培训班
2025-10-31 11:01:00
本周六相约南京,多重优惠等着你“苏超”决赛夜,“惠享”全城嘉年华□南京日报/紫金山新闻记者黄琳燕本周六,江苏省城市足球联赛(“苏超”)决赛将在南京奥体中心激情开战
2025-10-31 08:00:00
元通商圈地下空间联通项目一期完工
元通商圈地下空间联通项目一期完工南京结合轨道交通优化立体慢行系统图为元通地下连通工程一期出入口元通站8号出口。 南京日报/紫金山新闻记者 沐剑平 摄□南京日报/紫金山新闻记者 何钢吴春霞“没想到这里多了3个地铁出入口
2025-10-31 08:00:00
南报网讯(通讯员毛欣悦记者张希)喝一杯咖啡的时间,就可为一辆车蓄满电。继去年全市首个光储超充放站在江宁开发区管委会投运之后
2025-10-31 08:01:00
南京3年受理涉共建“一带一路”国际商事案件140件标的额超70亿元涉外审判专业,经贸往来安心南报网讯(记者马忆玲)记者昨天从市中级法院召开的新闻发布会上获悉
2025-10-31 08:01:00
□南京日报/紫金山新闻记者 集体采写党的二十届四中全会对“十五五”时期经济社会发展作出顶层设计和战略擘画,将“加快农业农村现代化
2025-10-31 08:01:00
地方文明实践和驻区高校资源深度融合江宁“幸福校校乐”打通文明实践供需通道南报网讯(通讯员包丽记者张希)为进一步深化高校志愿服务与新时代文明实践的融合发展
2025-10-31 08:01:00
□南京日报/紫金山新闻记者 余梦迪 通讯员徐佳肖日东“干这行16年,和姐妹们聊天,大家最希望的就是权益有保障、技能有提升
2025-10-31 08:01:00
南京交警发布“苏超”决赛观赛出行提醒制定20余条线路让球迷大巴有序出行南报网讯(通讯员宁交轩记者王茸)11月1日晚,“苏超”决赛将在南京奥体中心举行
2025-10-31 08:01:00