• 我的订阅
  • 科技

官方征意见:人工智能拟人化互动服务提供者应防范数据投毒等

类别:科技 发布时间:2025-12-28 09:18:00 来源:中新经纬

中新经纬12月27日电 据“网信中国”微信号,27日,国家互联网信息办公室起草了《人工智能拟人化互动服务管理暂行办法(征求意见稿)》,现向社会公开征求意见。

征求意见稿提出,提供和使用拟人化互动服务,应当遵守法律、行政法规,尊重社会公德和伦理道德,不得开展以下活动:

(一)生成、传播危害国家安全、损害国家荣誉和利益、破坏民族团结、开展非法宗教活动,或者散布谣言扰乱经济和社会秩序等内容;

(二)生成、传播宣扬淫秽、赌博、暴力或者教唆犯罪的内容;

(三)生成、传播侮辱或者诽谤他人,侵害他人合法权益的内容;

(四)提供严重影响用户行为的虚假承诺和损害社会人际关系的服务;

(五)通过鼓励、美化、暗示自杀自残等方式损害用户身体健康,或者通过语言暴力、情感操控等方式损害用户人格尊严与心理健康;

(六)通过算法操纵、信息误导、设置情感陷阱等方式,诱导用户作出不合理决策;

(七)诱导、套取涉密敏感信息;

(八)其他违反法律、行政法规和国家有关规定的情形。

征求意见稿明确,提供者开展预训练、优化训练等数据处理活动时,应当加强训练数据管理,遵守以下规定:

(一)使用符合社会主义核心价值观、体现中华优秀传统文化的数据集;

(二)对训练数据开展清洗、标注,增强训练数据的透明度、可靠性,防范数据投毒、数据篡改等行为;

(三)提高训练数据的多样性,通过负向采样、对抗训练等手段,提升模型生成内容安全性;

(四)利用合成数据进行模型训练和关键能力优化时,应当评估合成数据安全性;

(五)加强对训练数据的日常检查,定期对数据进行迭代升级,持续优化产品和服务的性能;

(六)保障训练数据来源合法、可追溯,采取必要措施保障数据安全,防范数据泄露风险。

另外,征求意见稿还提出,提供者应当建立未成年人模式,向用户提供未成年人模式切换、定期现实提醒、使用时长限制等个性化安全设置选项。提供者向未成年人提供情感陪伴服务时,应当取得监护人的明确同意;提供监护人控制功能,监护人可以实时接收安全风险提醒,查阅未成年人使用服务的概要信息,设置屏蔽特定角色、限制使用时长、防止充值消费等。(中新经纬APP)

来源:中新经纬

编辑:付健青

广告等商务合作,请点击这里

未经过正式授权严禁转载本文,侵权必究

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2025-12-29 05:45:06

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

国家互联网信息办公室关于《人工智能拟人化互动服务管理暂行办法(征求意见稿)》公开征求意见的通知为了促进人工智能拟人化互动服务健康发展和规范应用,依据《中华人民共和国民法典》《中华
2025-12-27 20:52:00
近年来,伴随情感计算、自然语言处理、多模态交互等人工智能技术发展,人工智能拟人化互动服务通过模拟人类人格特征、思维模式和沟通风格,实现从“机械对话”向“深度共情”跨越,成为藏在用
2026-01-01 08:09:00
明确了!国家网信办发布《人工智能生成合成内容标识办法(征求意见稿)》
...中国”微信公众号获悉,国家互联网信息办公室起草了《人工智能生成合成内容标识办法(征求意见稿)》,现向社会公开征求意见。征求意见稿提到,人工智能生成合成内容是指利用人工智能技术
2024-09-14 10:48:00
...自:人民法院报在数字技术快速迭代和普遍应用的今天,人工智能作为数字技术应用的集大成者,对现有法律制度提出了不少挑战。司法审判不仅面临不易理解的技术发展,还要将存在一定滞后性的
2024-01-04 06:06:00
不少网店用AI模特试衣?专家:应标注以避免损害消费者权益
...学教授、中国消费者权益保护法研究会副秘书长孙颖说,人工智能在电商销售领域的应用,最好是真人模特或主播利用AI技术自动更换不同款式衣服进行展示。“目前AI制作模特图,在技术上还
2023-07-30 15:21:00
七部门联手发布《生成式人工智能基础设施和公共训练暂行办法》
...业正式迎来首个监管文件。继今年4月网信办就《生成式人工智能服务管理办法(征求意见稿)》公开征求意见后,7月13日,网信办等七部门正式发布了《生成式人工智能服务管理暂行办法》(
2023-07-13 22:39:00
...运用与监管备受社会关注。近日,国家网信办就《生成式人工智能服务管理办法(征求意见稿)》(以下简称《征求意见稿》)向社会公开征求意见,拟进一步强化相关主体责任,内容涉及数据安全
2023-04-18 02:15:00
...律风险也悄然而至。隐私可能被窃取和滥用AI伴侣是指由人工智能技术驱动的可以通过与人类互动向人类提供情感支持的对话应用程序,在智能化程序中可以模拟人类伴侣,满足人类多元化需求,
2025-02-19 10:31:00
...工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》(以下简称《标识办法》),自2025年9月1日起施行。日前,国家互联网信息办公室有关负责人就《
2025-03-14 18:17:00
更多关于科技的资讯:
AI赋能千行百业一线故事(十九):从“人盯”到“数管”,产业大脑赋能传统制造
从“人盯”到“数管”,产业大脑赋能传统制造——AI赋能千行百业一线故事(十九)近日,在瑞源橡塑制品有限公司的车间内,技术人员正在调试新安装的智能化设备
2026-01-08 08:30:00
随着无人驾驶技术的不断发展,外形方方正正的功能性无人车进入我们的生活。目前,国家层面尚未对这种无人车设定统一资质要求,多个地方出台政策性文件允许无人车上路
2026-01-08 08:31:00
如何开通信用停车? 带您一图读懂
中山医院东侧嘉禾园地下停车场已纳入厦门信用停车管理平台。(市政空间公司 供图)厦门网讯(厦门日报记者 吴海奎)“开通免密支付以后
2026-01-08 08:33:00
浙江日报讯 (记者 赵静 共享联盟·温岭 王萍) 在仅约1厘米见方的玻璃基板上,比头发丝更细的金线被精准植入并焊接,形成一个能够高效处理信息数据的“微工作室”
2026-01-08 08:41:00
智造新丰景 | 雷沃智慧农业整体解决方案亮相“十四五”成就展
鲁网1月8日讯近日,由中国国家博物馆、工业和信息化部新闻宣传中心共同举办的“筑基强国路—中国制造‘十四五’成就展”在中国国家博物馆开幕
2026-01-08 09:31:00
WowNow 正式亮相 CES 2026|以 AI 驱动的端到端制造平台,让每一个想法被真正制造出来
在近日开幕的 CES 2026(国际消费电子展) 上,中国创新科技品牌 WowNow 正式亮相美国拉斯维加斯会展中心中央馆(LVCC Central Hall)21126 展位
2026-01-08 09:35:00
中国消费者报报道(杨文娴 记者张文章)福建省厦门市市场监管局自2025年初启动厦门市钨产业链供应链质量赋能行动,构建“链主主导
2026-01-08 09:50:00
中国消费者报北京讯(记者聂国春)1月7日至1月10日,2026年国际消费电子展(CES 2026)在美国拉斯维加斯会展中心举办
2026-01-08 09:50:00
中国消费者报福州讯(杨雅雯 记者张文章)1月7日,记者从福建省厦门市市场监管局获悉,厦门市产品质量监督检验院近日顺利通过CMA扩项评审
2026-01-08 09:50:00
国补新政落地 消费热潮涌动
随着2026年首批625亿元国补资金正式下达,线下市场销售火热。1月7日,记者在北京一家数码专卖店的宣传海报上看到,手机
2026-01-08 09:50:00
中国消费者报天津讯(记者万晓东)1月6日,天津市消费者协会发布《民用建筑用入户重型门支悬五金通用技术条件》团体标准,为装甲门
2026-01-08 09:50:00
杭州东站东、西广场地下六大停车场近日完成智慧化升级,上线“车位级导航”功能。这意味着,你不仅能一键导航到具体车位,停完车还能轻松找回爱车
2026-01-08 08:10:00
新一轮国补落地,浙江多家电器门店迎来“换新”客流
“有国补吗?”过去一年里,无论是在选购汽车还是添置家电时,许多消费者已经习惯带上这一问。2026年1月1日,新一轮“国补”正式开始
2026-01-08 08:10:00
1月7日,宜家中国宣布,2月2日起关闭中国七家商场,宜家宁波商场就在其中。这着实让人唏嘘,也把记者的思绪拉到了十三年前——2013年7月
2026-01-08 08:10:00
走进中北高新区企业太原晋西春雷铜业有限公司的生产车间,巨大电子屏上数据实时跳动,当前产量、工序良品率、设备状态、异常申报
2026-01-08 07:01:00