• 我的订阅
  • 科技

深度合成内容检测平台AIGC-X发布

类别:科技 发布时间:2023-04-23 15:51:00 来源:人民资讯

本文转自:人民网

人民网南京4月23日电(马晓波)人工智能生成的文字、图片、视频能否被精准识别出来?21日晚,在南京举办的2023中国网络媒体论坛“八点见”项目发布会上,传播内容认知全国重点实验室发布“深度合成内容检测平台AIGC—X”。这一平台面向生成式人工智能的治理需求,能够对AI生成文本、图形、视频内容进行精准识别,防范伪造风险,在保护内容版权、防范虚假信息、学术造假检测等方面有着广阔的应用前景。

深度合成内容检测平台AIGC-X发布

不久前,网络热传的“杭州市3月1日取消限行”被确认为假新闻,这是源于AI生成文本的一次误传播。当下,生成式AI技术正在重构信息生产、流通、消费流程,随之而来的伦理规范、内容侵权、信息造假等风险挑战不容忽视。

4月11日,国家网信办发布《生成式人工智能服务管理办法(征求意见稿)》,要求AI生成的图片、视频等内容应当进行显著标识。AIGC-X可以服务于媒体和互联网平台的内容风控需求,提供AI生成内容标识、虚假信息识别等服务,还可以协助教育、科研领域防范学术不端行为,进行内容抄袭、论文造假的智能化检测。

《生成式人工智能服务管理办法(征求意见稿)》还规定,我国生成式AI需要符合五方面要求,包括体现社会主义核心价值观、避免歧视、公平、准确负责、隐私及产权保护,体现了国家对生成式AI在意识形态和法律伦理方面的要求。传播内容认知全国重点实验室负责人介绍,基于AIGC-X的深度合成内容检测能力,实验室建立了一套AI生成内容综合测评体系,构建了高质量的“主流价值语料库”,为人工智能大模型训练提供符合上述五个方面要求的语料数据支撑,以促进我国人工智能科研与应用加快发展。

传播内容认知全国重点实验室是人民日报社主管、依托人民网建设的面向认知智能科研的国家战略科技力量。相关成果均第一时间在人民网进行应用转化。据介绍,AIGC-X于3月1日面向全网开放公测,截至4月20日,平台检测服务调用次数近75万次。专注于内容风控业务的人民网信息技术公司已基于AIGC-X开发了相关服务,通过“人民审校”微信公众号对外发布。公测数据表明,AIGC-X对各类人工智能生成内容平台检测的准确率均超过90%。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-04-23 17:45:40

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

新华网举行“生成式人工智能内容安全与模型安全检测平台”(AIGC-Safe)邀请测试发布会
...强大创新实力的互联网上市企业,持续推进科技与传媒的深度融合,积极服务国家数字经济战略,践行使命担当。由中央网信办违法和不良信息举报中心主办、新华网承办的中国互联网联合辟谣平台
2023-07-12 17:43:00
“AI时代做个真人也是有难度的”,真人出镜为啥被标注了“疑似AI生成”
...要求,除了要求用户主动添加外,依据《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》,服务者提供者也应当对图片、视频等生成内容进行标识。不过平台检测系统把真
2024-06-29 09:28:00
AI发展快,系紧“安全带”(“融”观中国)
...活”逝者引发争议……随着人工智能技术的不断发展,AI深度伪造的例子屡见不鲜。不少网民惊呼,以前总说“有图有真相”,如今我们连图片和视频也不敢轻易相信了。AI深度伪造是怎么回事
2024-06-10 03:36:00
春节临近警惕“AI诈骗” 识别AI造假,用“魔法”打败“魔法”
...I诈骗手法出现新花样。随着生成式AI的迅速发展,全新的深度合成技术(Deepfake)不仅能“模仿我的脸”,还能“模仿我的声音、表情和动作”。如何“以技术规制技术”、更好地保
2024-02-07 15:22:00
生命未来研究所等发起倡议活动,呼吁彻底禁止深度伪造
最近,在打击深度伪造(Deepfake)的一系列行动中,出现了一些非常令人鼓舞的消息。几周前,美国联邦贸易委员会(FTC
2024-02-29 10:17:00
号称准确率达98%的AI图片检测工具开启内测,这能解决AI图片混淆视听的问题吗
...出台《关于加强科技伦理治理的意见》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等多项法规和政策;4月23日,中央网信办再次强调要加强信息来源标注展示,
2024-05-10 16:12:00
亚马逊谷歌IBM微软等巨头刚刚承诺一同对抗人工智能选举干扰
...时代。然而,AI的快速进步意味着我们将面临令人信服的深度造假、高度针对性的欺诈信息以及更加复杂的网络安全威胁。2024年,全球有50多个国家/地区将举行大规模选举,包括美国、
2024-02-19 12:00:00
一文详解AIGC:忘记概念,只聊落地
...模型,可以用来进行自然语言理解任务。PyTorch:开源的深度学习框架,支持各种神经网络模型的学习和部署,适合处理图像、文本、音频等问题。TensorFlow:另一个流行的深
2023-06-10 15:00:00
京东云智能编程助手与安全大模型入选CCIA人工智能优秀案例
...正的价值。未来,京东云将持续致力于跨越大模型与产业深度融合,抵达产业智能。
2024-04-03 11:07:00
更多关于科技的资讯: