• 我的订阅
  • 科技

新华网举行“生成式人工智能内容安全与模型安全检测平台”(AIGC-Safe)邀请测试发布会

类别:科技 发布时间:2023-07-12 17:43:00 来源:每日看点快看

本文转自:新华网

由新华网联合中国科学院计算技术研究所(简称“中科院计算所”)等行业机构共同研发打造的“生成式人工智能内容安全与模型安全检测平台”(AIGC-Safe)邀请测试发布会日前在北京举行。该平台旨在联合行业权威生态伙伴共同加强AIGC行业监管,为AIGC产业安全治理和健康发展发挥重要作用。

新华网举行“生成式人工智能内容安全与模型安全检测平台”(AIGC-Safe)邀请测试发布会

邀请测试发布会现场。

在数字世界和物理世界加速融合的大背景下,生成式人工智能正在重塑甚至颠覆数字内容的生产方式和消费模式,越来越显性地影响着各行各业的变革,是未来迈入数字文明新时代不可或缺的支撑力量。今年以来,大模型技术与AIGC的快速融合发展,从技术层面提供以低边际成本、高工作效率满足海量内容个性化生产的方案,推动内容行业向更有创造力方向发展。但因其滥用而导致的对国家安全、经济发展和社会稳定的威胁与挑战也随之而来,对生成式人工智能服务的监管已成为全球治理重大课题。

新华网举行“生成式人工智能内容安全与模型安全检测平台”(AIGC-Safe)邀请测试发布会

新华网副总裁张芮宁致辞。

新华网副总裁张芮宁在致辞中表示,新华网作为新华社主办的中央重点新闻网站和具有强大创新实力的互联网上市企业,持续推进科技与传媒的深度融合,积极服务国家数字经济战略,践行使命担当。由中央网信办违法和不良信息举报中心主办、新华网承办的中国互联网联合辟谣平台,以“发布权威辟谣信息,提升网民媒介素养,营造清朗网络空间”为宗旨,初步形成“联动发现、联动澄清、联动处置、联动辟谣”的工作体系,已经成为网上权威辟谣信息的主信源、主渠道、主阵地。此次测试发布的AIGC-Safe,是新华网在AIGC安全治理中的一次重要探索。该平台有利于加强对AIGC多模态深伪内容的检测和防范,用AI守护AI,护卫行业更好发展。

新华网举行“生成式人工智能内容安全与模型安全检测平台”(AIGC-Safe)邀请测试发布会

中科院计算所党委委员王凡致辞。

中科院计算所党委委员王凡表示,新华网测试发布的AIGC-Safe,是构建“产、学、研、用”科研模式的一种尝试,是通过行业落地来检验科技的创新之举。中科院计算所将为该平台全力做好核心技术支撑,为AIGC行业的健康发展贡献力量。

新华网举行“生成式人工智能内容安全与模型安全检测平台”(AIGC-Safe)邀请测试发布会

中国科学学与科技政策研究会科研诚信与负责任创新专业委员会主任委员、中国科学院文献情报中心科研诚信研究中心副主任袁军鹏致辞。

中国科学学与科技政策研究会科研诚信与负责任创新专业委员会主任委员、中国科学院文献情报中心科研诚信研究中心副主任袁军鹏表示,AIGC在提升效率的同时也对科研生态造成了挑战,期待与各界携手,以准确、可靠的AIGC检测产品,共同推进科研科学的发展,营造诚信、公正、透明的科研环境。

新华网举行“生成式人工智能内容安全与模型安全检测平台”(AIGC-Safe)邀请测试发布会

AIGC-Safe平台首席技术专家曹娟测试发布AIGC-Safe。

AIGC-Safe平台首席技术专家曹娟现场进行了测试发布。平台产品基于国版链(国数链)的数字资产与数据要素管理技术底座,依托中科院计算所的技术积累打造,已形成AIGC深伪内容检测和模型检测两大核心能力,并可开放赋能各类AIGC检测业务场景。模型安全从训练数据安全、模型防攻击、模型输入安全三方面来保障从训练到推理的全过程;内容安全覆盖文本、图像及音视频的检测,保障内容的真实性与合规性,实现双重安全防护。

此次AIGC-Safe平台测试发布,重磅上线内容安全检测功能,以领先的检测大模型和深度伪造内容大数据为支撑。文本检测支持AI生成的鉴别;图像与视频检测可覆盖人脸生成、人脸编辑、人脸替换、表情迁移等深度合成伪造,以及AI生成、PS篡改检测;音频伪造检测支持TTS和VC音频合成检测,覆盖主流音频合成算法。AIGC-Safe平台内容安全功能检测速度快、准确率高、易于部署,有效降低产业安全技术投入成本,提高安全保护效率,可广泛应用于虚假新闻、AI换脸诈骗、活体攻击、版权内容保护和学术诚信等多种检测场景,可为媒体、教育、金融、公安等领域的AIGC安全治理保驾护航。

发布会现场设置了邀请测试环节,AIGC-Safe对参会嘉宾提供文本、图片、音频、视频等多模态AI生成或伪造的素材进行了在线实测,检测范围覆盖主流AI生成算法,准确率、响应时间等性能表现优越,获得现场嘉宾一致认可。

新华网举行“生成式人工智能内容安全与模型安全检测平台”(AIGC-Safe)邀请测试发布会

圆桌对话环节。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-07-12 21:45:05

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

科技自立自强之院士说|高金吉:人工自愈拓展高危流程工业智能制造、安健发展新途径
...运行至关重要。他认为,真正的创新源于工程实践。“从人工智能到人工自愈,从自动化到自愈化,这是未来发展的必然。我国拥有世界上最全的工业门类以及数量最多的装备,应率先开展这方面的
2024-04-15 10:37:00
2023中国国际矿业大会观察:更安全、更智能、更绿色
本文转自:新华网新华社天津10月27日电(记者刘惟真、黄江林、梁姊)走进日前在天津召开的2023中国国际矿业大会,一项项新技术、新产品纷纷亮相。随着技术迭代升级,矿业勘测生产效率
2023-10-27 16:57:00
中国应用交通大模型提升交通效率与安全
...参观者在参观小鹏飞行汽车。新华社记者 鞠焕宗 摄传统人工智能只能在交通领域实现碎片化的点状应用,如识别一个红绿灯、识别某一个违章行为等。沈抖说,想要真正破解交通行业的复杂性、
2023-09-28 09:28:00
警博会人工智能分论坛聚焦“科技兴警”新发展
...、鲁畅)日前,第11届中国国际警用装备博览会高峰论坛人工智能分论坛在京举行。论坛以“科技兴警智联安全”为主题,通过分享人工智能领域先进装备技术、探讨科技发展路径及经验成果,共
2023-05-15 14:26:00
...走廊的政策背景下,中国和巴基斯坦科研人员正通过运用人工智能技术助力巴基斯坦建造更智慧、更安全的城市。链接两国科研人员的是位于巴基斯坦首都伊斯兰堡和中国南部城市广州的中国-巴基
2024-02-08 16:50:00
阿里安全参展世界互联网大会 为“负责任的人工智能”保驾护航
...技术三个大方向的技术进展。在这其中,在AIGC(生成式人工智能)、大模型等重点领域和互联网安全有机结合方面所取得的研究突破和应用进展更是其展示的重点。近几年来,人工智能和大数
2023-11-09 17:01:00
...果展。多项精彩活动同步开启ISC 2023以“安全即服务 开启人工智能时代数字安全新范式”为主题,聚集全球安全先锋、专家智囊、行业领袖深度参与,搭建起“政产学研用”国际交流平
2023-08-12 08:30:00
本文转自:新华网新华社北京8月11日电 题:AI加持 5G赋能——智慧生活就在身边新华社记者高亢近年来,我国在5G、AI、物联网、大数据、VR等领域持续发力,促进措施接续出台,进
2023-08-11 19:32:00
...机遇,积极践行社会责任。用AI构建安全生态系统当下,人工智能技术已经发展到一个临界点,每一个从业者都有义务保障AI的安全可控。百度持续以 AI 技术保障网络生态安全,围绕算力
2023-06-06 11:14:00
更多关于科技的资讯: