• 我的订阅
  • 科技

深度合成技术不能成为某些人的骗术

类别:科技 发布时间:2022-12-26 02:10:00 来源:每日看点快看

本文转自:兰州晚报

■一针见血

深度合成技术不能成为某些人的骗术

过去人们常说,有图有真相。现在,人们会说,有视频、音频为证。但是,小马飞刀告诉大家,很多时候,伪造的视频已经做到了肉眼无法分辨的程度,“换脸术”“变声术”早已不是什么新鲜事了。

为什么要和大家聊聊这个话题呢?先来看一则新闻:国家互联网信息办公室、工业和信息化部、公安部近日联合发布《互联网信息服务深度合成管理规定》,强调不得利用深度合成服务从事法律、行政法规禁止的活动,要求深度合成服务提供者落实信息安全主体责任,规定将于2023年1月10日起施行。

什么是深度合成技术?简单地说,就是指利用以深度学习、虚拟现实为代表的生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术,包括文本转语音、音乐生成、场景声编辑、人脸生成、人脸替换、图像增强等技术。深度合成技术最大的特点之一是“以假乱真”,其通过人工智能和大数据算法合成的虚拟数据具有极佳的视觉、听觉等效果,能够使人难辨真假。可以说,深度合成技术丰富了网络内容形式,进一步释放新技术新应用发展活力。当前,深度合成技术已经在音乐、影视、综合娱乐、社交等多个行业的场景中被实际推广应用。

但是,部分深度合成技术应用缺乏规范,对国家安全、社会稳定和公民合法权益带来风险挑战。特别是深度合成内容制作的技术门槛越来越低,普通人仅需少量的图像、视频、音频等样本数据,利用简便易用的合成工具,就能模糊真实和虚拟的边界,甚至利用深度合成技术制造虚假视频、虚假音频进行诬陷、诽谤、诈骗、勒索等违法行为。

面对深度合成这把双刃剑,如何规范深度合成技术应用,最大限度地趋利避害?小马飞刀以为,深度合成技术真正危险的是其对社会信任关系的严重破坏。信任关系的存在,对于任何个体、社群来说都是无比重要的。要知道,信任是自古以来人类社会存在的基础之一。此次发布的规定通过相关制度设计,科学精准地回应了深度合成服务应用发展对国家、社会及个人带来的风险挑战,为促进新技术新应用的规范发展提供了有益范例。尤其是规定中一系列具有针对性和实效性的要求,划出清晰红线,体现规制乱象的决心,有助于维护清朗的网络生态。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2022-12-26 12:45:14

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

震惊!\\\
...,利用名人的知名度及影响力造假推介,不少政商名人被骗术用深度伪造技术伪冒,包括特区行政长官李家超、香港富商李嘉诚和Tesla行政总裁马斯克。中国香港特区政府于1月24日严正澄
2024-02-07 00:10:00
面对新技术“浪潮”,如何筑牢“安全堤”?
...把钱转出去了。在美亚柏科展区,工作人员演示了这一“骗术”。对此,现场工作人员表示,目前,美亚柏科自主研发了深度伪造检测鉴定平台,可以进行智能检测和识别伪造的视频,助力监管部门
2023-09-13 10:53:00
直播送加密货币?马斯克深度伪造视频骗局在网上泛滥
...的骗局。Mashable 也曾报道过 4 月份利用日食热度实施相同骗术的案例,此外,社交媒体平台 Reddit 上也充斥着大量虚假的马斯克直播视频。多年来,针对社交媒体上马斯
2024-06-24 13:44:00
...带来欢乐的同时,也带来了一种名为“AI换脸诈骗”的新骗术。前不久,国家金融监督管理总局北京监管局发布谨防“AI换脸”等新型欺诈手段的风险提示,这种骗术如何防?一起关注——青岛
2023-11-05 09:43:00
...于AI的钓鱼邮件增长1000%。人工智能技术不仅可以让各种骗术“有图有真相”,甚至还能“有视频”,这让骗子伪造的身份看似更加“可信”,令普通老百姓防不胜防。在前段时间香港警方
2024-06-16 21:12:00
本文转自:中国国防报当眼见不再为实——警惕深度伪造的军事应用常言道,眼见为实。而在AI时代,这句话可能要打上一个问号。随着内容生成技术的发展成熟,基于深度学习的深度伪造技术愈发让
2024-05-21 02:09:00
规范深度合成技术中国走在全球前列(专家解读)
...,参观者体验AI“换脸”。新华社记者 毛思倩摄中国规范深度合成技术的新规定《互联网信息服务深度合成管理规定》自1月10日起施行。法新社报道称,新规定要求深度合成服务提供者对使
2023-01-30 05:36:00
通过深度合成服务算法备案,九方智投乘风破浪,智能投顾正当其时
...权、个人隐私信息泄露等隐患。为了规范互联网信息服务深度合成活动,弘扬社会主义核心价值观,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益,国家互联网信息办公室制
2024-05-24 16:01:00
村里又现“坑农黑手”!“量子”新骗术曝光
...本无法达成的,大家不要受骗上当。这些伪科学和营销的骗术,正在部分农村地区流行,建议市场监督部门在这个春耕农忙之际展开的农资打假行动中,不仅要管假农资,更不能放过这些骗农坑农的
2024-04-22 09:13:00
更多关于科技的资讯: