• 我的订阅
  • 科技

深度合成技术不能成为某些人的骗术

类别:科技 发布时间:2022-12-26 02:10:00 来源:每日看点快看

本文转自:兰州晚报

■一针见血

深度合成技术不能成为某些人的骗术

过去人们常说,有图有真相。现在,人们会说,有视频、音频为证。但是,小马飞刀告诉大家,很多时候,伪造的视频已经做到了肉眼无法分辨的程度,“换脸术”“变声术”早已不是什么新鲜事了。

为什么要和大家聊聊这个话题呢?先来看一则新闻:国家互联网信息办公室、工业和信息化部、公安部近日联合发布《互联网信息服务深度合成管理规定》,强调不得利用深度合成服务从事法律、行政法规禁止的活动,要求深度合成服务提供者落实信息安全主体责任,规定将于2023年1月10日起施行。

什么是深度合成技术?简单地说,就是指利用以深度学习、虚拟现实为代表的生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术,包括文本转语音、音乐生成、场景声编辑、人脸生成、人脸替换、图像增强等技术。深度合成技术最大的特点之一是“以假乱真”,其通过人工智能和大数据算法合成的虚拟数据具有极佳的视觉、听觉等效果,能够使人难辨真假。可以说,深度合成技术丰富了网络内容形式,进一步释放新技术新应用发展活力。当前,深度合成技术已经在音乐、影视、综合娱乐、社交等多个行业的场景中被实际推广应用。

但是,部分深度合成技术应用缺乏规范,对国家安全、社会稳定和公民合法权益带来风险挑战。特别是深度合成内容制作的技术门槛越来越低,普通人仅需少量的图像、视频、音频等样本数据,利用简便易用的合成工具,就能模糊真实和虚拟的边界,甚至利用深度合成技术制造虚假视频、虚假音频进行诬陷、诽谤、诈骗、勒索等违法行为。

面对深度合成这把双刃剑,如何规范深度合成技术应用,最大限度地趋利避害?小马飞刀以为,深度合成技术真正危险的是其对社会信任关系的严重破坏。信任关系的存在,对于任何个体、社群来说都是无比重要的。要知道,信任是自古以来人类社会存在的基础之一。此次发布的规定通过相关制度设计,科学精准地回应了深度合成服务应用发展对国家、社会及个人带来的风险挑战,为促进新技术新应用的规范发展提供了有益范例。尤其是规定中一系列具有针对性和实效性的要求,划出清晰红线,体现规制乱象的决心,有助于维护清朗的网络生态。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2022-12-26 12:45:14

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

震惊!\
...,利用名人的知名度及影响力造假推介,不少政商名人被骗术用深度伪造技术伪冒,包括特区行政长官李家超、香港富商李嘉诚和Tesla行政总裁马斯克。中国香港特区政府于1月24日严正澄
2024-02-07 00:10:00
面对新技术“浪潮”,如何筑牢“安全堤”?
...把钱转出去了。在美亚柏科展区,工作人员演示了这一“骗术”。对此,现场工作人员表示,目前,美亚柏科自主研发了深度伪造检测鉴定平台,可以进行智能检测和识别伪造的视频,助力监管部门
2023-09-13 10:53:00
直播送加密货币?马斯克深度伪造视频骗局在网上泛滥
...的骗局。Mashable 也曾报道过 4 月份利用日食热度实施相同骗术的案例,此外,社交媒体平台 Reddit 上也充斥着大量虚假的马斯克直播视频。多年来,针对社交媒体上马斯
2024-06-24 13:44:00
...带来欢乐的同时,也带来了一种名为“AI换脸诈骗”的新骗术。前不久,国家金融监督管理总局北京监管局发布谨防“AI换脸”等新型欺诈手段的风险提示,这种骗术如何防?一起关注——青岛
2023-11-05 09:43:00
...于AI的钓鱼邮件增长1000%。人工智能技术不仅可以让各种骗术“有图有真相”,甚至还能“有视频”,这让骗子伪造的身份看似更加“可信”,令普通老百姓防不胜防。在前段时间香港警方
2024-06-16 21:12:00
本文转自:中国国防报当眼见不再为实——警惕深度伪造的军事应用常言道,眼见为实。而在AI时代,这句话可能要打上一个问号。随着内容生成技术的发展成熟,基于深度学习的深度伪造技术愈发让
2024-05-21 02:09:00
村里又现“坑农黑手”!“量子”新骗术曝光
...本无法达成的,大家不要受骗上当。这些伪科学和营销的骗术,正在部分农村地区流行,建议市场监督部门在这个春耕农忙之际展开的农资打假行动中,不仅要管假农资,更不能放过这些骗农坑农的
2024-04-22 09:13:00
规范深度合成技术中国走在全球前列(专家解读)
...,参观者体验AI“换脸”。新华社记者 毛思倩摄中国规范深度合成技术的新规定《互联网信息服务深度合成管理规定》自1月10日起施行。法新社报道称,新规定要求深度合成服务提供者对使
2023-01-30 05:36:00
通过深度合成服务算法备案,九方智投乘风破浪,智能投顾正当其时
...权、个人隐私信息泄露等隐患。为了规范互联网信息服务深度合成活动,弘扬社会主义核心价值观,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益,国家互联网信息办公室制
2024-05-24 16:01:00
更多关于科技的资讯:
日常生活中,电梯是高层楼宇里不可或缺的垂直交通工具。超过80%的电梯在发生故障前都会释放“求救信号”。这些容易被忽视的异常现象
2025-11-08 05:24:00
进博会上,南京“买手团”大逛“世界超市”全球直采,优品好物装进“购物车”□南京日报/紫金山新闻记者 黄琳燕11月7日,第八届进博会7
2025-11-08 09:31:00
八赴进博彰显深耕决心!凯克携 77 年加拿大真洋牌伟博天然,以全维优势点亮健康新生态
2025 年第八届中国国际进口博览会(进博会)盛大启幕,凯克集团再度携手 webbernaturals 伟博天然荣耀参展
2025-11-08 14:40:00
双11调研:家庭日用类消费成65.89%人大促固定选择,京东成消费者下单日百和服务首选平台
双11已步入第十七个年头,消费者的心态与行为模式也发生了深刻变化。越来越多的中国家庭将双11视为进行生活规划与品质升级的关键节点
2025-11-08 14:42:00
从巴黎歌剧院到家庭客厅,海信激光电视携手 DEVIALET 帝瓦雷开启“家庭影院新世代”
法国当地时间11月4日,全球显示领军品牌海信与知名高端音响品牌 DEVIALET 帝瓦雷在巴黎举办了一场科技与艺术的跨界盛宴
2025-11-08 14:43:00
双11囤货别忘囤“快乐”!华为应用解锁花式娱乐新体验
这个双11,你的购物车是不是已经塞满了心仪的好物?从智能家电到秋冬新装,从母婴用品到家居日用。在忙着为全家人囤货的同时
2025-11-08 14:44:00
在乌镇遇见更懂你的AI,科大讯飞携星火大模型及全场景应用亮相2025世界互联网大会
当千年舟楫摇橹的乌镇,再次成为全球互联网的焦点,一场关于未来的想象正在这里变为现实。2025年11月6日至9日,以“AI共生
2025-11-08 14:44:00
工厂数智化升级,安全建设别再原地踏步!深信服安全托管常态守护
某全球知名的智能制造企业拥有多个生产基地,高智能化产线7*24H运转,而随之而来的安全挑战,却成了企业信息部门“心病”
2025-11-08 14:44:00
双11“精神囤货”指南:华为音乐、视频、阅读,承包你的快乐源泉
又是一年双十一,当购物车被各种生活好物填满,你是否想过,也该为自己的休闲娱乐体验升个级?无论是上下班通勤路上、午休小憩时刻
2025-11-08 14:44:00
11月7日,在2025年世界互联网大会“互联网之光”博览会现场,两位机器人乐手用灵巧的双手演奏钢琴,引人驻足。“我很想去拍拍他们手的细节
2025-11-08 15:52:00
蚂蚁集团CEO韩歆毅:AQ承载蚂蚁健康新使命,让看病更简单、生活更健康
11月8日,乌镇峰会上,蚂蚁集团CEO韩歆毅作为企业代表分享了在AI医疗健康领域的思考与实践。此前,继旗下AI健康应用AQ月活用户突破千万后
2025-11-08 17:00:00
近日,2025福布斯中国・最具影响力华人精英TOP100榜单公布,山西美锦能源股份有限公司董事长姚锦龙上榜。据悉,本届榜单从“产业重塑者”“价值创造者”“趋势勘探者”三大维度
2025-11-08 18:06:00
冲刺四季度 打好收官战丨湖北胜龙机械:优产线强技术 订单实现最大增长
四季度是定全年、保全局的收官季,十堰各工业企业开足马力忙生产、赶订单。湖北胜龙机械有限公司通过产线优化、技术升级、质量提升
2025-11-08 20:36:00
潮玩的本质是“快乐经济”,而非“收割经济”。近日,潮玩品牌泡泡玛特在直播中上演了意外一幕。工作人员手持售价79元的DIMOO盲盒挂链
2025-11-09 01:14:00
厦大机器人项目获“挑战杯”特等奖聚焦提升双臂机器人的自主操作能力东南网11月7日讯 (海峡导报记者 郑薇 通讯员 郭煜新)11月3日
2025-11-09 03:08:00