• 我的订阅
  • 科技

视频“变脸”相似度达80%!AI换脸诈骗如何防范?

类别:科技 发布时间:2023-11-05 09:43:00 来源:杭州网

最近,视频网站上通过人工智能换脸,《亮剑》里的主角用英语飙起了台词,通过小程序用户也可以将自己变成电影里的人物。新技术带来欢乐的同时,也带来了一种名为“AI换脸诈骗”的新骗术。前不久,国家金融监督管理总局北京监管局发布谨防“AI换脸”等新型欺诈手段的风险提示,这种骗术如何防?一起关注——

青岛的一名大学生和他在网上认识的“女朋友”视频聊天,对方称需要资金周转,男孩打钱过去之后,发现竟然被诈骗了。

深圳安络科技市场部经理 梁雅婷:我们通过取证发现其实跟他聊天的并不是他的女朋友,对方是通过虚拟的摄像头,然后通过AI换脸的功能跟他进行聊天。

那么AI如何做到在视频通话时换脸呢?记者在一家为公安机关提供技术支持的科技公司看到的演示,相似度可以达到80%。

深圳安络科技产品部经理 刘远洋:刚才我们拍了一张照片,然后上传到电脑上面,我们只需要打开软件选择头像,左边已经看到我们的图片,右边是事先拍好的一段视频。工程师已经把所有的参数都已经设定好了,我们只需要点击开始执行,输入要保存的文件名,这个窗口弹出来过后,换脸视频就已经开始生成了。

我们在现场看到,一个高配置的电脑,合成一段10秒的换脸视频只需要一两分钟。而技术的发展,视频聊天的实时变脸也不是难事了。

深圳安络科技产品部经理 刘远洋:照片上传后,一般就会有30秒钟左右的时间,对照片进行特征识别,然后进行建模。建模好过后就可以进行实时转换,不管是你的头像,还是在朋友圈的一张小照片,只要是照片都可以直接上传,进行特征的识别建模。

AI生成的技术还在不断地更新迭代,比如性别的互换,声音的变换,都可以同步进行。由于算法是开源的,也就是说一个普通的工程师就可以制作出一个变脸软件,这就导致我们在控制源头上带来了极大的困难。

AI换脸用于诈骗 反诈也有新手段

不断迭代的AI技术,已经把换脸视频做到“真假难辨”,那么我们应该如何防范此类新型诈骗呢?

首先,目前视频换脸的技术上也不是无懈可击的,视频沟通时的一些动作,就可以发现破绽。

深圳安络科技副总裁 肖坚炜:在这个操作中,如果我用另外第三个图像去干扰它,比如让他用手捂脸、动一动,就会干扰到图像的合成。从这里演示看,我把手放上去之后,会明显地看到屏幕上我们同事的眼睛在抖动了,鼻子在抖动了,我的手已经消失了,嘴巴也消失了。

除了让对方在脸部做出一些动作来判断,专家介绍,AI合成软件的升级可能是飞速的,如果动作捕捉已经被避开,那么我们就需要通过一些更专业的软件来分辨了。

深圳安络科技副总裁 肖坚炜:我们可以通过软件来识别,比如人的整个轮廓,替换的眼睛、鼻子、嘴巴这里,它的像素大小是不一样的,颜色的色域是有差别的。像我们的衣服一样,要打一个补丁,是没办法做到完美的。这些我们眼睛肉眼看不出来,但是软件算法是可以检测出来的。

目前,这类鉴别软件对设备和周边的要求也比较高,使用起来并不普及。不过,让视频传播的网站或者社交软件,使用专业的鉴别软件来鉴定,再打上“AI制作”的标签,在现阶段不失为一个方法。

预防“AI换脸诈骗”,大家还要加强对人脸、声纹、步态、指纹等生物特征数据的安全防护。

中国科技大学公共事务学院、网络空间安全学院教授 左晓栋:在使用互联网服务或者在社会生活中,要求输入人脸等生物特征数据的时候,我们要看一看,对方收集我们的生物特征数据是不是符合数据安全法,个人信息保护法的要求,是不是合法、正当和必要。

此外,国家也在通过多重手段防范“AI换脸诈骗”,近两年,相关部门先后出台了互联网信息服务深度合成管理规定,生成式人工智能服务管理暂行办法等有关政策文件。先后开展了“互联网深度合成算法备案”“大语言模型算法备案”等有关工作。严厉打击利用AI换脸、变声等手段实施的违法犯罪行为。

中国科技大学公共事务学院 网络空间安全学院教授 左晓栋:目前看来初步遏制了滥用人工智能技术。特别是从事违法犯罪的这些势头,整体治理效果开始显现,而且也有力促进了人工智能技术的规范发展。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-11-05 11:45:02

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

AI技术再刷屏!明星集体“说”外语,有何风险?
...。但也有网友表示担忧,“这会不会被用来模仿声音进行诈骗?”“再加上换脸,以后网上啥都不能信了。”“以后视频造假会越来越容易。”还有网友表示,“希望AI技术发展能被控制在正轨,
2023-11-07 09:48:00
“领导”打来视频电话找你借20万,借吗?
...。当这项技术日趋成熟,不仅仅应用在影视剧中,AI换脸诈骗案例也陡然增多。(图/unsplash)被高仿的“领导、亲友”孟先生所遭遇的诈骗陷阱被穆方琴识破了,但还有更多人陷了进
2023-11-22 12:00:00
本文转自:湄洲日报莆田国寿“以案说险”视频诈骗花样多【案例背景】客户孟女士神色慌张来到柜面咨询保单借款的到账进度情况。经了解得知,客户接到一个来电,对方自称为某投资平台经理,向其
2023-10-31 07:33:00
...示,在手机上接到新型的FaceTime视频通话申请,接起后被诈骗分子通过“共享屏幕”功能诈骗,甚至有网友称被骗走163万元。警方提示,如接到冒充客服电话,一定不要轻信,应返回
2023-07-13 00:17:00
又一起AI换脸诈骗:安徽男子9秒被骗132万
...被AI换脸骗走430万元”事件引发关注之后,又一起AI换脸诈骗发生。这次金额达到132万,且整个诈骗过程时间更短,只有9秒钟。男子被骗过程 5月22日,安徽安庆的何先生接到
2023-05-26 07:52:00
新型视频通话诈骗出现 市民接个电话一万五没了
...,不少市民反映:使用新型手机通信软件时,接到类似的诈骗电话。厦门警方发布预警,称这是新的诈骗手段,并提醒市民朋友:如果遇到这样的陌生来电,一定不要接听;如果平时没有相关使用需
2023-07-11 09:00:00
...交软件聊天和网上银行转账都成了生活常态,而电信网络诈骗的花样也越来越多。不法分子通过一些新型网络诈骗手段,把黑手伸向了我们口袋里的钱。甚至最近还出现了一些利用人工智能技术合成
2023-07-16 10:10:00
防范“AI换脸”诈骗 你需要的知识都在这儿了→
...人面孔和声音,制造非常逼真的合成图像来实施新型网络诈骗,这类骗局常常会在短时间内给被害人造成较大损失。我们应该如何看清这类AI“深度造假”?辨别“AI换脸”有没有什么好方法?
2024-02-26 09:32:00
...就刚刚破获一起用AI换脸技术解锁社交账号并倒卖获利的诈骗案。前段时间,湖北黄石的王先生偶然进入某炒股直播间,王先生添加了直播间推送的社交账号后,跟对方一起进行股票投资。随着投
2024-08-18 15:55:00
更多关于科技的资讯:
河北日报讯(记者刘英、刘杰)近日,经省科技厅批准,由廊坊润泽科技发展有限公司牵头组建的省级创新联合体——河北省人工智能创新联合体成立
2025-10-27 08:07:00
厦门网讯 (厦门日报记者 薛尧) “品牌金饰每克突破1100元,自己买工具打首饰能省近一半!”近日,受国际金价持续震荡
2025-10-25 08:13:00
南报网讯(记者何洁)10月22日至24日,由《自然》系列期刊编辑部和南京大学及中国生物物理学会联合主办的首届“人工智能生物学”国际学术会议在南京举行
2025-10-25 08:53:00
近日,胜利石油工程公司管具技术服务中心井控装置试压泵保压阀成功实现部件自主化维修,彻底改变以往依赖外部采购的被动局面。这次突破
2025-10-25 09:27:00
春雪食品斩获IDC未来企业大奖
近日,第十届IDC中国CIO峰会在上海落幕。莱阳春雪食品集团以数字化重塑全产业链的硬核实践,荣获“IDC未来企业大奖-卓越奖”
2025-10-25 12:55:00
AI搜索流量占比突破45%的2025年,头部GEO服务商正以技术代差重塑市场格局,这份基于1200+企业实战数据的白皮书
2025-10-25 14:27:00
抗衰冻龄选对成分是关键!2025全球五大麦角硫因品牌深度测评&选购指南
衰老的本质是细胞层面的多维损伤叠加 —— 自由基氧化、线粒体功能衰退、DNA 修复能力下降等机制相互交织,单一成分干预早已无法满足科学抗衰需求
2025-10-25 14:29:00
深耕眼科近30载,菏泽摘镜“标杆”王丽霞院长解说全飞秒4.0
通讯员 任兆潘在菏泽近视矫正领域,王丽霞院长的名字早已成为 “专业” 与 “放心” 的代名词。作为菏泽华厦眼科医院业务副院长
2025-10-25 14:39:00
“赞上合、聚天马,展风采,新体验”,2025天津马拉松将于10月26日鸣枪起跑。10月26日6:55至10:25,天津海河传媒中心《奔跑吧
2025-10-25 15:26:00
星光不负,码向未来 ———选择鸿蒙的800万种可能
摘要:每一位开发者都在用自己的方式点亮属于自己那颗星在这个追求效率的时代,技术的温度,正藏身于那些被巧妙化解的日常困境里
2025-10-25 15:44:00
同程旅行完成收购万达酒管,专业商旅平台成就“更高端”的出行体验
近日,同程旅行宣布完成对万达酒店管理公司的战略收购。这次收购远不止于简单的资源叠加,而是OTA乃至商旅服务生态的一次战略性升级
2025-10-25 15:45:00
可信数据空间新产品新服务新生态发布会在杭州中国数谷举行
2025年10月22日,“可信数据空间新产品·新服务·新生态发布会”在杭州中国数谷会议中心隆重举行。大会由北京燕元数联网络科技有限公司
2025-10-25 15:47:00
10月24日,我省首个脑机接口临床研究中心在山医大一院成立。山西医科大学将与清华海峡研究院协同创新中心在脑机接口这一前沿项目方面展开深入合作
2025-10-25 19:08:00
据第三方权威数据显示,2025年头部与尾部GEO服务商的效果差距已达430%,而企业更换服务商的平均成本高达首年投入的150%
2025-10-25 21:10:00
中山路地标\
印有MINISO LAND品牌标识的围挡。厦门网讯(厦门日报记者 沈彦彦)在厦门本岛中山路西段核心区域,一块印满时尚IP(原意为知识产权
2025-10-26 08:59:00