• 我的订阅
  • 社会

以假乱真的AI诈骗,如何防范?(民生一线)

类别:社会 发布时间:2025-04-08 05:55:00 来源:人民资讯

本文转自:人民日报

生成图像、合成语音、伪装客服、伪造场景……

以假乱真的AI诈骗,如何防范?(民生一线)

本报记者  张天培  苏  滨

上传一张静态照片,即可生成动态视频;只需几秒语音,就能克隆声音……这不是科幻电影,而是发生在身边的真实事件,“AI换脸”正成为侵权违法的重灾区。

近期,为规范应用人脸识别技术处理人脸信息活动、保护个人信息权益,国家互联网信息办公室、公安部联合公布《人脸识别技术应用安全管理办法》,对应用人脸识别技术处理人脸信息的基本要求和处理规则、人脸识别技术应用安全规范、监督管理职责等作出了规定。办法将于2025年6月1日起施行。

人脸识别技术应用与人脸信息安全紧密相关。人脸识别具有唯一性、不可更改性、不可匿名性,一旦泄露,极易对个人的人身和财产安全造成危害,还可能威胁公共安全。

AI诈骗形式多样

换脸、变声、对口型

贵州省黔东南苗族侗族自治州凯里市公安局反诈中心负责人吴西福介绍,一家科技公司的负责人郭先生有一天接到好友打来的视频电话,说自己正在外地投标,需要几百万元保证金,想用郭先生的公司账户走一下账。不久后,好友说已经把钱转到郭先生的账户并截图证明。郭先生觉得通过视频能看到好友本人,便没等收到转账成功的通知就给好友转了钱。后来,郭先生迟迟没收到转款,联系好友时才发现自己被骗。

宁夏回族自治区银川市某公司部门经理张先生接到“老板”视频电话,对方称因情况紧急,急需转账汇款。在视频中确认是“老板”后,张先生放下了戒心,十几分钟内将20万元转入指定账户。直到下午当面汇报工作时,张先生才发现上当受骗。

这些案件都是典型的AI诈骗。“你以为在和朋友亲人视频聊天,其实是骗子使用的‘AI换脸’技术,让别人的嘴能够‘对口型’。”宁夏回族自治区公安厅刑侦总队副总队长、反诈中心负责人吴克刚介绍,如今,“AI换脸”技术不仅限于静态照片的活化,还能在即时视频通信中实时换脸。虽然需要采集大量不同角度的照片进行模型训练,但一旦成功,便可以假乱真。过去,公民个人身份证号、手机号以及家人信息需要重点防范,现在,人脸、声音、指纹等同样要避免泄露。

新型AI诈骗主要有以下类型:语音合成诈骗,不法分子利用AI技术,合成受害人亲友或熟人的声音,让受害人误以为是亲友或熟人需要帮助,进而实施电话诈骗;图像生成诈骗,不法分子通过AI技术,生成虚假的照片或视频,制造出受害人亲友紧急且合理的情景,从而获取个人信息,骗取钱财;智能客服诈骗,不法分子利用AI技术,制作智能客服系统,通过语音或文字同受害人交流,诱骗受害人提供个人信息或进行转账操作;AI情感诈骗,不法分子运用AI训练面向网聊的大语言模型,通过伪造场景、声音与受害人建立情感关系,进而获取个人信息。

吴西福介绍,共享屏幕等新型诈骗也要注意。不法分子以“提升信用卡额度”“航班延误退费”“赠送礼品”等为借口,向个人发送短信或拨打电话,诱导受害人下载指定软件,并开启软件的“共享屏幕”功能,就可以“实时监控”受害人手机、电脑屏幕,同步获取个人银行账户、口令、验证码等重要信息,从而盗取银行卡资金。

AI诈骗危害广泛

造成经济损失、心理创伤

相较于电信诈骗、网络诈骗,新型AI诈骗的受害者身份更广泛、多元,成功率更高,更难以追踪。

警方梳理后发现,新型AI诈骗有以下危害:造成经济损失,新型AI诈骗具有针对性强、高度逼真等特征,普通群众短时间内难以分辨,很容易上当受骗、遭受经济损失,甚至会给家庭带来沉重的经济负担;发生信息泄露,新型AI诈骗往往能获取受害人的个人信息,包括身份证号、银行账户、人脸、指纹等,进而滥用这些信息从事非法活动,导致受害人信息泄露,身份被盗用,引发潜在的法律风险;造成心理创伤,遭受新型AI诈骗,除了面临经济损失,受害人还可能产生焦虑、自责、抑郁等情绪,造成严重的心理创伤;危害社会治安,如果新型AI诈骗案件变多,容易让群众对社会产生不信任感,甚至造成恐慌情绪,有些受害者也因无法承担损失,走上违法犯罪道路。

新型AI诈骗案件增加,侦破难度加大,对公安机关来说也是挑战。吴西福说,只有不断提升民警的专业素质和侦查能力,加强对新型电信网络诈骗犯罪的研究,才能创新侦查手段和方法,提高打击效能。要加强与其他地区公安机关的协作配合,建立健全跨区域警务合作机制,形成打击合力。

有效防范AI诈骗

保护个人信息、学习识别方法

新型AI诈骗花样频出,伪装性越来越强,该如何防范?

吴克刚给出了两条防骗建议:视频通话时,让对方做出指定动作,比如眨眼3次、摸摸鼻子,或者让对方用手指或其他遮挡物在脸前晃动,如画面出现延迟或者异常扭曲等不自然的微小变化,那对方很可能正在使用“AI换脸”技术。在与对方的沟通中,也可以问一些只有对方知道的问题,比如生日、电话号码、喜好等,来验证对方身份的真实性。

我们也应该提高安全防范意识,防止个人脸部信息被非法获取利用。贵州警方提示,不轻信他人,不贪图小便宜。妥善保管个人信息,把好个人信息保护的第一道关。在非必要情况下,不向陌生人提供身份证号码、工作单位、家庭住址、职务等重要信息,不将身份证照片或号码保存在手机中,尽可能避免将人脸、照片、声音、指纹等留存到网站和小程序上。在日常生活中,加强对人脸、声音、指纹等生物特征数据的安全防护,做好个人手机、电脑等终端设备的软硬件安全管理,不登录来路不明的网站,以免感染木马病毒。另外,对可能进行声音、图像甚至视频和定位等信息采集的应用,做好授权管理,不轻易给他人收集个人信息的机会,也能在一定程度远离“AI换脸”诈骗。

此外,公安机关也要创新线上线下反诈宣传,打造全方位反诈宣传矩阵。一方面,利用线上平台,深入挖掘本地发生的电信网络诈骗典型案例,结合地区特色、民俗以及当下流行的网络文化,拍摄制作风格独特、通俗易懂的反诈宣传短视频。通过短视频的形式还原诈骗分子的话术、作案流程以及背后的犯罪逻辑,帮助群众提高反诈意识。

推动反诈宣传进校园、进社区、进企业,将反诈宣传与群众喜爱的文化娱乐活动紧密结合,打造出一系列具有贴近性的反诈宣传场景。坚持精准施策,针对不同群体、行业和地区特点,开展有针对性的宣传,做到有的放矢,切实增强群众防骗意识和识骗能力。

警方也警告不法分子:通过“AI换脸”进行视频合成、实施诈骗的行为,是利用新技术进行的诈骗,与传统诈骗行为没有本质区别。对于构成诈骗罪的,将依照我国刑法第二百六十六条的规定追究刑事责任;对于为利用“AI换脸”实施诈骗行为提供技术支持、帮助的,将根据反电信网络诈骗法的规定进行行政处罚,构成犯罪的,还要追究刑事责任。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2025-04-08 08:45:01

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

...。在小城市或者县城,空巢老人很容易成为这类AI犯罪的受害人。AI参与对老人的诈骗,我们目前知道的很多是已经被拦截下来的。老人被骗钱有两种情况。一种是被及时发现、拦截,结果还算
2025-02-05 09:48:00
小心“AI换脸”,已有515人落网!
...假‘镜头环境’等手段,伪造视频内容,混淆视听,诱骗受害人上当。”奇安信集团行业安全研究中心主任裴智勇说。根据公安部发布的消息,当前,冒充电商物流客服、冒充公检法、冒充领导熟人
2023-08-12 10:43:00
民生银行济南张庄路支行赴企业开展“反赌拒诈 安全支付”消保宣传
...、朋友等重要关系人,在视频通话中实现人脸替换,骗取受害人信任后实施诈骗。针对如何防范此类诈骗,服务人员提醒大家一定要确认好对方身份,不要仅凭一通电话或一段视频就轻易相信,也不
2023-11-13 18:51:00
...薄弱的群体。他们通过抖音、快手等发布诱人广告,诱导受害人添加联系方式报名。然后要求受害人视频远程操控人脸认证,借此窃取信息,获取账户资金。往往受害人发现账户钱被转走,才惊觉被
2025-03-27 17:54:00
“书记”让民警帮忙办私事,诈骗分子通过AI换脸要求转账
...导的虚拟形象。第二步:伪装成“领导”主动或诱导添加受害人。什么领域的领导,就添加什么领域的诈骗目标。骗子在公开信息上去搜索领导所在辖区的受害人,并添加企事业单位负责人的微信或
2023-12-18 09:54:00
“AI换脸”九秒骗百万?如何用技术反制AI滥用?
...现在手机植入实时美颜一个道理。罪犯可能利用漏洞盗取受害人好友的微信账号,通过社交平台获取受害人好友的照片或视频,用摄像头捕捉自己的面部特征,再利用实时AI换脸工具将受害人好友
2023-05-29 15:00:00
紧急!赶紧关闭!阜阳有人中招!
...道获取受害者信息并致电,谎称自己是某客服人员,声称受害人购买的“百万医疗保险”服务已到期,每月需要扣费数千元,引发受害人恐慌。第二步:获取信任。为获取受害人的信任,诈骗分子还
2024-05-08 11:59:00
视频来电新诈骗:请关门配合做笔录
...有诈骗分子冒充上海市网信办工作人员发起视频电话,以受害人发布诈骗信息为由要求进行笔录,以此获取个人隐私实施诈骗。上海市互联网违法和不良信息举报中心声明:此类电话均为仿冒。若接
2023-09-22 06:10:00
民生银行东营分行营业部进企业为员工筑牢防范电信诈骗“安全墙”
...过电话、网络和短信方式,编造虚假信息,设置骗局,对受害人实施远程、非接触式诈骗,诱使受害人打款或转账的犯罪行为。随着科技的不断发展,诈骗分子的手段越来越高明,从传统的中奖诈骗
2024-12-16 12:00:00
更多关于社会的资讯:
花江峡谷大桥旅游区官方预约通道显示,截至9月30日21时30分,花江峡谷大桥景区10月1日和2日预约名额已满。游客计划前往时
2025-10-01 05:29:00
齐鲁晚报·齐鲁壹点 王会广 通讯员 王惠华近日,东明农商银行武胜支行成功拦截一起诈骗汇款,凭借工作人员的专业警觉与高效处置
2025-09-30 16:04:00
企业访谈|威海华坦东非产业园:助200余家鲁企开拓非洲
在本次“万企出海鲁贸全球”国际营销体系推进会上,威海华坦供应链管理有限公司董事长王香云作为非洲市场的国际营销伙伴代表,向与会企业详细介绍了公司在坦桑尼亚投资建设的对非经贸合作平台——东非商贸物流产业园的创新模式和服务体系
2025-09-30 16:04:00
创中国选手历史最好成绩!宁诺学子李优征战UCI公路自行车世锦赛
中国青年报客户端讯(周婉军实习生李成昊中青报·中青网记者王军利)9月21日至28日,2025国际自行车运动联盟(UCI)公路自行车世界锦标赛在卢旺达举行
2025-09-30 16:06:00
航空路小学“七彩光”小记者社团探访八七会议旧址
荆楚网(湖北日报网)讯(记者何鹏 通讯员吴娟)“茫茫九派流中国,沉沉一线穿南北……”9月28日,八七会议旧址纪念馆内,江汉区航空路小学“七彩光”小记者社团的集体朗诵声慷慨激昂
2025-09-30 16:08:00
突破技术壁垒!德州市第七人民医院成功开展首例乳腺活检旋切手术,为患者解忧
鲁网9月30日讯(记者 吴美琳 实习记者 李安琦)9月29日,两腺外科负责人徐君玉带领其团队,成功为一名 68 岁女性患者实施了乳腺活检旋切手术
2025-09-30 16:09:00
鲁网4件作品摘得“金沙滩啤酒城杯”奖项 省级主流媒体以专业传播为青岛啤酒节赋能
鲁网9月30日讯(记者 薛同春)近日,由青岛国际啤酒节西海岸新区组委会办公室与青岛西海岸啤酒文化集团有限公司联合主办的“金沙滩啤酒城杯”优秀宣传作品评选落下帷幕
2025-09-30 16:10:00
三明学院两名教师入选2025年全球前2%顶尖科学家榜单
三明学院信息工程学院教授贾鹤鸣与学生合影。三明学院供图东南网9月30日讯(本网记者 肖晓敏 通讯员 吴爱娣)近日,斯坦福大学和国际权威学术出版社爱思唯尔共同发布2025年全球前2
2025-09-30 16:14:00
“短剧导演熬夜猝死”造谣者被行拘 东阳公安回应:重拳出击网络谣言
大皖新闻讯 9月29日晚,浙江东阳市公安局发布警情通报:日前网上流传的“短剧导演熬夜猝死”信息,经核查,系谣言。9月30日下午
2025-09-30 16:19:00
第二届中华文化与青年领导力论坛在京举行
2025年9月28日,第二届中华文化与青年领导力论坛在北京成功举办。青年兴则国家兴,青年强则国家强。本次论坛旨在共同探索中华优秀传统文化
2025-09-30 16:21:00
全球百名专家学者齐聚 共绘中国传统音乐研究新图景
9月26日至27日,由宁波大学音乐学院与江南音乐文化研究中心主办的“第二届江南音乐文化暨宋元古谱国际学术会议”在宁波大学朱学林报告厅隆重举行
2025-09-30 16:52:00
渡江战役纪念馆、名人馆“十一”举办文化惠民公益活动
大皖新闻讯 国庆中秋假期,合肥渡江战役纪念馆和安徽名人馆都将举办文化惠民公益活动。游客能在此观赏到原创展览、文艺汇演
2025-09-30 16:57:00
笔墨丹青迎国庆 鄠邑区举办国庆书法作品展
9月29日,由鄠邑区文化和旅游体育局主办,鄠邑区文化馆、鄠邑区书法家协会共同承办的“庆祝中华人民共和国成立76周年西安市鄠邑区群文书法作品展”在鄠邑区文化馆开展
2025-09-30 17:05:00
宁河融媒宣讲团:45年的等待 扫码阅读手机版
天津市第三届基层理论宣讲员风采展示活动在革命战争年代,无数仁人志士挺身而出,他们或是风华正茂的青年,或是告别新婚的妻子
2025-09-30 17:10:00
济南市荣获2025全球数据管理峰会 “数据治理最佳实践奖”
9月26日-28日,2025全球数据管理峰会“数据要素分论坛暨大数据统计与人工智能技术创新管理研讨会”在杭州举行。会上
2025-09-30 17:14:00