对暗号捏鼻子！3·15封面新闻直播连麦教38万网友防止AI诈骗

封面新闻记者 吴德玉 见习记者 刘叶 王一理

自从AI全面走进我们的生活，与普通人也碰撞出了很多新的故事。很多年轻人在熟练使用AI辅助工作，也有网友用AI换脸重现去世的亲人，寄托自己的思念。当然，一项新技术也可能会带来新的问题，不可忽略有人也在利用AI换脸技术实施诈骗等犯罪行为。作为普通人，可能会对AI有很多复杂的情感，有好奇、有期待，也有质疑，甚至恐惧。

封面新闻正在直播

3月13日晚，在“3·15”即将到来之际，封面新闻官方微博邀请到了@四川网警 的网络安全专家、“超级头脑”创始人@AI超级头脑_张泽伟 、北京安剑律师事务所律师@周兆成律师，以及热度很高的“换脸父亲”当事人孙歌，与封面新闻主播丹黎一起聊了聊关于AI换脸技术的应用，并为大家普及AI反诈知识，当晚吸引38.2万网友在线观看直播。

四川网警网络安全专家：

视频时可要求对方掐脸、捏鼻子

像大家日常接触到的换脸换声的技术，算是比较初级的AI诈骗手段吗？四川网警的网络安全专家张警官介绍，最近几年，人工智能等互联网技术日新月异，各种新技术、新应用层出不穷，像换声换脸这种技术就是人工智能最直接的产物，通过声音和图像视频等素材样本，运用人工智能计算进行深度合成伪造，以假乱真。当前，不法分子的诈骗技术也愈发复杂，当其非法获取受害人的家庭、工作、社会关系、轨迹习惯等个人信息后，将进行全方位画像，利用换脸、换声技术冒充亲戚、朋友等熟人对目标实施定向诈骗行为，极大地提高了新型AI诈骗的欺骗性和成功率。

谈到目前常见的一些AI诈骗手法，张警官向网友们介绍，就公安机关办理的案件来看，AI诈骗常用的手法主要有这几种：第一种是AI拟声，即用克隆的声音实施诈骗。第二种是AI换脸，骗子通过网络搜集目标亲友的照片、视频信息后通过AI换脸伪装成目标受害人亲友，通过聊天软件与受害人视频聊天，进而实施诈骗。此外，诈骗犯罪分子还会通过AI技术筛选目标人群。例如在一些金融诈骗案例中，工作人员发现犯罪嫌疑人会利用AI技术去筛选经常在网上浏览投资信息的人员作为潜在诈骗目标，最后通过套路和剧本演绎，精准实施投资类诈骗。

封面新闻正在直播

遇到这种类型的诈骗，普通人该怎么识别和防范呢？张警官在线支招：一提高反诈意识；二是涉及资金往来应多途径核对，在视频过程中可以要求对方做掐脸、捏鼻子等特定的动作，观察视频有没有穿模或异常变形，以此来识别是否为AI伪造的视频；三是通过电话、微信等多渠道多方式确认；四是在转账时，可以将到账时间设定为2小时到账或者24小时到账，以预留处理时间。

掐脸、捏鼻子这一招引起了大家的热议。“超级头脑”创始人张泽伟说：“随着技术的发展，它的这些漏洞都会被修复掉。对AI的训练日趋成熟后，可能掐脸、捏鼻子AI也会做了，建议变成捏成“猪鼻子”等一些AI不易做到的动作。或者制定一些只有属于家人才知道的暗号，这是最保险的。”

张警官尤其谈到，要注意个人信息和隐私数据的保护。AI换脸或者声音合成技术，前提是要搜集受害人的声音和图片视频资料。日常生活中要保护好个人隐私安全，使用正规软件，防止自己的聊天信息、身份信息泄露，同时我们要尽可能减少社交媒体上自己的照片和声音曝光。张警官还向大家再次推荐：一定要下载国家反诈中心app，那里面有非常多的案例供大家借鉴。

换脸去世父亲当事人孙歌：

“复活”亲人一事需谨慎

父亲去世后，为了不让91岁身患心脏病的奶奶担心，孙歌利用AI换脸软件，将父亲的脸替换成自己的脸，录制了一段“父亲”报平安的视频以安慰奶奶。这段视频在网络上爆火，被网友评论“这才是AI存在的意义”“我要回家多陪陪长辈”。

孙歌在直播间分享了自己制作视频的前因后果：起因是因为电影《流浪地球》中刘德华复活女儿的片段，然后结合身边出现的换脸视频小游戏，他萌生了“换脸父亲”安慰奶奶的想法。他在网络上搜索了不少换脸软件，经过多次尝试后，最后花了几十块钱获得了一款换脸软件几天的使用权。“录制好视频后上传一张替换者的照片，这个视频就合成好了，因为我和我父亲的声音很像，所以不存在处理声音的问题，但是如果要替换声音，还得需要上传音频。”

在谈及使用AI技术“复活”亲人的态度时，孙歌表示“我现在的后台有上万人问我，使用的是哪款软件，如何使用，但是我不会告诉大家具体的软件名字，并且会劝解对方，如果没有非常成熟的心智和必须使用的理由，我建议不要轻易尝试这个方法，因为我在使用的时候，经历了非常大的心理伤害，见到离世亲人的视频画面时，会很崩溃”。

对于AI在生活中的应用，孙歌认为，科技始终是一把双刃剑，不管如何发展，都应该以人为本。

“超级头脑”创始人张泽伟：

制作数字分身需得到直系亲属授权

孙歌换脸父亲安慰奶奶的故事感动无数网友，也令嘉宾们非常理解。“超级头脑”创始人张泽伟是一位90后，他从2022年就开始从事人工智能行业，为普通人定制“AI数字人”，甚至在一年内完成653个订单，平均一单几千到1万元不等。

张泽伟讲述，自己制作的第一个“AI数字人”的初衷与孙歌先生的经历类似。“我一个朋友的父亲，因为意外去世了，家里人也一直瞒着他的奶奶，因为奶奶年纪大了，身体又不好，家里人都不敢说，后面老年人一直问儿子去哪里了。朋友也知道我是从事相关行业的，就找到我问能不能制作一下他父亲的形象和声音，给老人编织一个善意的谎言。”

目前“超级头脑”所接触的客户，最主要就是这一类型，还有母亲找他“复活”癌症去世的孩子，也有患病的人想给亲人留下自己的数字分身，以及年轻人希望拥有自己偶像的数字分身。张泽伟和团队也在为一些渐冻症患者免费制作数字分身。

也有人想要制作偶像的AI，他说：“这需要他们偶像的授权，李玟的家人也找过我们，张国荣的粉丝团也找到我们，这些都需要直系亲属的授权，不然我们是不会去做的。”

至于如何规避AI换脸技术被犯罪分子所利用，张泽伟先生说目前他们有一整套的流程，最主要的方式与申请人前期的沟通，“如果在前期沟通中对方的意图很不明确，我们就会直接否决。第二会根据合同和协议写清楚，不可以把我们制作的AI虚假人用于任何违法违规的途径，如果一旦发现被用于不法途径，我们会立刻向相关机构举报。第三个就是需要证明和授权。”如果申请人要制作自己的亲人或者是谁的一个数字分身，需要得到对方的授权文件，如果是去世的人，需要得到直系亲属的授权。

律师自爆曾被伪造数字分身

使用AI技术应注意侵权问题

周兆成律师在被问及是否有AI相关案例可以分享时，他笑着说：“有自媒体将我网络上发布的普法视频制作成为数字人，我还被调侃为‘中国第一位律师数字分身’”。

周兆成建议大家积极看待科技的进步，“AI技术出现是对人类和社会的巨大挑战，但科技是无罪的，是否犯罪在于使用者。”他认为我们应该积极面对AI科技产生的一系列问题，首先是技术的创造者，要勇担社会责任，守好科学、伦理、法律之间的平衡问题。“如果有人需要制作AI形象，那我们的技术人员必须确认是否有肖像使用权，包括粉丝制作偶像的AI形象等，都是需要确认是否侵权的。”

而对于普通人而言，周兆成提醒网友要时刻保持警惕心，注意隐私安全，如果想“复活”亲人，对待的态度应该更加理性，切勿过于沉溺于悲伤之中。“用AI技术复活亲人我们可以看作一种追思，但我们也应该看到这始终是一种虚拟的形象，代替不了生活。”

如果想要使用AI技术，周兆成也向我们分析了各种侵权的风险。“首先是肖像权，以及你生成的街道和各种作品是否来源于影视作品等，你的素材如何产生，就关系到是否侵权。”

周兆成还对我们建议了规避侵权的一些方法，“目前已经有平台推出了强制性的规定，你在使用AI生成的作品时，必须标注清楚。”如果想要对侵权的AI作品进行追责，应该秉承“谁使用谁负责”原则。“你可以告发布和使用这个AI作品的人，同时你也可以问责平台方，因为平台也有标注的义务。”

在直播中，网友们纷纷发表自己的看法，“人工智能迭代太快了，可能现在的案例还不是很多，但将来必然是一个大趋势”“与时俱进的宣传普法很有必要，感谢分享”。

直播海报图