“AI换脸”被滥用，有商家提供一条龙服务

本文转自：工人日报

上传照片，15秒内生成“换脸”视频；提供一段人脸视频，3到5天训练出一套高清定制模型——

“AI换脸”被滥用，有商家提供一条龙服务

阅读提示

“AI换脸”技术被滥用的新闻近日登上热搜。除了被应用于电信诈骗，“AI换脸”还常被用于影视剧二次创作、趣味恶搞小视频，甚至淫秽色情影像的合成中，而在网络上有商家提供各类“换脸服务”。律师指出，从娱乐“玩梗”到违法犯罪，藏在“面具”背后的用户若对该技术不当使用，会承担多项法律责任。

近日，“AI诈骗”“AI造谣”等话题频频登上微博热搜，再次引发公众对于“AI换脸”等合成技术的关注。早在2019年，一款名为“ZAO”的AI换脸软件就曾火爆一时，只需上传一张人脸图片，它就可将影视作品中的明星脸替换成自己的脸，这着实让很多用户过了一把瘾。然而，这款软件很快就因为隐私、版权风险等问题引发争议，最终被下架处理。

如今，随着AI技术的迅速发展，“AI换脸”正进入越来越多的生活场景中。《工人日报》记者在网络上搜索发现，AI换脸软件的获取非常容易，有商家提供各类“换脸服务”。律师表示，若对该技术使用不当，可能会涉嫌行政违法、民事侵权甚至刑事犯罪。

“朋友”视频借钱骗走430万元

朋友打来视频电话借钱，你还会怀疑对方身份的真实性吗？

据媒体报道，今年4月，福州市郭先生的好友突然通过视频电话联系他，想通过郭先生公司账户走账430万元。由于通过视频聊天已“确认”了朋友身份，郭先生便放心转账。事后，郭先生通过和好友沟通才得知自己被骗，原来对方竟通过AI换脸和拟声技术，佯装好友对其实施了诈骗。

事实上，除了被应用于电信诈骗外，“AI换脸”还常被用于影视剧二次创作、趣味恶搞小视频，甚至淫秽色情影像的合成生产中。比如，多名演员就遭遇过“AI换脸”，被人制作私人视频并对外传播。某网红博主也曾发文称，有人盗用她的“脸”制作了色情视频。

AI换脸容易操作吗？在某手机应用商城，《工人日报》记者以“换脸”作为关键词搜索到多款“AI换脸”的App，在其他网络平台上，用户也能搜索到部分“AI换脸”的小程序。

记者下载了某款App使用，其中有多款“换脸”模板可以选择，包括型男、古风视频、美女视频等。如果想“解锁”更多模版，则需要额外付费。以记者试用的这款App为例，其月会员29元、季会员59元，终身会员98元。根据提示，用户充值后只需一键上传照片，便可在15秒内生成对应模版的“换脸”视频。

网上各类“换脸服务”涌出

记者通过调查发现，除了直接提供“AI换脸”服务，还有不少卖家会提供“换脸”技术教程。

记者在网上联系到一名卖家，他向记者展示了一段利用AI换脸软件实现主播换脸的样本视频。视频中主播的人脸已被替换成一位金发碧眼的外国女性，而且表情自然，几乎看不出破绽。

“只需要提供一段人脸视频，3到5天就可以训练出一套高清定制模型，以后直播可以随便用。如果需要明星换脸的素材，我们这里都有，在软件使用上我们包教包会。”这名卖家说，这样一套模型收费3500元。

卖家还提醒记者，如果要进行直播换脸，最好配备上配置较高的电脑系统，“这样我们完全可以做到防遮挡，观众基本分不出来真假，‘换脸’会更加灵动。”他说。而当记者询问能否直接帮忙做“换脸”视频时，对方则显得很谨慎，“现在查得严，用途不当的不做，其他的时长半小时内收费1500元。”

“正是由于相关技术门槛的降低，才使得如今‘AI换脸’技术被滥用。”对于如今涌出的各类“换脸”服务，北方工业大学信息学院副教授张远说。

张远分析认为，“一方面，随着AI技术代码的开源，很多人可以直接拿到成熟模型的源代码，有编程基础的人在此基础上稍加修改，便可以制作成一款AI换脸软件。另一方面，由于GPU算力的进步，软件实时换脸能力相较于之前也大幅提升，这就令AI换脸更容易实施。”

治理技术滥用应引入多方力量

“这种换脸视频是否涉嫌侵权？”在换脸相关短视频的评论区里，有不少人提出这样的疑问。

对此，北京市京都律师事务所律师张雁峰指出，从娱乐“玩梗”到违法犯罪，藏在“面具”背后的用户若对该技术不当使用，会涉嫌行政违法、民事侵权甚至刑事犯罪，面临多项法律风险。

“从行政违法的角度来说，虽然现行法律没有明确‘AI换脸’必然会受到行政处罚，但如果使用场景涉及到寻衅滋事、捏造诽谤、不正当竞争等，则可能因此而受到警告、罚款、拘留等行政处罚；从民事侵权的角度来说，未经他人允许便擅自使用AI换脸技术可能侵犯如肖像权、隐私权、名誉权和知识产权等一系列权利。”张雁峰说。

对此，互联网分析师张孝容则认为，伴随着AI大模型的发展，声音合成、人脸交换越发逼真，AI换脸技术的不当应用，不仅涉及法律问题，还可能造成新型社会危害。

“因此，AI作品制作需要强制实施主动识别原则，令软件生成的所有作品加上AI水印。”张孝荣说，“另外，传播平台也需提供相应的说明字样。”

事实上，2023年1月10日起施行的《互联网信息服务深度合成管理规定》已提出，服务者若提供智能对话、合成人声、仿声、人脸生成、替换等深度合成服务时，应当进行显著标识，避免公众混淆或者误认。4月11日国家网信办发布的《生成式人工智能服务管理办法（征求意见稿）》，也对生成式人工智能产业做出了包括定义、提供者的合规义务在内等多方面的详尽规定。

“治理AI换脸技术滥用现象，除了法律途径，还需引入多方力量。”在张远看来，“企业和高校可以合作开展更多‘反AI换脸’的技术研发工作，就像计算机病毒需要引入杀毒软件来查杀一样，我们也可以研发更多的‘假脸克星’，例如现在技能竞赛DFDC（人脸伪造检测挑战赛）就在做相关尝试。”

张远还提出，网络服务平台作为大数据采集端，可以提高识别能力，主动通过技术方法分析、研判、定位存在有法律风险的合成视频，严控问题视频的传播，完善事前处理机制。