“AI换脸”可以绕过人脸识别防线？

央视网消息：近日，南京市玄武区人民法院审理了一起“AI换脸”诈骗案。被告人符某利用非法获取的195万多条公民个人信息和AI换脸软件，登录了被害人的支付账户，盗刷银行卡进行消费。

男子通过"AI换脸" 侵入他人金融账户

经查，符某为牟取非法利益，通过网购的方式，非法获取了195万多条公民个人信息，随后利用这些公民个人信息，通过AI换脸软件，以“人脸识别”的方式，登录了23名被害人的金融平台支付账户。其中，非法更改了5人的支付密码和绑定手机号，冒用了1人的支付账户绑定的银行卡，购买了两部手机，共计人民币15996元。

江苏省南京市玄武区人民检察院检察官助理 张海月：通过技术融合，AI生成一个动态视频，左摇头、右摇头、张嘴，这样一些金融视频可能会常对用户登录时做的一些指令，突破金融支付平台的防线。

期间，符某曾试图利用AI换脸，突破多个金融支付平台的"人脸识别"认证系统，但是只在某金融支付平台得逞。

江苏省南京市玄武区人民检察院检察官 徐佳：他就不断地去尝试，也尝试了很多平台，但是别的平台可能因为风控系统比较严格，这个平台可能存在一些漏洞，最终得逞。

【江苏南京】男子因多项罪名数罪并罚 获刑4年6个月

检察机关认为，符某的行为，不仅构成刑事犯罪，也严重损害了社会公共利益，遂提起刑事附带民事公益诉讼。2024年10月，法院以侵犯公民个人信息罪、信用卡诈骗罪数罪并罚，判处符某有期徒刑4年6个月，并要求其承担15996元公益损害赔偿金、删除存储的所有公民个人信息，并在国家级新闻媒体上公开赔礼道歉。符某表示认罪认罚。另外，针对本案暴露的某金融支付平台存在的技术风险问题，检察机关及时发出法律风险提示函。目前，该金融支付平台已完成整改。

徐佳：这个案子为什么会案发，就是因为只通过刷脸，简单的一个刷脸就进入了它的平台，可以修改密码，如果说这里面多一层身份认证，他就没有办法实现更改。目前没有再发现继续通过AI换脸进行犯罪的情况。

"AI换脸"可以绕过人脸识别防线？

随着AI换脸、伪造身份等技术的不断升级，人脸识别认证身份的方式，是否还足够安全呢？

对外经济贸易大学数字经济与法律创新研究中心主任 许可：我们做网络安全的内行人都会说一句话，没有任何一个网络是永远安全的，每次更新和迭代都可能会带来新的漏洞，所以这个漏洞，我们觉得是很难避免的。

通过AI治理AI 提升人脸识别的可靠性

虽然说漏洞不可避免，但是大家也不用恐慌，由技术带来的风险可以由技术本身的发展去解决，通过AI治理AI的方式，就能解决现在面临的人脸识别攻击的问题。

AI安全领域从业者 朱萌：实际上，业内最顶尖的技术的检测率或者说检出率是超过95%的，他已经能够在实战中应对这样的AI风险了。比如说，我们在看一个方向的时候，你两只眼都会看向左方或者看向右前方，但是AI生成，它可能两只眼是往两个角度去看的。

专家介绍，当前，一些应用人脸识别技术的单位已经采用了类似的防伪鉴别程序，提升人脸识别系统的可靠性。

中国电子技术标准化研究院网络安全研究中心测评实验室副主任 何延哲：比如说，某款这种最新出台的智能手机，它在你视频通话的时候，它就会有一个功能，比如说是否识别对面的人脸是伪造的，其实已经把这样的一些技术应用上了。

使用人脸识别的单位应有更严的安全措施

专家认为，除了不断提升技术手段和增强防伪鉴别能力外，个人信息保护依然是非常重要的环节。一方面，普通百姓应提高自我防范意识，避免随意泄露个人信息；另一方面，使用人脸识别的单位也应采取更为严格的安全措施。