艾玛沃特被AI技术换脸进色情广告片？法律黑洞有苦难言！

最近几周，Facebook、Instagram等社交平台上高频弹出一段露骨小视频…

视频里，一名年轻女子身穿露肩低胸蕾丝裙，笑容羞涩，轻咬嘴唇…

只见她一脸暧昧地弯腰蹲下，镜头也转成俯拍…整个画面颇像是色情电影的开头情节，暗示满满。

诡异的是，视频中的女子和在《哈利波特》中饰演赫敏的演员艾玛·沃特森长得一模一样，看到广告的网友一度以为演员艾玛献身参演了某部色情电影…

当视频播放到末尾，明确的广告标语出现，大家才明白过来，这段视频其实只是一款App投放的线上广告。

这款App依托人工智能的人体图像合成技术，即“深伪技术（deepfake）”，为视频中出现的主角换脸。

App的注册用户只需要每周支付8美元，就能将任意的人像照片上传到应用程序，替换掉一段视频中指定人的脸。

只需几秒钟，一个人的脸就能被安到另外一个人的身体上，无论对方是同性异性，是否赤身裸体、行为出格…

“艾玛弯腰”这一幕也由此诞生…

仅仅周日到周一两天时间，这个App就在FB、IG共属平台Meta上一共投放了230多条广告，其中“艾玛脸”独占127条之多，几乎是刷屏般的存在。其中有80条的宣传标语还是“用任何人换脸，享受AI换脸技术”，似乎是在鼓励制作色情视频的行为。

除了国民度较高的艾玛·沃特森，欧美娱乐圈知名度稍高的女明星都没能逃过这款App的换脸推广，出镜率排第二的女艺人是斯嘉丽·约翰逊，200多条中有74条是她，视频也同样充满挑逗意味…

另外，这款App虽然明面上禁止用户上传色情含量较高的视频，但它首页提供的数十个视频模板里，本身就包含大量穿着暴露的男女跳舞、摆暗示性pose的视频，有不少是从TikTok上搬运过来的。

可在应用程序商店的简介里，它的年龄限制被标为“9岁禁”，也就是说，只要9岁以上，就可以观看、下载使用这些露骨的成人视频…

而最受质疑的还是播放这些充满性暗示广告的Meta平台…

近几年，随着深伪色情视频在互联网上越来越普遍，从明星、政客到万粉网红，甚至是普通人都深受其害，有些人被使用隐私数年毫不知情，发现时，顶着自己肖像的色情短片已经被卖遍全网。

而那些深伪色情视频爱好者们，往往还能毫不避讳地留下令人作呕的点评：“我看过视频。艾玛非常喜欢它，斯嘉丽也是如此，连一声呜咽都没有。”

这些变态爱好者中也不乏公众人物，比如前几天被揭露后公开发推致歉的30万粉主播布兰登·尤因…

因为色情视频泛滥，早在2020年，Meta就已经发布声明称他们正在加强对投放内容的管控。

比如禁止大多数采用深伪技术的视频，以及严禁在广告中使用成人内容，除了裸体，所有露骨、挑逗的姿势也会被和谐掉…

但这次这个App投放的露骨广告竟全数绕过了Meta平台的“严格”审核，大摇大摆涌入用户视线…

而那些在不知情的情况下被用了脸的受害者，即使某天发现了这种行为，也很可能投告无门，因为针对深伪照片视频犯罪的法律并不完善…

在美国，目前只有4个州——纽约、弗吉尼亚、佐治亚和加利福尼亚有专门针对深度伪造的法律，英国也是去年十一月才将深度伪造归为刑事犯罪…

如果平台也松懈监管，情况只会更加失控。

这次广告投放之所以会受到强烈关注，还是因为一位美国网友录屏了“艾玛弯腰”的小视频，在推特上发文质疑，引起负评热议…

迫于舆论压力，苹果和谷歌修改了App的评级，将其迅速下架，但也只是因为里面存在“可能恐吓、羞辱或伤害任何人的内容”，公司内部并没有专门针对深伪技术内容的管控政策。

Meta那边也撤掉了所有的App广告，但还没有任何文字回应…

看来，在平台监管、法律条文完善之前，“在陌生身体上看到熟悉脸”的噩梦，不知还会轮到谁…