歌手泰勒·斯威夫特声音被伪造？美国AI深度造假引关注

·由人工智能生成的假泰勒·斯威夫特带货广告在社交媒体Facebook上传播。1月15日，印度的板球传奇人物萨钦·坦杜卡也成为了AI深度造假的受害者。

·美国政府警告，“深度造假”诈骗正在增加，在购买商品之前请花一点时间重新检查帖子和社交媒体账户，这些照片和视频很可能是假的。

AI生成的泰勒·斯威夫特推销Le Creuset炊具视频。

AI“深度造假”（Deepfake）技术再次引发关注。

一则由人工智能生成的假泰勒·斯威夫特（Taylor Swift，中文绰号“霉霉”）带货广告在社交媒体Facebook上传播。涉事公司对此迅速做出回应称，斯威夫特没有参与任何消费者赠品活动，所有关于产品促销的活动均来自官方社交活动。

澎湃科技（www.thepaper.cn)注意到，斯威夫特并非最新被牵扯到利用人工智能技术造假的名人。1月15日，印度的板球传奇人物萨钦·坦杜卡（Sachin Tendulkar）也成为AI深度造假的受害者。

泰勒·斯威夫特免费送你法国高端厨具？假的！

“嘿你们好，我是泰勒·斯威夫特。由于包装出错，有3000套Le Creuset（中文名译为‘酷彩’）炊具套装无法正常线下销售，转向线上出售。有一个好消息分享给你们，我与Le Creuset联手进行促销——有20位忠实粉丝将免费获得赠送的炊具套装。”

在这则广告中，斯威夫特坐在钢琴前，向大家推销法国高端炊具品牌Le Creuset，并表示作为她的“新年大放送”，会向20位粉丝免费赠送一套炊具。

事实上，视频中的“霉霉”并不是真的斯威夫特，而是AI“深度造假”技术合成了她的声音，并将声音与她的形象和Le Creuset广告片段拼凑在一起。

据《纽约时报》1月9日报道，骗子利用合成的声音称呼斯威夫特的粉丝为“斯威夫提（Swifties）”。在合成的广告中，斯威夫特的克隆声音对“斯威夫提”，即她的粉丝说她“很高兴”能免费分发炊具套装。当受害者被引导至虚假网站后，会被要求支付9.96美元的运费。但号称免费送的厨具不会真的送出去。

Le Creuset和Facebook母公司Meta对这一欺诈活动迅速做出了回应。

据福克斯新闻1月12日报道，目前，Meta表示已经删除该广告。

Le Creuset声明，该公司并没有与斯威夫特合作任何消费者赠品活动，所有经批准的Le Creuset赠品或促销活动均来自官方社交账号。

印度当地媒体《经济时报》1月15日报道，印度板球传奇人物坦杜卡也成为了深度造假的受害者。

此前一段视频显示，这位板球运动员支持一款名为Skyward Aviator Quest的游戏应用程序，并称他的女儿通过使用该应用程序预测游戏结果，每日收入高达18万卢比。

印度板球传奇人物萨钦·坦杜卡（Sachin Tendulkar）在社交媒体上对AI深度造假的回应 来源：社交媒体X截图

杜卡回应称，“这些视频是假的，技术滥用现象猖獗，令人不安。请求大家大量举报此类视频、广告和应用程序。社交媒体平台需要保持警惕并响应投诉。他们的行动对于阻止错误信息和深度造假的传播至关重要。”

美国AI深度造假诈骗正在增加

美国布法罗大学“媒体取证实验室”的计算机科学教授吕思伟 （Siwei Lyu）在接受《纽约时报》记者采访时表示，“霉霉”这起“深度造假”诈骗活动很可能是利用文字转语音服务制作的。这类工具可将脚本转译成声音，并用唇语同步程序将其合成至视频片段。

深度造假（Deepfake）是英文“Deep learning”（深度学习）和“Fake”（伪造）的混成词，指利用深度学习技术生成合成图像、音频或视频的技术。

随着人工智能技术的崛起和相关工具使用门槛的降低，越来越多包含深度造假技术的视频被生产出来，并日益发展出了新的应用场景。过去一年，人工智能取得重大进步，制作未经授权的真人数字复制品变得更加容易，音频、视频恶搞特别容易，也很难识别。

美国商业改善局去年警告，“深度造假”诈骗正在增加，“在购买商品之前，请花一点时间重新检查帖子和社交媒体账户，这些照片和视频很可能是假的，如果你购买了不合格或不存在的产品，你就会损失金钱（通常比你想象的还要多）。”