AI生成“假拜登”致电选民阻碍选举，2024年将是“深度伪造”的大选年吗？

美国全国广播公司（NBC）26日报道，美国民主党内部人士承认曾使用人工智能（AI）模仿总统拜登向选民拨打电话，以阻碍新罕布什尔州的初选。

据美国媒体2月26日报道，经调查，民主党资深政治顾问史蒂夫·克莱默（Steve Kramer）25日已承认，他曾受到拜登竞争对手、议员迪恩·菲利普斯（Dean Phillips）的委托，获得报酬25万美元，用人工智能生成“假拜登”电话，呼吁最有可能支持民主党的5000位选民在新罕布什尔州初选中不要投票。该事件标志着人工智能技术首次被大规模应用于总统竞选活动，并引发该州刑事调查。

菲利普斯及其竞选团队称，他们在得知克莱默参与此事件之前，已经终止了与他的合同。该团队发言人凯蒂·多兰（Katie Dolan）表示：“我们对克莱默的行为深感厌恶，也强烈谴责这种行为。”

据称，克莱默使用了一家人工智能语音克隆公司“十一实验室”的软件，在不到30分钟内创建了一个拜登的深度伪造声音，并制作出自动拨号电话，在1月20日向新罕布什尔州的5000名民主党选民打出这通自动语音电话。电话呼吁选民不要参与初选，而是“把你的票留到11月选举”。理由是参加1月23日新罕布什尔州民主党初选投票的人将无法参加11月总统选举投票。这通电话还特意用了拜登的口头禅“真是一派胡言”。

据悉，新罕布什尔州1月23日的民主党初选不受民主党全国委员会认可，拜登没有报名参加。当天选举时，选票上没有拜登，但有菲利普斯。不过，选民在选票上可手写拜登姓名为其投票。初选结果显示拜登轻松获胜。据美联社测算，菲利普斯得票率近19.6%，拜登则高达63.9%。

新罕布什尔州检方正以涉嫌“抑制选民投票”而对这通电话展开调查，另有多州检方组建联合调查组追查与这起AI电话事件有关的全部人员。美国联邦通信委员会也有意加紧推动把AI自动语音来电列为“非法”。

但据报道，克莱默本人未表达悔意，强调他的行为实际有益于社会，因为执法部门今后会为AI技术在竞选中的应用施加更严格限制。“自我监督不起作用”，政府有必要采取更多执法举措，以制止像他一样用AI技术误导民众的行为。

克莱默过去20年间为20多次联邦、州及以下地方竞选担任投票动员专员，因2020年协助美国说唱歌手“侃爷”卡尼·韦斯特竞选总统而广为人知。

AI深度造假技术为何防不胜防？

深度造假（Deepfake）是英文“Deep learning”（深度学习）和“Fake”（伪造）的混成词，指利用深度学习技术生成合成图像、音频或视频的技术。由于公众人物的视频、音频、图片资料的公开性，为AI训练提供了大量素材，因此名人经常成为AI造假的受害者。

互联网安全组织“网络尖刀”的一位匿名技术专家告诉澎湃科技，深度造假技术制作的内容在视觉、听觉上非常逼真，很难单凭肉眼或传统的技术手段辨别真伪。攻击者可以利用技术手段隐藏深度造假的痕迹和特征，使其难以被检测到。现在互联网上存在大量图片和视频数据，这些数据用于训练深度学习模型，从而也被深度造假技术利用，“可用的数据集越多，模型的质量就越高，深度造假的结果离真人越近。”

在传播过程中如何加强对此类视频的监管？中国社会科学院大学互联网法治研究中心执行主任刘晓春在接受澎湃科技采访时建议，语音克隆公司研发App时，对于跟名人有关、误导性较强、传播风险较大的视频，可以在传播过程中加强显性标识的设计，明确标明这是一个合成内容，提醒受众。

刘晓春强调，在显性标识之外，技术层面上也可以设计隐性标识，这样在追踪溯源时，也能从技术层面识别来源或合成的渠道。“如果能够清楚地标明它是由哪些渠道的技术合成，这样风险也能控制住。”刘晓春说。

前述“网络尖刀”技术专家称，深度造假识别技术比人类更敏锐，深入动作、光线、分辨率上的破绽，在源头发现造假内容，通过识别伪造的特征和异常模式，可以尽早发现和阻止深度造假内容的传播。

2024年将是“深度伪造”的大选年吗？

美国媒体“微软-全国广播公司”近日在报道中提出疑问，2024年将是“深度伪造”的大选年吗？

据一份去年11月发布的民调结果显示，在2023年10月参与调查的美国成年人中，有58%的人认为“AI将对2024年美国大选造成影响”，这一数字较2022年8月增长了5个百分点。

美国网络安全专家克里斯·克雷布斯表示，生成这类内容非常容易，这就是所谓的20秒规则。“只需要一个人20秒的声纹，就能生成这样的内容。我认为执法部门、联邦调查局和司法部长办公室将面临一些挑战。不幸的是，我认为这只是我们将在选举季看到的冰山一角。”

在被记者问到对这种技术被滥用的情况白宫有多担心时，白宫发言人卡里娜·让－皮埃尔表示，社交媒体公司在内容管理方面有独立决策权，“但我们认为，它们在严格落实其监管制度上应起到重要作用，以防止错误信息和未经本人允许的私密图像传播。令人遗憾的是，我们都知道，执法不严对妇女和女孩的影响更为恶劣。”

（羊城晚报·羊城派综合澎湃新闻、央视新闻、新华社）