警惕深度伪造的军事应用

本文转自：中国国防报

当眼见不再为实——

警惕深度伪造的军事应用

常言道，眼见为实。而在AI时代，这句话可能要打上一个问号。随着内容生成技术的发展成熟，基于深度学习的深度伪造技术愈发让真伪难辨。2019年，英国广播公司推出一部新剧《真相捕捉》，讲述了一群人通过篡改视频、伪造证据的方式，栽赃嫁祸他人，剧中这些做法便是借助深度伪造技术实现的。

深度伪造的技术特点

深度伪造（Deepfake）由深度学习（deep learning）和伪造（fake）两个词组合而成，是基于人工智能深度学习技术的一种信息篡改与替换手段。深度学习是对机器学习的发展，机器学习研究如何让计算机通过模拟人的学习行为获取新的知识技能，而深度学习是使计算机学习归纳掌握某类知识的学习方法和规律，实现更高效的机器学习。

从技术上讲，深度伪造依赖的深度学习实际上是一种人工智能神经网络，它能粗略地模仿人脑识别数据模式。目前，广为熟知的人工智能神经网络名为生成式对抗网络（GAN），这套网络通过不断生成、鉴别伪造数据，直至无法区分其真伪。此时，一次深度伪造的过程完成，输出的数据也达到真假难辨的效果。根据造假需求不同，目前深度伪造能够实现换脸、面部复现、口型同步、动作转移、图像生成、音频生成和文字生成等功能，且呈现以下特点。

使用门槛低。互联网上充斥着大量教程和开源程序，任何拥有电脑且掌握一定计算机技能的人都可以在短时间内学会深度伪造技术。同时，随着人工神经网络技术的飞速发展和计算能力的多元化提升，更多人将拥有这种能力。

生成效率高。深度伪造技术主要依赖人工神经网络，不需要过多人为干预就可以智能化运行，迭代优化且迅速高效，只要提供足够的数据样本就可以不断生成图像、视频或语音等。

检测识别难度大。深度伪造不同于以往相对简单的图像、音频和视频篡改技术，而是基于样本进行的人工智能深度学习。生成式对抗网络参照的样本越多，通过迭代生成的虚假内容越接近真实。深度伪造还结合目标对象的语音、微表情等生物特征进行综合学习，这样的全方位模拟是其他伪造技术达不到的。因此，检测识别技术也将面临更大挑战。

战场运用初见端倪

技术决定战术，是推动战场作战方式改变的关键因素。深度伪造技术在认知操控方面的优势，使其能广泛应用于战场。

战略层级，通过制造散布虚假视频、音频等误导民众认知，再借助舆论手段达到特定的政治和军事目的。战役层级，通过发布虚假信息，影响各级指挥官的战场决策。俄乌冲突是人工智能在军事领域首次大规模运用，特别是利用深度伪造技术制造虚假信息，对对方造成心理干扰等。战术层面，通过发布虚假信息影响官兵作战意志，离间上下级、盟友间关系等。

当前，美欧在警告深度伪造带来风险的同时，加快利用深度伪造技术开发新一代军事信息工具。美国特种作战司令部发布采购文件，明确提出研发新一代“军事信息支持作战（MISO）”工具，包括深度伪造技术，以便在“对等的竞争环境中通过非传统渠道影响作战”。另外，美陆军已开始培养心理战人员使用人工智能技术创建声音克隆程序。据称这种技术一旦用于战场，“将重塑美军影响目标人群和战场士兵的能力”。

深度伪造威胁的防范

智能化战争的背景下，基于深度伪造技术的虚假信息必将伴随战争始末。对于深度伪造技术带来的威胁，如何加以防范？本文尝试作出以下探讨。

一是加强深度伪造检测技术的研究应用，鼓励创新，增加投入，提供检测技术保障。二是构建数字保护体系。通过加强深度学习、数字加密等技术研究与使用，保护关键信息，确保从源头提高深度伪造技术的应用门槛。三是提升军事人员的信息素养。围绕深度伪造技术的运用和危害加强科普宣传和学习，提升心理防范意识。