《网络战中的深度伪造： 威胁、检测、技术和对策》

深度伪造（DT）技术已经达到了全新的复杂程度。网络犯罪分子现在有能力修改声音、图像和视频，以误导个人和企业，传播虚假信息。这对国际组织和个人构成了日益严重的威胁，当务之急是采取措施加以应对。本文概述了深度伪造，讨论了其对社会的作用以及 DT 的运作。本文重点探讨了深度伪造对世界各国的经济、政治和法律机构可能造成的危害。此外，本研究还将探讨深度伪造问题的各种解决方案，并在最后讨论进一步研究的潜在方向。

深度伪造技术（DT）的出现是人工智能（AI）发展的直接结果[1,2]。这些技术给世界各地的机构带来了巨大风险。深度伪造是一个术语，指的是一种建立在人工智能基础上的技术，这种技术有能力改变图像、音频和视频内容，以表现实际并未发生的事件。例如，将政客的面孔编辑到其他人的身体上，然后让他们说一些政客实际上从未说过的话，这种情况越来越常见。这种不断扩大的现象已被用于政治场合，在各种议题上误导公众，而且只会继续下去。以意大利一档讽刺电视节目针对意大利现任总理马泰奥-伦齐（Matteo Renzi）使用 deepfake 视频为例。在社交媒体上流传的这段视频中，可以看到他在贬低其他立法者。随着这段视频在网上疯传，越来越多的人开始认为它是真实的，这引起了大众的愤怒[3,4]。网络犯罪分子还利用 "深度伪造 "冒充公司的首席执行官（CEO），诱骗员工（通常是财务部门的员工）向骗子控制的银行账户转账"[5,6]。绝大多数深度伪造篡改都是为了在电影、电子游戏和教学视频等娱乐媒体中使用[7,8]。另一方面，网络犯罪分子已经找到了利用这种技术误导组织和个人并实施欺诈的方法。此外，制作这种深度伪造品除了需要专业的计算机软件和技术外，还需要知识[9,10]。然而，"FaceSwap "和 "Reface "等免费软件的存在，使得不懂技术的人也可以出于娱乐或有害的目的参与媒体操纵[10-12]。

深度伪造技术可用于创建令人信服的合成媒体，使人们无法分辨其与真实媒体之间的区别。这是一个相对较新的研究领域，来自学术界和工业界的学者都贡献了深度伪造数据库以及合成和检测算法，所有这些都促进了深度伪造的流行[13,14]。"深度伪造是人工智能（AI）应用的结果，它通过合并、组合、替换和叠加照片和视频片段，生成看起来合法的虚假视频"[15]。深度伪造利用了当前深度神经网络的发展成果，制造出极为逼真的人工媒体[16]。当深度伪造技术应用于电影或静态照片时，就有可能将一个人的脸替换成另一个人的脸，而几乎不留下任何操纵的证据[17]。Cho 和 Jeong [18]认为，深度学习的发展使以前建立的假脸检测系统变得易受攻击。

"深度伪造数据集以及合成和检测技术的可用性，使得社区甚至经验不足的用户都有可能构建逼真的深度伪造人脸。这反过来又导致深度伪造视频在野外的受欢迎程度大幅上升"[19]。令人信服的深度伪造视频可以迅速影响数百万人，并对我们的社会产生有害影响[20]。社交媒体的传播范围和速度使这一切成为可能。

与深度伪造研究相关的学术资料数量的增加也是这种扩张的反映。除了与深度伪造的制作和检测相关的技术方面，伦理、社会和法律方面的影响也得到了细致的探讨。目前已经有一些针对特定领域的综述，如深度赝品的制作和检测[21]、法律[22]、取证[23]和社会影响[24]等等。尽管如此，它们都没有考虑到深度伪造的整个研究领域，而我们认为，这对于打算从事这一研究的学者来说可能非常有价值[25]。尽管深度伪造研究还相对年轻，但它是一个正在迅速扩展的研究领域。在这一领域中，研究课题及其相互关系随着时间的推移不断变化，新的趋势也在不断涌现[26]。从目前正在进行的众多子研究领域来看，研究深度伪造的研究人员来自各种不同的学术和专业背景。除了目前的趋势之外，调查融资机会也很有意义，因为这有助于集中研究力量[27,28]。