推荐！【中文版】《人工智能在军事应用中的可能性和挑战》瑞典国防研究局16页报告

2022 年 7 月 29 日 专知

人工智能（AI）的最新进展为许多经典的AI应用带来了突破，例如计算机视觉、自然语言处理、机器人和数据挖掘。因此，有很多人努力将这些进展应用于军事领域，如监视、侦察、威胁评估、水雷战、网络安全、情报分析、指挥和控制以及教育和培训。然而，尽管人工智能在军事应用上有很多可能性，但也有很多挑战需要考虑。例如，1）高风险意味着军事人工智能系统需要透明，以获得决策者的信任并能进行风险分析；这是一个挑战，因为许多人工智能技术具有黑盒性质，缺乏足够的透明度；2）军用 AI 系统需要稳健可靠；这是一个挑战，因为已经表明即使对所使用的 AI 技术没有任何了解，AI 技术也容易受到输入数据微小变动的影响，并且 3) 许多 AI 技术基于需要大量数据的机器学习训练；这是一个挑战，因为在军事应用中经常缺乏足够的数据。本文介绍了正在进行的项目成果，以说明军事应用中人工智能的可能性，以及如何应对这些挑战。

人工智能（AI），特别是机器学习（ML）和深度学习（DL），在十年内已经从研究机构和大学的原型设计转向工业和现实世界应用。使用DL技术的现代人工智能已经彻底改变了传统人工智能应用的性能，如机器翻译、问答系统和语音识别。这一领域的许多进展也将其优秀的想法变成了卓越的人工智能应用，能够进行图像说明、唇语阅读、语音模仿、视频合成、连续控制等。这些成果表明，一个能够自我编程的机器有潜力：1）提高软件和硬件开发的效率，2）以超越人类的水平完成特定的任务，3）为人类以前没有考虑过的问题提供创造性的解决方案，4）在人类已知的主观、偏见、不公平、腐败等方面提供客观和公平的决定。

在军事背景下，人工智能的潜力存在于所有维度的军事空间中（即陆地、海洋、空中、空间和信息）和所有级别的战争内（即政治、战略、作战和战术）。例如，在政治和战略层面，人工智能可以通过制作和发布大量的虚假信息来破坏对手的稳定状态。在这种情况下，人工智能很可能也是抵御这种攻击的最佳人选。在战术层面，人工智能可以改善无人系统的部分自主控制，以便人类操作员可以更有效地操作无人系统，最终扩大战场影响力，增强战场实力。

然而，正如我们将在这项工作中指出的那样，有几个关键挑战可能会减缓或限制现代人工智能在军事应用中的使用：

ML模型的透明度和可解释性不足。举一个例子，使用DL对使用深度神经网络（DNN）的自动驾驶汽车进行控制建模需要几十万个参数。显然，这样一个复杂的程序不容易被解释。即使是使用替代的ML算法生成的模型，其中模型可以被图形化，如解析树或决策树，即使在应用于玩具模型问题时，也很难甚至不可能解释。一个更重要的挑战是人工智能系统向决策者或人类操作者解释其推理的能力，或者在这种情况下是无能为力的。
众所周知，使用ML开发的模型很容易受到对抗性攻击。例如，基于DL的模型可以很容易地通过操纵输入信号而被欺骗，即使该模型对攻击者来说是未知的。举一个例子，使用最先进的目标检测的无人驾驶飞行器（UAV）也有可能被地面上精心设计的伪装图案所欺骗。
任何 ML 应用的原料是机器可以从中学习并最终深入理解的数据。军事组织通常擅长收集数据用于汇报或重建目的。然而，不能保证同样的数据可以成功用于ML。因此，军事组织可能必须调整其数据收集过程，以充分利用现代人工智能技术，如DL。

本文的目的是强调人工智能在军事应用中的可能性和主要挑战。第2节简要介绍了DL，它是本文关注的主要人工智能技术。第3节提供了几个人工智能在军事领域中应用的例子。第4节描述了与军事领域中人工智能的关键挑战，以及部分可用于解决这些挑战的技术。第5节提出了结论。

【完整中英文版请上专知查看！】

https://www.zhuanzhi.ai/vip/b295c6d6b735d5e14567ba97091855bb

专知便捷查看