【AI与军事】人工智能浪潮与空中力量的未来

2022 年 4 月 23 日 专知

【导读】 欢迎关注专知 AI+军事 主题：及时更新获取军事人工智能领域发展现状、趋势。

AI+军事主题网址：https://www.zhuanzhi.ai/topic/2001883600396423

以下为正文

在 2020 年，空中力量（制空权）辩论越来越多地关注新兴技术对国防创新和未来战争特征的影响。人工智能 (AI) 系统、机器人技术、增材制造（或 3D 打印）、量子计算、定向能量和其他“颠覆性”技术等先进新技术的融合，第四次工业革命 (4IR)为国防应用提供了新的和潜在的重大机会，进而提高了对潜在竞争对手的军事优势。当前的大部分辩论可以说将“下一个前沿”技术描述为“不连续”或“破坏性”军事创新的代名词——从“工业时代”到“信息时代战争”和现在越来越倾向于“自动化时代的战争”（Raska，2021 年）。例如，高光谱图像、计算摄影和紧凑型传感器设计等先进传感器技术旨在提高目标检测、识别和跟踪能力，并克服传统的视线干扰（Freitas 等人，2018 年）。具有自适应特性的复合材料、陶瓷和纳米材料等先进材料将使军事装备更轻，但更适应于复杂环境（Burnett 等人，2018 年）。新兴光子技术，包括高功率激光器和光电设备，可能会提供基于量子计算和量子密码学新级别的安全通信（IISS，2019 年）。

新兴技术的融合——即机器人技术、人工智能和机器学习、具有先进传感器技术的模块化平台、新型材料和保护系统、网络防御和模糊物理、网络和生物领域之间界限的技术，被广泛认为对人类的特征具有深远的影响。未来的战争，在空中力量的背景下，有望将新的机器学习算法应用于高速进行信息处理、有人/无人武器平台和监视系统的混合自动化，以及最终指挥和控制 (C2) 决策（Horowitz，2018；Cummings，2017）。

大型军工产品不再是技术创新的唯一驱动力；取而代之的是，具有双重用途潜力的先进技术正在商业领域开发，然后“转而”用于军事应用。

然而，尽管战略背景各不相同，但这些新兴技术的传播也引发了类似于过去 40 年提出的理论和政策规定性问题：新兴技术的传播是否真的意味着战争中的“破坏性”转变？这仅仅是进化上的变化吗？如果新兴技术规定了战争的颠覆性变化，那么国防资源分配的必要性是什么，包括部队结构和武器采购要求？包括空军在内的军事组织如何利用新兴技术为自己谋利？此外，新兴技术在应对 21 世纪以不确定性、复杂性和模糊性为特征的安全威胁和挑战方面的效果如何？

颠覆性叙事的四十年

在受信息技术飞跃的推动下，“颠覆性”军事创新叙事和辩论的轨迹已在 IT 驱动的军事革命 (IT-RMA) 的背景下定义，该革命已通过至少五个阶段：（1）1980年代初期苏联战略思想家对军事技术革命的初步概念发现，（2）1990年代初期美国战略思想的概念适应、修改和整合，（3）1990 年代中后期对技术的 RMA 辩论，（4）转向更广泛的“防御转型”，并在 2000 年代初期进行部分实证调查，以及 (5) 从 2005 年起质疑颠覆性叙事的批判性逆转（格雷，2006 年）。然而，自 2010 年代中期以来，随着人工智能和自主系统等新技术的加速传播，人们可能会争辩说，新的 AI-RMA 或第六次 RMA 浪潮已经出现（Raska，2021 年）。

然而，回想起来，在过去的 40 年里，IT-RMA 的实施也可以说是遵循了一条明显低于革命性或破坏性的道路，包括对现有能力的渐进式、通常近乎持续的改进（Ross，2010 年）。虽然国防技术、组织和理论方面的重大、大规模和同步的军事创新是一种罕见的现象，但军事组织在很大程度上是通过一系列持续的军事创新取得进展，从小规模创新到大规模创新，这些创新塑造了他们的战争行为（Goldman，1999）。虽然这个时代的许多军事创新，例如网络中心战的概念已经成熟，但关于即将到来的“破坏性军事转型”的叙事几乎总是超过了现有的技术、组织和预算能力。此外，不同的概念、技术、组织和作战创新主要集中在将数字信息技术集成到现有的传统平台和系统中（Raska，2016 年）。

国家和非国家行为者都可能使用这种所谓的对抗性机器学习来欺骗对方，使用不正确的数据得出错误的结论，并在此过程中改变决策过程。

例如，在美国的战略思想中，颠覆性军事创新的叙事从 2005 年开始随着伊拉克和阿富汗战争中的作战挑战和经验逐渐淡化。更多批评声音指向“破坏性”防御转型的未兑现承诺。“新思维方式和新战斗方式”的基本原理几乎证明了每项防御倡议或提议的合理性，这表明迷失方向而不是明确的战略（弗里德曼，2006 年）。国防转型怀疑论者还警告说，通过技术解决复杂战略挑战的逻辑有缺陷，同时放弃了潜在敌人或竞争对手的适应能力。简而言之，由于预算要求和不切实际的能力组合而不是实际的战略和作战逻辑，即将发生的国防转型的破坏性叙事已经变成了一个模棱两可的想法（雷诺兹，2006 年）。

为什么AI浪潮不同？

然而，新的“支持人工智能”的国防创新浪潮在几个方面与过去以 IT 为主导的浪潮不同。首先，人工智能支持的军事创新的传播速度要快得多，通过多个维度，特别是通过大国之间加速的地缘战略竞争——美国、中国和较小程度的俄罗斯。大国之间的战略竞争并不新鲜。它们深深植根于历史——从公元前三世纪伯罗奔尼撒战争期间的雅典和斯巴达大战略，到二十世纪下半叶冷战的两极分化。然而，新兴战略竞争的性质不同于以往战略竞争的类比。进入 21 世纪，战略竞争的路径和模式更加复杂多样，反映了在不同或重叠规则下的多重竞争，长期的经济相互依存与核心战略挑战并存（Lee，2017）。然而，在争夺未来霸权的竞争中，技术创新被描述为国际影响力和国家力量的核心来源——产生经济竞争力、政治合法性和军事力量（Mahnken，2012 年）。具体来说，美国几十年来第一次面对一个战略性的同行竞争对手中国，中国有能力追求和实施自己的 AI-RMA。因此，主要问题不是 AI-RMA 浪潮是否会在战争中带来根本性的不连续性，如果是，如何以及为什么？相反，美国的 AI-RMA 是否可以被相应的中国或俄罗斯 AI-RMA 取消或至少削弱？换言之，技术优势的差距正在有效缩小，这有效地加速了新技术作为军事优势来源的战略必要性。

新兴技术的融合——即机器人技术、人工智能和机器学习、具有先进传感器技术的模块化平台、新型材料和保护系统、网络防御和模糊物理、网络和生物领域之间界限的技术，被广泛认为对未来的战争具有深远的影响。

其次，与前几十年利用一些军民两用技术开发主要武器平台和系统不同，当前的人工智能浪潮在商业技术创新作为军事创新来源的规模和影响方面有所不同。大型军工产品不再是技术创新的唯一驱动力；取而代之的是，具有双重用途潜力的先进技术正在商业领域开发，然后“转而”用于军事应用。在这种情况下，新兴技术的传播，包括增材制造（3D 打印）、纳米技术、空间和类空间的能力、人工智能和无人机，并不仅限于大国（Hammes，2016 年）。人工智能传感器和自主武器系统的扩散也在新加坡、韩国、以色列等先进小国和中等强国的防御轨迹上。这些国家现在有潜力开发利基新兴技术，以提高其防御能力和经济竞争力、政治影响力和在国际舞台上的地位（Barsade 和 Horowitz，2018 年）。

第三，自主和支持人工智能的自主武器系统的扩散，加上新颖的作战结构和部队结构，挑战了人类参与未来战争的方向和特征——其中算法可能会影响人类的决策，并设想在未来的战斗中使用致命自主武器系统（LAWS）。包括空军在内的先进军队正在试验各种依靠数据分析和战争自动化的人机技术。这些技术越来越多地渗透到未来的战争实验和能力发展计划中（Jensen 和 Pashkewitz，2019 年）。在美国，选定的优先研发领域侧重于在各种人机协作中开发人工智能系统和自主武器——例如，支持人工智能的预警系统和指挥与控制网络，空间和电子战系统、网络能力、致命的自主武器系统等。

人工智能系统将越来越有能力在John Boyd的观察-定向-决策-行动 (OODA) 循环的每一步中简化 C2 和决策过程。

战略竞争、双重用途新兴技术创新和战争中人机交互特征的变化，这三个驱动因素的融合推动了一系列定义 AI-RMA 浪潮的新条件。它的扩散轨迹在本质上也对战略稳定性、联盟关系、军备控制、道德和治理以及最终的作战行动提出了新的挑战和问题（Stanley-Lockman，2021a）。例如，关于人工智能系统在使用武力中的作用的国际规范辩论越来越关注法律的传播和遵守国际人道法原则的能力。随着技术进步从科幻领域转向技术现实，各国对引入 LAWS 是否会违反或加强国际法律原则也有不同的看法。面对军事人工智能应用的法律和道德影响，军事机构越来越认识到需要解决与安全、道德和治理相关的问题，这对于建立对新能力的信任、管理风险升级和重振军备控制至关重要。尽管如此，国防部和军队在伦理道德方面的努力是狭隘地关注法律还是更广泛地关注人工智能系统的范围之间仍然存在紧张关系。因此，包括空军在内的军队需要跟踪关于人工智能和自主性的不断演变的观点，并就对 2020 年代及以后的战略和作战环境的影响进行辩论（Stanley-Lockman，2021b）。

对空中力量的影响

在作战层面，空军旨在加速整合各种人工智能相关系统和技术，例如多域作战云系统，从各种来源收集大数据，创建实时作战图，本质上是自动化和加速指挥和控制 (C2) 流程（Robinson，2021 年）。在这样做的过程中，启用人工智能的作战云可以识别目标并将它们分配给任何领域中最相关的“射手”，无论是空中、水面还是水下——一些空军将其概念化为联合全域指挥与控制 (JADC2) 。部分空军也在试验人工智能算法作为“虚拟后座”，它可以有效控制飞机的传感器和导航，寻找对手，并以此减少机组人员的工作量（Everstine，2020）。在这种情况下，关键论点是人工智能系统的进步——可以感知、推理、行动和适应的广泛程序，包括机器学习 (ML) 系统——其性能随着时间的推移、数据交互的增加而提高算法性能，以及深度学习（ DL）系统——其中多层神经网络从大量数据中学习——具有“改变空战行动以及空中力量的构思和使用方式”的潜力（Davis，2021 年）。

具体来说，根据兰德公司最近的一项研究（Lingel 等人，2020），目前有六类 AI/ML 应用研发，其会对包括空中力量在内的未来战争有影响：

（1）计算机视觉——图像识别——检测对视觉世界中可用于处理多源智能和数据融合的对象进行分类；

(2) 自然语言处理 (NLP) — 成功理解人类语音和文本识别模式（包括翻译）的能力，可用于从语音和文本中提取情报，但也可以监控友好通信并引导相关信息以提醒个人或单位；

(3) 专家系统或基于规则的系统——收集大量数据以推荐特定行动以实现作战和战术目标；

(4) 规划系统——使用数据解决调度和资源分配问题，可以针对目标协调选定的空中、太空和网络资产，并生成建议的分时行动；

(5) 机器学习系统——从与环境的数据交互中获取知识，可与其他类别的人工智能结合使用，即使 C2 系统在专家知识不可用或最佳策略、技术和程序 (TTP) 未知时学习如何执行任务；

(6) 机器人和自主系统——结合所有或选择先前类别的 AI/ML 方法，使无人系统与其环境交互；

这些与人工智能相关的类别几乎适用于空中力量的各个方面，可能会塑造新形式的自动化战争：从 C2 决策支持和规划，人工智能/机器学习可以在日益受限的时期提供推荐的选项或建议；通过数据挖掘能力支持 ISR；后勤和预测性维护，以确保部队的安全以及平台和单位的可用性；训练和模拟；网络空间行动以检测和应对先进的网络攻击；机器人和自主系统，如无人机，用于从 ISR 到矛尖任务的各种任务，如压制敌方防空和协同作战，在空中和陆地打击行动中整合不同的有人和无人平台。换句话说，这里的论点是人工智能系统将越来越有能力在John Boyd的观察-定向-决策-行动 (OODA) 循环的每个步骤中简化 C2 和决策过程：收集、处理并将数据转换为统一的态势感知视图，同时为推荐的行动方案提供选项，并最终帮助人类采取行动（Fawkes 和 Menzel，2018 年）。

然而，将人工智能系统集成到空中力量平台、系统和组织中，以将计算机从工具转变为解决问题的“思考”机器，将继续带来一系列复杂的技术、组织和运营挑战（Raska 等人，2021 年）。其中可能包括开发算法，使这些系统能够更好地适应环境的变化，从意想不到的战术中学习并将其应用于战场。它还要求为这些思考机器设计道德规范和保障措施。另一个挑战是技术进步，特别是在军事系统中，是一个持续的、动态的过程。突破总是在发生，它们对军事效力和比较优势的影响可能是巨大的，而且在初期阶段很难预测。

然而，最重要的是，关键问题是我们可以在多大程度上信任人工智能系统，尤其是在安全关键系统领域？正如 Cummings所警告的那样，“历史上充斥着类似的战备承诺如何以代价高昂的系统故障告终的例子，这些案例应该作为一个警示故事”（Cummings，2021 年）。此外，越来越多的研究领域集中在如何通过生成虚假数据来欺骗人工智能系统做出错误的预测。国家和非国家行为者都可能使用这种所谓的对抗性机器学习来欺骗对方，使用不正确的数据得出错误的结论，并在此过程中改变决策过程。对抗性机器学习的整体战略影响可能比技术本身更具破坏性（Knight, 2019; Danks, 2020）。

启用人工智能作战云用于识别目标并将其分配给任何领域中最相关的“射手”，无论是空中、水面还是水下——一些空军将其概念化为联合全域指挥与控制 (JADC2)。

从战术和操作的角度来看，这些复杂的人工智能系统也需要连接在一起——不仅在技术上，而且在组织和操作上。对于许多空军来说，这是一个持续的挑战——他们必须能够有效地（实时）在各种服务和平台之间集成启用人工智能的传感器到射击者的循环和数据流。这意味着有效地连接多样化的空军、陆军、海军和网络战斗管理；C2，通信和网络；情监侦；电子战；定位、导航和授时；使用精确弹药。虽然选择的 AI/ML 系统可能会缓解一些挑战，但相同的系统会产生另一组与确保可信 AI 相关的新问题。因此，有人可能会争辩说，未来空中力量中人工智能轨迹的方向和特征将取决于相应的战略、组织和作战敏捷性，特别是这些技术如何与当前和新兴的作战结构和部队结构相互作用。

在这种情况下，人类在未来战争中的参与程度、改变传统部队结构和招募模式的必要性以及将在哪些领域使用武力都是新技术挑战的问题。空军正在为这些问题开发自己的而且往往是多样化的解决方案。与过去一样，它们的有效性将取决于与战略持久原则相关的许多因素——将可用的国防资源“转化”为新军事能力的目的、方式和手段，并在此过程中创造和维持具有空中作战能力的部队来应对各种突发事件。成功实施的主要因素不是技术创新本身，而是持续资金、组织专业知识（即大规模和有效的军事和商业研发基地）和实施国防创新机构的敏捷性综合效应（Cheung，2021）。对于空中力量的未来，这意味着拥有能够提供创新解决方案的人员、流程和系统，同时保持现有的核心能力，从而在日益复杂的战略环境中提供可行的策略选择。

专知便捷查看