《自动化决策过程时代的指挥与控制：挑战与机遇》48页论文

新技术的影响和未来战斗空间速度的提高，可能会使指挥和控制职能过度集中在政治或战略层面，而忽略了合格参谋人员的咨询意义。因此，政治/战略领导人可能会发现追求先发制人和预防性战争作为一种战略，以获得对敌人的不对称优势。

随着时间的推移，技术革新在战争中发挥了重要作用，并在许多领域逐步取代了人类的功能。在第一次世界大战（WWI）和第二次世界大战（WWII）之间的战时时期，战争被理论化为更远的距离，更快的执行，并通过越来越复杂的机器。目前的军事能力是一个演变趋势的结果，其中技术和信息发挥着核心作用。新技术的影响和未来战斗空间速度的提高可能会使指挥和控制功能在政治或战略层面过度集中。这一因素是下一届政治/战略领导层的道德困境的基础。

在滥用自动化和盲目限制自动化之间平衡决策过程的能力将是在自主系统的作战环境中发展有效的指挥和控制功能的一个关键方面。

未来的指挥与控制

在战时，一些领域的实验旨在确定赢得战争的最有效平台。即使战术层面上所有可用手段的整合创造了真正的不对称优势，每个平台的 "倡导者 "都在这个层面上提出了自己的观点，以获得战略家的关注，并最终在战争的马赛克中带来了另一块。

空中力量理论家认为，飞机本身是下一次冲突中的游戏规则改变者，在这个层面上，其他 "传统 "的战斗方式将被掩盖。其中，朱利奥-杜埃特认为，在战争时期，不再有战斗人员和平民的区别。因为战争是国家之间的全面对抗，平民成为合法的目标，战略上的成功只能来自于飞机和从空中进行的大规模轰炸。此外，杜赫特相信，由于胜利只能通过打击敌人的士气来实现，所以每一种解决方案都是可以接受的成功手段，包括用毒气毒害平民。最后，关键是要剥夺敌人建立空军的能力，否则就必须反复运用资源来击败敌人的空中舰队。

历史已经清楚地表明，这种绝对主义的设想是不准确的。空中力量本身并不是改变游戏规则的因素，然而它却有助于在所有级别的战争中与其他平台的结合创造出不对称的优势。也许，当飞机与核弹相结合时，人类进入了一个新的战争时代，证实了这样一个假设：整合/结合现有的手段是在战场上和其他地方取得成功的途径。

随着迅速接近一个日益自动化的世界，一些作者指出，一个革命性的突破正在战争的门口，它将以这样一种方式改变战争，"甚至可能挑战战争本身的本质"。自主革命的倡导者和怀疑者之间的对立是公开的，就像在杜赫特时期一样。一方是主张者，他们相信在自动化方面的优势竞赛将最终导致一场彻底的没有人类的战争。保罗-夏尔在他的《无主之军》中设想了发达的人工智能和自主机器之间的结合，能够在不与士兵、水手、空军等进行任何互动的情况下计划和执行军事行动。另一方面，一大批理论家认为，自动化将永远不会取代战争的人性。如果历史告诉我们什么，先进自动化的支持者将带来战争马赛克中的一块，把是否和如何依赖自动化系统的两难问题留在下一代领导人的手中。

图6：自主武器和自主战争之间的平行关系

自主系统与自主战争

由自主系统进行的自主战争的想法引起了人们对生存性质的严重关切，然而，大国之间的竞争正促使人们在获取人工智能和人工智能集成系统方面进行竞争。中国的目标是利用人工智能来开发大量的情报，生成一个共同的作战图，并加速战场决策。俄罗斯继续推行其国防现代化议程，目的是到2025年使其30%的军事装备实现机器人化，同时在发展蜂群能力方面追求不同平台的整合。美国国防部对人工智能采取了更为保守的做法。美国 "2018年国防部人工智能战略摘要 "指示以人为本的方式使用人工智能，特别是在关键任务领域加强军事决策和操作，提高态势感知和决策，提高操作设备的安全性，实施预测性维护和供应，并简化业务流程。此外，该战略还指出 "将优先部署人工智能系统，通过卸载繁琐的认知或物理任务和引入新的工作方式来增强人员的能力"。将所有这些方法放在一起，其趋势是：

• 信息收集和态势感知的自动化；
• 加强战场的机器人化和平台的整合；
• 增强的决策过程，以保持机器的执行速度。

战术及战略影响

要想在战场上有效地部署通用人工智能，并将人类 "排除在外"，自主地解决战争中的每一个问题，可能还有很长的路要走。 目前的能力可以在特定领域操作，并在某种程度上超过人类操作员。然而，技术的发展使得自主系统能够在人类的监督下进行自我协调（人类在环路上），并对特定的威胁进行群攻，正如美国海军用机器人代理指挥和感知的控制架构所展示的那样。

在战术层面，自主能力给能够部署它们的人带来明显的优势。在2016年的一段视频中，俄罗斯发明家Semenov Dahir Kurmanbievich演示了自主武器如何轻松地摧毁对手的常规部队，或对政府高级领导人采取具有战略意义的行动，出奇制胜。 自主武器在战斗中的主要特点是低签名、低能见度、低成本、没有人类的直接参与、高精度、耐用、战术智能体之间的相互联系、自我构建和适应性。总而言之，在战术层面，有可能设想出一种相互连接的平台织锦，可以用较少的人力和经济成本提供相同或更大的火力。作为一个例子，美国海军陆战队正在开发机器人战球，以支持两栖作战中最危险的阶段，即从船到岸的运动。这些自主系统为部队更安全地登陆创造了条件，通过蜂拥而上和冲击岸上的敌人防御结构。这种攻击只能用快速运作的系统来防御，这些系统具有自主性和智能性，为自动化提供了骑乘的条件。

特定领域的人工智能将改变冲突，就像以前的军事能力转型一样，它有可能对战略平衡产生深刻的破坏。在战略层面上，人工智能扮演着两种不同的角色。一方面，关于性能最强的人工智能的竞争已经在重新设计全球范围内的力量平衡。俄罗斯总统弗拉基米尔-普京表示，"谁在人工智能领域领先，谁就能统治世界"，但也表示 "对人工智能优势的竞争很可能会引起第三次世界大战"。 美国国家安全战略也认识到人工智能的战略影响，呼吁私营部门在那些能够影响国家安全挑战的情况下共同承担责任。 战略层面的框架是通过自动化迅速实现对竞争对手的不对称优势，事实上，美国上一个国防战略的目标之一是 "广泛投资于自主性、人工智能和机器学习的军事应用，包括快速应用商业突破，以获得竞争性军事优势"。

人工智能和自主系统的关键应用是增强预测模式的能力，将潜在的威胁可视化，正如DARPA的知识导向的人工智能推理模式（KAIROS），并比以往更快地制定行动方案，如人工智能在战争游戏中的应用，可以比人类同行更快地完成回合，并同时处理每一个可能的动作，提供以前未见的建议。 英国将军理查德-巴伦斯说："开源大数据和人工智能将成为情报系统的核心；商业低地球轨道立方体卫星将提供以前由昂贵的地球静止军事卫星完成的大部分图像--以更方便和低成本的方式；陆地、海上和空中的无人驾驶车辆将取代现在处于危险中的一些人类"。该声明反映了一种趋势，即关注安全结构，但也关注私营部门，作为一个系统而不是独立机构的集合来运作，这是一种整体政府的做法，也是整体工业的做法，但从本质上讲，解决决策过程集中于少数决策者的问题。

决策过程的未来可能会看到自主技术的引入对观察（O）、定位（O）和行动（A）阶段产生重大影响，并使决定（D）阶段进一步集中化。

自主性的危险

武装冲突的自动化提供了如此明显的机会，代表了下一个不对称的优势。从更广泛的角度来看，自主系统据称是解决不确定性、在有争议的环境中的力量投射和（人类）力量的经济性问题。然而，从指挥和控制的角度来看，人类和自主系统之间的关系是一个没有被彻底探索的领域。

无风险的战争。克里斯-科克尔指出，政治领导人可能 "对精确、无风险的战争的想法如此陶醉，以至于我们相信我们想相信的东西"。传统的工作人员评估军事干预的风险受到不完美信息的偏见影响。模块化的人工智能可能会在不久的将来帮助分析和评估风险，并减少错误的比例。这种技术在医学领域已经有了，它被认为是世界上最好的诊断仪。 从政治的角度来看，一个所谓的无风险的行动，其国内受众成本降低，使干预的决定更容易。

时间和信息（不受）控制。美国海军陆战队将军詹姆斯-卡特赖特在2007年预言："未来的决策周期不会是几分钟......未来的决策周期将是微秒级"。在不久的将来，对于每一个拥有这种能力的人来说，交战将可能是以光速进行的。未来的指挥和控制架构将看到地面和天基传感器、无人驾驶战斗飞行器（UCAV）和导弹防御技术的结合，并得到定向能量武器的增强。此外，决策过程（以人为本）将受到基于信息的系统激增所产生的数据过载的影响。鉴于有能力以更快的速度和更小的代理进行交战，防御者将无法观察活动，确定自己的方向，决定如何回应，并根据该决定采取行动。攻击者将把自己置于防御者的OODA循环之内，使对手进行积极防御的能力失效。迄今为止为军事决策过程提供信息的行动-反应-反击的循环将变得太快、太不可预测，无法以传统方式管理。从战略和行动的角度来看，决策的集中化将是处理 "肉搏战 "及其所需的反应性、可用时间短、信息分散的最理想方式。

对自主智能体的过度依赖。自主代理，可以更好地应对大量的信息，而且不容易受到认知偏差的影响。此外，自主智能体不受疲劳等物理因素的影响，也不受采用人类启发式方法在数据中建立可能没有必要的联系。 在战略层面上，那些由能够提供建议的人工智能协助的决策者，可能会认为自动系统的功能是一个 "神谕"，它将取代合格工作人员的咨询功能。关键的含义是加强了与决策过程有关的两个心理方面。一方面，神谕增强了决策者的代理感，即使没有直接的战争经验。另一方面，它将取代关键决策所需要的努力的心理活动，减少有经验的工作人员的相关性，而支持基于计算机的建议的速度。

先发制人的攻击风险。一场半自主的战争将以系统的整合、信息的主导、几乎无风险的暗示和放大的对峙为特征。一个模块化的人工智能可以被编程来处理全方位的战略问题。不难设想一种升级主导的趋势，目的是将时间强加给对手，迫使其投降。所有这些都会极大地破坏稳定，并可能鼓励先发制人的攻击，以及促使非对称战争的发展。 高强度行动、网络空间以及使用速度超过光速的导弹和无人驾驶车辆所隐含的瞬时决策已经导致了对 "超战争 "的警告。克劳塞维茨正确地指出，最大限度地使用武力与同时使用智力决不是不相容的。如果一方不加计算地使用武力，不畏流血牺牲，而另一方则保持克制，那么前者将占上风，一方将迫使另一方效仿，每一方都会将其对手推向极端，而唯一的限制因素是战争中固有的反方法。