《人工智能在加拿大陆军中的应用：当前的可能性和未来的挑战》加拿大陆军陆战中心

作者：

加拿大陆军陆战中心的Geofrey Priems少校
加拿大国防研究与发展--作战研究与分析中心的Peter Gizewski

引言

全世界对人工智能（AI）军事应用的兴趣正在增长。事实上，与其他一些技术进步一样，人工智能越来越被视为军事效力的潜在重要推动力。

毫不疑问，人们对人工智能对加拿大陆军（CA）的影响以及其采用人工智能的可能性的兴趣正在上升。关于如何以及在多大程度上可以利用人工智能来潜在地帮助实现紧密作战应用的问题：加拿大陆军的顶点作战概念--"不确定性时代的陆地力量 "的实现，以及加强陆军的五项作战功能的实施，这些问题尤为突出。有关有效采用人工智能可能面临的挑战以及克服这些挑战所需措施的问题也同样突出。

本文对这些问题进行了初步研究。它源于加拿大陆军陆战中心正在进行的关于人工智能的工作，以研究和确定人工智能对加拿大陆军和有效实现陆军顶点作战概念的影响。

文章概述了人工智能在军队采用和开展军事行动方面所带来的潜在好处和挑战。然后，文章研究了人工智能对实现密切交战的潜在影响，确定了人工智能的应用有望提高军队的作战效率的领域。文章最后概述了一些必要的关键前提条件和做法，以确保这些工作是负责任的和有效的。

人工智能

人工智能的定义有很多，而且在不断发展。然而，按照国防部目前的定义，人工智能是 "计算机执行与人类逻辑有关功能的能力，如推理、学习和自我改进"。虽然没有被普遍接受，但这样的表述为在CA背景下讨论人工智能提供了一个体制上熟悉和充分的基础。

潜在利益

军事组织探索、开发和采用人工智能的激励措施是引人注目的。鉴于高速计算机（网络速度和处理能力）和人工智能算法处理和分析大量数据的能力，其速度和准确性远远超过人类，声称人工智能系统有可能全面改变国防，这并不令人惊讶。通过作为一种提高人类和机器分析速度的手段，人工智能有希望提高数据使用、管理和态势感知能力。对于军队来说，其结果很可能转化为成本节约、改进控制系统、加快决策、新的作战概念和更大的行动自由。

由人工智能支持的信息和决策辅助系统有可能促进在 "复杂的、时间紧迫的战地环境 "中做出更好的决策，允许更快地识别威胁，更快、更精确地确定目标，并根据战地条件的变化为指挥官创造灵活的选择。应用范围可以从指挥和控制以及情报、监视和侦察到训练和后勤。此外，作为机器人和自主系统的骨干技术，人工智能为武器装备的创新提供了前景，使具有相当大的军事潜力的先进自主系统（如机器人系统和无人机）得以发展。人工智能甚至可能在部队结构和作战概念方面产生巨大的变化，有可能减少人员的负担和军事硬件的成本，同时提高战争本身的效率和效力。

这些技术无处不在，而且越来越多的盟军和对手都可以使用，这一事实进一步刺激了对人工智能军事技术的追求。就前者而言，盟国对人工智能日益增长的兴趣突出表明，需要有足够的人工智能能力来确保未来盟国的互操作性和军事有效性。至于后者，有证据表明，对手（如俄罗斯、中国）对人工智能的军事应用进行了持续的探索和投资，这增强了追求此类技术的动力，以检测和防御未来越来越多的人工智能军事威胁。

采用的限制和挑战

然而，有效引进人工智能的先决条件是相当多的，很可能对军事组织充分实现人工智能应用所带来的一些可能性的能力造成限制。此外，军队可能不完全愿意追求人工智能技术本身所固有的一些可能性。

事实上，目前的能力仅限于执行离散的功能和学习具体的任务（如狭义的人工智能）。人工智能技术的脆弱性令人担忧。脆弱性是指任何算法不能泛化或适应狭窄的假设集以外的条件。例如，在添加了一些位数后，一个停车标志可以被读成一个45英里/小时的限速标志。应用于涉及过度不确定性的情况实际上可能特别危险。例如，错误地选择和起诉友军目标，如友军战士或民用车辆。因此，在军事环境中，特别是在军事行动中，对人工智能的使用限制是相当大的。面对传来的信息可能不可靠、不完整或甚至被对手故意伪造的环境，相信这些技术提供的解决方案仍然很脆弱。

除此之外，即使在这种技术被普遍认为是可靠的领域，其开发和应用也可能是苛刻的。要求包括确保有足够数量的数据可供开发用于启用军事系统的算法。它们还包括确保算法本身的质量，这一要求取决于在将人工智能纳入军事系统之前提供和有效地准备和编码训练数据，以及确保来自现实世界数据的有效性，其中包括边缘案例（不常见的使用案例）。而且，它们包括确保开发和集成到军事系统中的人工智能是可靠的（即它以预定的方式工作）。

这些要求中的每一项都可能涉及相当大的挑战。获取大量的训练数据可能会遇到基于政治和法律限制的数据共享阻力，从而降低待训练算法的质量和使用这些算法的系统的可靠性。获得的数据可能包含种族、性别和其他源于数据准备和编码的偏见。此外，随着算法变得更加复杂，通过对手在训练数据集中注入不良数据而被操纵的可能性会增加。只要存在这些挑战，对人工智能的信任及其在军事领域的应用就可能受到影响。

这些风险可以通过仔细的人工监督和强大的测试得到控制。也就是说，真正有效的监督需要操作者熟悉人工智能技术的细节，以及重要的系统整合和社会化，这可能很难实现。由于对技术本身的理解存在困难，有效监督挑战就更大了。机器推理的过程不等同于人类，人工智能系统采用的逻辑也不容易理解。对于负责使用这些能力的指挥官和系统操作者来说--其中一些能力可以很好地决定生命和死亡--相信那些决策过程不透明的技术，可能是一座太遥远的桥梁。

对加拿大陆军的影响

这些现实表明，加拿大陆军采用人工智能，虽然有希望，但必须谨慎行事，并对限制有一个现实的认识。无论是加拿大还是加拿大陆军，都无法避免遇到上述挑战。例如，人工智能技术在没有适当人类监督的情况下越接近杀戮链，可能发生灾难性后果的风险就越大。因此，必须注意研究或采用能够帮助人类决策的技术。一个指示人类做什么的 "黑盒"人工智能将是不可接受的。人工智能顾问必须能够解释其建议/结论，以便人类能够理解并对所提出的建议有信心。人类决策者必须能够对人工智能所提供的解决方案向领导作出清晰和可理解的解释。

然而，如果谨慎地追求和应用，人工智能的大部分内容通常与《近距离接触，不确定时代的陆地力量》中详述的陆军要求非常吻合。紧密的作战应用目的是应对以快速变化为特征的作战环境的挑战，以及广泛的复杂的人道主义挑战和技术能力越来越强的对手，他们能够使用一系列机动性越来越强的致命和非致命系统以及精心设计的反措施。应对这些挑战在很大程度上取决于确保获得必要的信息和分析的能力，以便比对手更快地了解和调整不断变化的条件。作为一种先进的信息处理方法，人工智能可以提供一种重要的手段，通过提供比人类更快、更准确地处理和分析来自越来越多来源的数据来帮助满足这些需求。因此，人工智能可以作为一个重要的决策辅助工具，使个人和共同的理解得到发展，这对于确定潜在的作战方案，优先获得、处置和使用军事资产，以及提供及时开展行动所需的数据、信息和可操作的情报至关重要。

除此之外，人工智能甚至可能有助于加强陆军所依赖的网络安全。"能够远距离运行的高容量网络为军队行动的开展提供了显著的优势。事实上，一个安全和强大的网络是确保快速、安全地分发有效开展军队作战所需的数据和分析的核心。通过开发能够防范网络故障、电子战和网络攻击的算法，人工智能可以更充分地确保军队能够 "获得网络的优势"，从而以更安全、协调和协作的方式开展行动。在诸如互操作性、力量生成、力量投射和维持以及开展分散行动等方面的改进，都可能因此而受益。

自始至终，随着人工智能技术被推向战术边缘，将有必要确保有足够的电力（能源）来支持它。除了网络，先进的电源管理和电池技术将是至关重要的。