《可信人工智能： 将人工智能融入美国陆军知识体系》

图4. 人工智能对目标定位的增强：人工智能可以通过搜索目标并在发现后发出警报来增强动态目标定位周期。

开发和使用新的军事技术是一个军事专业人员工作的一部分。事实上，军事历史在很大程度上是一个技术革新的故事，士兵需要学习如何操作新系统。因此，关于整合人工智能的很多东西并不新鲜。就像坦克、飞机甚至弩一样，随着时间的推移，士兵们学会了使用和运用技术，工业界学会了以足够的数量和质量生产技术，高级领导人学会了运用技术来实现战略效果。如前所述，人工智能技术与它们的颠覆性“前辈”之间的区别在于，前者有能力改善广泛的军事武器、系统和应用。由于这种潜在的普遍性，几乎所有的士兵都必须在某种程度上变得熟练，才能有效地和道德地运用AI技术。随着这项技术在应用上的扩展，战争将像管理暴力一样管理数据。

这种普遍性也提出了关于人类发展和人才管理的问题。尽管培训计划最终会培养出更多的知识型士兵，人事系统也会提高管理士兵的能力，但军警人员能够获得知识和技能的限制仍然存在，特别是在作战层面。尽管讨论的目的不是要建立严格的指导方针，但讨论确定了士兵需要获得的许多知识。例如，士兵将需要知道如何策划和培训数据库，而该数据库对他们正在执行的任务有着重要作用。这样做需要确保数据的准确、完整、一致和及时。使用这些数据需要熟练应用推荐模型卡中描述的条件，而熟练的操作有助于确保算法以有效和道德的方式执行。

当然，信任不能仅靠政策和程序来保证。指挥官、参谋员和操作员需要知道他们被信任做什么，以及他们信任系统做什么。指挥官、参谋员和操作员信任人工智能系统来识别合法目标，并避免识别非法目标。参与这一过程的人必须在使用这些信息时，既需要击败敌人，又必须避免友军和非战斗人员的伤亡。要找到这种平衡，就需要判断人应该承担多大的风险。

只要参与流程的人类能够与系统进行有效的互动，由人工智能赋能的系统就能促进找到这种平衡。在将人类控制整合到机器流程中时，人们经常被迫在控制和速度之间做出选择：强加的人类控制越多，系统的运行速度就越慢。但本研究发现这种两难的局面是错误的。尽管在某些情况下，在人的控制和速度之间进行平衡可能是必要的，但如果系统要最佳地运作，人的输入是必要的。

实现最佳性能首先要求指挥官确保参谋和操作人员了解模型能力，理解数据质量的重要性，以及洞悉模型在作战环境中的表现。尽管它可能不会使系统更加精确或准确，但实现这些任务可使系统能够更好地对输出进行概率分配。第二，指挥官需要确定对任务、友军战斗人员和敌方非战斗人员的风险有多大才合适。这一决定很复杂，其中关键任务可能是需要容忍更多的友军和非战斗人员伤亡。同样，如果非战斗人员的密度较低，即使任务不那么紧急，也可以容忍较高的风险。寻找这种平衡将是人类的工作。

但在前面描述的模糊逻辑控制器的帮助下，指挥官可以更好地确定什么时候可以信任一个人工智能系统在没有人类监督的情况下执行一些目标定位步骤。此外，可以通过构建交互的逻辑，以找到多种不同的人机互动配置，确保系统的最佳使用，同时避免不必要的伤害。在LSCO期间，让指挥官在需要时选择智能和负责任地加快目标定位过程将是至关重要的，本报告中提出的设计实现了这一目标。这一成就在未来尤其重要，因为为了保护部队并实现任务目标，指挥官将面临大量时间敏感目标，及面临承担更多风险的操作条件。

在培养具有正确技能的足够数量士兵以充分利用人工智能技术方面，仍有大量的工作。目前的人才管理计划尚未达到管理这一挑战的要求，尽管多个有前途的计划准备最终满足需求。然而，在大多数情况下，这些计划都是为了满足机构层面的要求，在机构层面上做出全军采买人工智能和相关技术的决策。但是，这些技能将如何渗透到作战陆军，尚不清楚。

尽管人工智能在目标定位中的使用并不违反当前的战争法，但它确实引起了一些道德伦理问题。在所讨论的目标定位系统背景下，这些伦理问题中最主要的是问责制差距和自动化偏见。第一个问题对于回答核心问题至关重要，“指挥官在什么基础上可以信任人工智能系统，从而使指挥官可以对这些系统的使用负责？”自动化偏见和数据卫生与问责制差距有关，因为当这些问题存在时，它们会破坏指挥官可能希望实施的有意义的人类控制措施。指挥官可以通过以下方式缩小问责差距：首先，确保人员受到适当的教育、技能和培训，以整理相关数据；其次，确保指挥官允许的风险，准确地反映完成任务与保护友军士兵和非战斗人员之间的平衡需求。指挥官还可以通过在机器需要更多监督时向参与该过程的人类发出信号来减少自动化偏见的机会及其潜在影响。

作为一个专业人员，不仅仅意味着要提供服务，还要在出问题时承担责任。专业人员还必须了解各种利益相关者，包括公众和政府及私营部门实体，如何与本行业互动和竞争。鉴于这些技术的潜力，军事专业人员必须首先学会在技术及其应用的发展中管理预期。由于这种演变影响到专业工作的特点，军事专业人员还必须注意专业以外的人如何重视、奖励和支持这项工作。因此，随着美军继续将人工智能和数据技术整合到各种行动中，对其专业性的考验将在于拥有专业知识的能力，以及建立能够继续发展、维护和认证这种专业知识的机构，这些机构既能满足美国人民的国防需求，又能反映他们的价值观。