《多域作战时代的AI和ML：愿景与陷阱》美国陆军战争学院19页论文

摘要

当作战人员和指挥官努力理解以加速复杂性为特征的竞争环境并在其中采取行动时，他们面临着巨大的挑战。人工智能（AI）和机器学习（ML）对于在多域作战（MDO）中五个领域作战的决策者来说，代表着巨大的潜力，特别是随着成本的下降和越来越多的破坏性技术赋能我们的对手。围绕人工智能/ML在自动化方面的军事应用的合理担忧也需要仔细考虑。我们如何让作战人员拥有正确的工具来克服复杂性，并在紧迫的决策周期内迅速适应技术上精明的对手？重要的进展需要思考我们到底想去哪里，哪些陷阱和隐患可能会使我们误入歧途。在本文中，我们介绍了一个框架，以促进对机器增强型未来军队的讨论和理解，强调了愿景对实现这一目标的至关重要性。考虑到一系列MDO的挑战，我们强调AI和ML能力如何能够改善人类的控制，以尽量减少错误和悲剧的发生。最后，为了避免潜在的悲剧性失误，我们强调了在军事行动中应用AI/ML的关键陷阱，因为作战环境和复杂系统的固有不确定性。

关键词：人工智能（AI），机器学习（ML），多域作战（MDO），机器智能，作战复杂性，颠覆性技术，AI陷阱

1. 导言

前陆军参谋长马克-A-米利将军将MDO描述为对 "人工智能、高超音速、机器学习、纳米技术和机器人等新兴技术 "同时驱动战争特征根本性变化的回应。他特别强调，这些变化及其在美国战略竞争对手手中的力量促使我们迫切需要 "审查我们作战方法的所有方面......挑战我们的基本假设，并......了解我们潜在敌人的能力和目标。"在本文中，我们考虑如何在MDO的背景下思考AI/ML--智能机器的理想未来和不可避免的陷阱，不断反省和基于威胁的评估，以了解和追求机器强化的军队中的正确和良好。

通过考虑正确和良好的愿景，我们希望鼓励和集中富有成效的思考和讨论，围绕着如何最好地利用日益增长的机器力量来支持军队MDO的挑战，同时也塑造未来，使我们可能真的认可我们到达那里时发现的东西。Max Tegmark坚定地提出，面对未来人机关系的不确定性，需要有远见，他说："与其像偏执的疑病症患者一样被恐惧所麻痹，我们都需要加入对话，讨论用技术引导的未来是什么样的。如果我们不知道我们想要什么，我们就不可能得到它。"尽管对最好的未来可能是什么样子不可避免地存在着广泛的分歧，但围绕着对一个注入了日益强大的技术的世界的愿景及其潜在的巨大社会影响的讨论，只能帮助我们发现并告知一个更好的道路。愿景将有助于定义一个地平线。它应该渴望代表一个持久的理想，但也要预见到随着我们对世界的理解而演变。

智能机器具有巨大的潜力，可以为人类带来无数的好处。即使是那些强调机器智能危险的最强烈的声音也承认这一点，因为有适当的解决方案。可以理解的是，当辩论转向使用武力时，要求谨慎的呼声就会被放大。尽管许多专家表示相信，诸如对人类命运漠不关心的超级智能机器的兴起这样的生存危险并没有迫近到足以开始采取政府政策和监管行动的地步，但如果它们真的来了，单单是这个幽灵就迫使人们对如何最好地管理它们进行深思熟虑的审议。本文的重点是促进讨论从军事角度看理想的未来是什么样子。我们避免对时间框架和预测的猜测，只假设机器将变得越来越有能力，并与多领域时代日益增长的挑战有关。

我们发现，在有关自主权的道德限制、战争法和当前AI/ML政策的积极和持续讨论的背景下，军事业务是人类业务。例如，2018年美国防部关于人工智能的战略指示，"我们将以以人为本的方式使用人工智能。"越来越多的智能机器有巨大的潜力来提升性能，与快速发展的复杂竞争环境保持同步，同时在以前的技术进步的基础上，拯救生命，减少不必要的或附带的损害。下一代系统和人机团队可以增加而不是减少人类对战争的控制，超越精确制导武器已经实现的成果。

机器的作用是在人类的伙伴关系中，改善人类活动的表现。智能机器将越来越多地提高人类组织的绩效，帮助人类领导层重新规划环境的复杂性和重点，以更好地识别原始数据海洋下的相关性和意义。智能机器的应用，特别是作为与人类合作的自动化智能体，将越来越多地帮助军队减少浪费和提高再供应的性能，通过扩大医疗努力来发现治疗和救生方法来拯救生命，减少维护成本，最大限度地减少排放和能源消耗，以及减少作战人员的风险，同时通过提高意识和精确度来集中使用武力，保护无辜者。机器将帮助我们减轻理性和认知方面的限制和偏见，以改善决策，同时也缩短决策周期，以匹配和超越我们的对手。

技术为我们提供了比以往更多的机会，但许多可能在未来几年影响军事行动的进展，包括ML/AI，将有越来越低的准入门槛。正如在没有全球和平主义的情况下，暴力或其威胁是不可避免的一样，我们的愿景必须考虑到我们对来自广泛的对手的威胁的反应，其中许多人将不赞同我们的克制观点。我们将没有其他选择，只能在这种威胁出现时以机器的速度作出反应。基于威胁的需求将不可避免地引发紧张局势，因为我们要努力平衡军事效力、向机器授权和有意义的人类控制。

可能最重要的是，就像精灵的魔法愿望中令人不舒服的选择一样，技术的陷阱代表着滥用和遗憾的承诺，只有仔细思考和洞察力才有希望减轻。在接下来的章节中，我们将为军事行动背景下的AI/ML提供一个框架对话，然后概述MDO的巨大挑战和技术缓解的相关机会。最后，我们考虑了智能机器应用中与军事行动特别相关的几个关键陷阱的分类法。