美国海军研究生院《人工智能系统：国防应用的独特挑战》中文版（含16页PDF、23页讲解ppt）

会员服务 ·

美国海军研究生院《人工智能系统：国防应用的独特挑战》中文版（含16页PDF、23页讲解ppt）

2022 年 4 月 19 日 专知

导语：AI/ML在国防应用中存在诸多挑战，美国海军研究生院Bonnie Johnson对此进行了系统分析。专知特此做了中文编译，欢迎关注，完整中英文版请上专知网站(www.zhuanzhi.ai)查看！

欢迎关注专知【AI+军事】主题：

https://www.zhuanzhi.ai/topic/2001883600396423

以下为正文：

摘要

如今，随着技术的飞速发展和威胁环境变得更加复杂，作战人员面对息爆炸，面临着具有挑战性的决策空间。人工智能(AI)和机器学习(ML)是可以减轻作战人员负担的进步。人工智能系统具有深远的好处——提高态势感知能力，检测威胁，理解对手的能力和意图;确定和评估可能的战术行动方针;并提供方法来预测行动决策的结果和影响。人工智能系统是理解和解决高度复杂的战术情况的关键。

人工智能系统为作战人员提供了优势，但前提是这些系统被正确设计和实施，并且以减轻作战人员的认知负荷的方式。为国防应用实施人工智能系统带来了独特的挑战。本文确定了四个独特的挑战，并描述了它们如何影响战术作战人员、工程设计界和国防。本文通过国防采办和系统工程计划，为解决这些独特的挑战提供了解决方案。

作者简介：

Bonnie Johnson——在海军工程研发方面拥有超过 25 年的领导和系统工程经验。她曾是 SAIC 和诺斯罗普·格鲁曼公司的高级系统工程师，研究用于海战系统和导弹防御能力的自动决策辅助。她于 2011 年加入美国海军研究生院 (NPS) 系统工程系。她拥有 NPS 系统工程博士学位、约翰霍普金斯大学系统工程硕士学位和弗吉尼亚理工大学物理学学士学位。

引言

人工智能是一个包含许多不同方法的领域，其目标是创造具有智能的机器（Mitchell，2019）。图 1 显示了一个简单的维恩图，其中机器学习 (ML) 作为 AI 的子集，而 AI 作为更广泛的自动化类别的子集。自动化系统以最少的人工输入运行，并且经常根据命令和规则执行重复性任务。人工智能系统执行模仿人类智能的功能。他们将从过去的经验中学到的知识与收到的新信息结合起来，以做出决策并得出结论。

图 1. 自动化、人工智能和机器学习的维恩图

如图 2 所示，有两种主要类型的 AI 系统。第一种类型是明确编程的，也称为手工知识系统。Allen (2020) 将手工知识系统描述为“使用传统的、基于规则的软件，将人类专家的主题知识编码为一长串编程的‘如果给定 x 输入，则提供 y 输出’规则的人工智能”（第3页）。这些系统使用传统的或普通的编程语言。第二种类型是从大量数据集训练而来的机器学习系统。ML 系统从训练过的数据集中“学习”，然后在操作上使用“训练过的”系统在给定新的操作数据的情况下产生预测结果。

图 2. 两种类型的人工智能：显式编程和学习系统

自动化、人工智能和机器学习系统，包括手工知识系统和学习系统，为美国国防部 (DoD) 提供了巨大的潜力，在大多数任务领域具有多种应用。这些智能系统可以扩展国防部理解复杂和不确定情况、制定和权衡选项、预测行动成功和评估后果的能力。它们提供了在战略、规划和战术领域支持国防部的潜力。人工智能系统可以减轻作战人员的负担，但前提是这些系统的设计和实施正确，并且以减轻作战人员认知负担的方式。这为国防应用实施人工智能系统提出了独特的挑战。本文确定了四个独特的挑战，并描述了它们如何影响战术作战人员、工程设计界和国防。

第一个为国防应用实施人工智能系统的独特挑战是战术战争呈现高度复杂的情况。战术复杂性可能涉及信息超载、需要处理的多个并发任务、具有可怕后果的时间关键决策、态势感知的未知/不准确/不完整，以及因各种分布式战争能力所需的互操作性而产生的工程挑战。将人工智能系统添加到这个已经很复杂的环境中是一项必要但极具挑战性的工作。

第二个独特的挑战是人工智能系统需要大量数据来训练。所开发的人工智能系统的质量很大程度上取决于训练数据集的质量和数量。军事领域的数据尤其难以获得。军事数据可能涉及分类问题、网络漏洞、数据验证挑战，并且根据舰队演习和兵棋推演的需要，收集起来可能非常昂贵且耗时。

第三个独特的挑战是人工智能系统为系统工程提出了一个新的前沿。在传统系统中，行为是固定的，因此是可预测的：给定输入和条件，系统将产生可预测的输出。一些人工智能解决方案可能涉及本身就很复杂的系统——适应和学习——因此会产生无法预料的输出和行为。事实上，一些人工智能系统的目的就是为了做到这一点——与人类决策者合作，承担一些认知负荷并产生智能建议。需要系统工程方法来设计智能系统，并确保它们对人类操作员来说是可解释的、可信赖的和安全的。

第四个独特的挑战是，对于国防应用，总是需要考虑潜在的对手。在人工智能系统方面，采购界必须注意同行竞争对手国家，他们在人工智能进步方面取得了自己的进步。美国国防系统也必须在这场人工智能竞赛中取得进步。网络攻击在防御系统中总是有可能发生的。随着防御能力增加对自动化和人工智能系统的依赖，这可能会造成更多的网络漏洞。最后，技术正在迅速发展，对抗性威胁空间正在发生变化。国防采购和系统工程界必须确保人工智能系统不断发展和适应，以应对威胁环境的变化，并以可信赖和安全的方式做到这一点。