摘要

人工智能（AI）和机器学习（ML）有望对联盟的多领域混合行动产生变革性影响。在战术边缘的联盟行动中，支持情景理解的人工智能/机器学习方法目前有相当大的研究兴趣。联盟行动需要分布式人工智能/机器学习，它对复杂的多行为体情况具有强大的能力。高度复杂性信息需要通过一系列传感方式来收集，并根据人类的需求和能力来进行高速处理。自2016年以来，美国/英国分布式分析和信息科学（DAIS）联合计划研究正在解决联盟对可适应、可信赖和有弹性的AI/ML的需求：可适应的人工智能是指能够在动态情况下快速适应的人工智能系统；可信赖的人工智能是指人类用户能够快速校准他们对人工智能系统的信任；有弹性的人工智能涉及对对手攻击和欺骗有弹性的人工智能系统。

本文重点关注以快速整合利用联盟人工智能/机器学习资产为中心的DAIS研究，包括符号（基于逻辑）和亚符号（基于深度神经网络）方法。本文的重点是，我们考虑了涉及检测相互关联的事件模式，这些事件形成了只有稀疏的训练数据（对于机器学习）可用的情况。快速信任校准是通过可解释的人工智能--涉及可解释的符号和亚符号方法--和不确定性的有效管理--考虑不确定性的启示和认识结合来解决的。虽然这不是本文的主要重点，但通过显示综合神经符号系统对有针对性的模型中毒对抗性攻击的稳健表现，以及可解释的人工智能/机器学习服务对多模态传感数据的处理使综合系统更难被攻击，我们考虑了复原力。为了更容易地吸收工作计划，我们使用了一个基于北约Anglova演习的城市环境中协调攻击的单一综合案例研究。

本文重点关注以快速整合利用联盟AI/ML资产为中心的DAIS研究，包括符号（基于逻辑）和亚符号（基于深度神经网络）方法。本文的重点是，我们考虑了涉及检测相互关联的事件模式环境，这些事件形成了只有稀疏的训练数据（对于ML）可用的情况。快速信任校准是通过可解释的人工智能--涉及可解释的符号和亚符号方法--和不确定性的有效管理--考虑不确定性的启示和认识类型的结合来解决。虽然这不是本文的主要重点，但通过显示综合神经符号系统对有针对性的模型中毒对抗性攻击的鲁棒表现，以及采用可解释的AI/ML方法对多模态传感数据处理，使得综合系统更难被攻击。此外我们考虑了系统的弹性力。为了更容易地解读工作规划，我们使用了一个基于北约Anglova演习的单一综合案例研究。

引言

军事行动通常涉及与联盟伙伴合作，在面对快速演变的局势时采取有效措施。实现联盟态势理解（CSU）既包括洞察力，即认识现有的情况，也包括预见力，即学习和推理，以便对这些情况进行推断，利用整个联盟的资源，包括各种模式的传感器反馈和分析服务。因此，军事信息处理系统需要能够近乎实时地识别分布在时间和空间上的重要活动模式，而不会产生太多的错误告警信息。用信息处理的语言来说，这要求有能力识别一组单独事件之间的关系。近年来，适用于CSU的人工智能（AI）和机器学习（ML）技术取得了重大进展。基于深度学习的人工智能系统正在不断提高其识别此类单个事件的能力。然而，这种基于深度神经网络的最先进的ML技术需要大量的训练数据；但不幸的是，CSU中代表性训练实例通常是稀少的。此外，基于ML的分析服务不能是 "黑盒子"；它们必须能够解释它们的输出，并量化它们在决策中的不确定性，以使用户能够校准他们对基于AI的资产的信任，并且这个过程应该是快速的。

我们描述了一种综合的CSU方法，它将深度神经网络与符号学习和推理，以及可解释性和不确定性的技术结合起来，集成在一个有利于人类与人工智能合作的环境中。该方法支持多模式传感数据的处理，并强调了两个关键特征。

人类能够通过增加新的规则迅速注入关于行动模式的新知识或假设--这意味着在没有足够的时间或数据来训练深度学习模型的情况下也能识别模式。
对训练数据的需求大大减少（当感兴趣的模式例子相对稀少时尤其重要），且人工智能模型训练更快，检测精度比 "纯 "深度学习方法有所提高。

我们的方法是松耦合的，基于开放架构的开源软件，基于人工智能的资产可以在网络边缘设备上运行，因此适用于战术传感器系统。我们的综合方法旨在使基于人工智能的国防CSU系统具有以下特点：（1）适应性强，能够以 "战斗的速度 "学习和适应；（2）可信，意味着人类用户能够迅速校准他们对基于人工智能资产的信任；以及（3）对对手的攻击和欺骗有弹性。本文报告了自2016年以来在美国/英国分布式分析和信息科学（DAIS）联合计划中进行的研究。为了更容易吸收该工作计划，我们在一个综合场景中介绍了关键的科学和技术组成部分：城市环境中的协调攻击。

成为VIP会员查看完整内容