《面向人工智能军事行动的联邦自动元集成学习框架》2023最新17页论文

人工智能在军事领域的前景之一是其广泛的适用性，这似乎可以保证其被采用。在军事方面，人工智能的潜力存在于所有作战领域（即陆地、海洋、空中、太空和网络空间）和所有战争级别（即政治、战略、战役和战术）。然而，尽管有潜力，需求和人工智能技术进步之间的衔接仍然不是最佳状态，特别是在军事应用的监督机器学习方面。训练监督机器学习模型需要大量的最新数据，而这些数据往往是一个组织无法提供或难以产生的。应对这一挑战的绝佳方式是通过协作设计数据管道的联邦学习。这种机制的基础是为所有用户实施一个单一的通用模型，使用分布式数据进行训练。此外，这种联邦模式确保了每个实体所管理的敏感信息的隐私和保护。然而，这个过程对通用联邦模型的有效性和通用性提出了严重的反对意见。通常情况下，每个机器学习算法在管理现有数据和揭示复杂关系的特点方面表现出敏感性，所以预测有一些严重的偏差。本文提出了一种整体的联邦学习方法来解决上述问题。它是一个联邦自动集成学习（FAMEL）框架。FAMEL，对于联邦的每个用户来说，自动创建最合适的算法，其最优的超参数适用于其拥有的现有数据。每个联邦用户的最优模型被用来创建一个集成学习模型。因此，每个用户都有一个最新的、高度准确的模型，而不会在联邦中暴露个人数据。实验证明，这种集成模型具有更好的可预测性和稳定性。它的整体行为平滑了噪音，同时减少了因抽样不足而导致的错误选择风险。

关键词：联邦学习；元学习；集成学习；军事行动；网络防御

1 引言

随着步伐的加快，人工智能（AI）正在成为现代战争的重要组成部分，因为它为大规模基础设施的完全自动化和众多防御或网络防御系统的优化提供了新的机会[1]。人工智能在军事领域[2]的前景之一，似乎保证了它的采用，即它的广泛适用性。在军事方面，人工智能的潜力存在于所有作战领域（即陆地、海洋、空中、太空和网络空间）和所有级别的战争（即政治、战略、战役和战术）[3]。但与此同时，随着参与连续互联和不间断信息交换服务的互联系统数量的实时扩大，其复杂性仍在成倍增长[4]。从概括的角度来看，可以说人工智能将对以下任务产生重大影响：

1.太快的任务，反应时间为几秒钟或更少，在高复杂度（数据、背景、任务类型）下执行。

2.操作时间超过人类耐力的任务，或意味着长期的高操作（人员）成本。

3.涉及巨大的复杂性的任务，需要灵活地适应环境和目标的变化。

4.具有挑战性的行动环境，意味着对作战人员的严重风险。

支持上述任务的实时监测事件的应用程序正在接收一个持续的、无限的、相互联系的观察流。这些数据表现出高度的可变性，因为它们的特征随着时间的推移而发生巨大的、意想不到的变化，改变了它们典型的、预期的行为。在典型情况下，最新的数据是最重要的，因为老化是基于它们的时间。

利用数据的军事人工智能系统可以将军事指挥官和操作员的知识和经验转化为最佳的有效和及时的决策[3,4]。然而，缺乏与使用复杂的机器学习架构相关的详细知识和专业知识会影响智能模型的性能，阻止对一些关键的超参数进行定期调整，并最终降低算法的可靠性和这些系统应有的概括性。这些缺点正在阻碍国防的利益相关者，在指挥链的各个层级，信任并有效和系统地使用机器学习系统。在这种情况下，鉴于传统决策系统无法适应不断变化的环境，采用智能解决方案势在必行。

此外，加强国防领域对机器学习系统不信任的一个普遍困难是，采用单一数据仓库对智能模型进行整体训练的前景[1]，由于需要建立一个潜在的单点故障和对手的潜在战略/主要目标[6]，这可能造成严重的技术挑战和隐私[5]、逻辑和物理安全等严重问题。相应地，可以使更完整的智能分类器泛化的数据交换也给敏感数据的安全和隐私带来了风险，而军事指挥官和操作人员并不希望冒这个风险[7]。

为了克服上述双重挑战，这项工作提出了FAMEL。它是一个整体系统，可以自动选择和使用最合适的算法超参数，以最佳方式解决所考虑的问题，将其作为一个寻找算法解决方案的模型，其中通过输入和输出数据之间的映射来解决。拟议的框架使用元学习来识别过去积累的类似知识，以加快这一过程[8]。这些知识使用启发式技术进行组合，实现一个单一的、不断更新的智能框架。数据保持在操作者的本地环境中，只有模型的参数通过安全流程进行交换，从而使潜在的对手更难干预系统[9,10]。

2 提出的框架

在提议的FAMEL框架中，每个用户在水平联邦学习方法中使用一个自动元学习系统（水平联邦学习在所有设备上使用具有相同特征空间的数据集。垂直联邦学习使用不同特征空间的不同数据集来共同训练一个全局模型）。以完全自动化的方式选择具有最佳超参数的最合适的算法，该算法可以最佳地解决给定的问题。该实施基于实体的可用数据，不需要在远程存储库中处置或与第三方共享[11]。

整个过程在图1中描述。

图1.FAMEL框架。

具体来说就是：

步骤1--微调最佳局部模型。微调过程将有助于提高每个机器学习模型的准确性，通过整合现有数据集的数据并将其作为初始化点，使训练过程具有时间和资源效率。

步骤2--将本地模型上传至联邦服务器。

步骤3--由联邦服务器对模型进行组合。这种集成方法使用多种学习算法，以获得比单独使用任何一种组成的学习算法都要好的预测性能。

步骤4--将集成模型分配给本地设备。

从这个过程中产生的最佳模型（赢家算法）被输送到一个联邦服务器，在那里通过启发式机制创建一个集成学习模型。这个集成模型基本上包含了本地最佳模型所代表的知识，如前所述，这些知识来自用户持有的本地数据[12]。因此，总的来说，集成模型提供了高概括性、更好的预测性和稳定性。它的一般行为平滑了噪音，同时降低了在处理本地数据的场景中由于建模或偏见而做出错误选择的总体危险[13,14]。

结论

将机器学习应用于现实世界的问题仍然特别具有挑战性[44]。这是因为需要训练有素的工程师和拥有丰富经验和信息的军事专家来协调各自算法的众多参数，将它们与具体问题关联起来，并使用目前可用的数据集。这是一项漫长的、费力的、昂贵的工作。然而，算法的超参数特征和理想参数的设计选择可以被看作是优化问题，因为机器学习可以被认为是一个搜索问题，它试图接近输入和输出数据之间的一个未知的潜在映射函数。

利用上述观点，在目前的工作中，提出了FAMEL，扩展了制定自动机器学习的一般框架的想法，该框架具有有效的通用优化，在联邦层面上运作。它使用自动机器学习在每个联邦用户持有的数据中找到最佳的本地模型，然后，进行广泛的元学习，创建一个集成模型，正如实验所显示的那样，它可以泛化，提供高度可靠的结果。这样，联邦机构就有了一个专门的、高度概括的模型，其训练不需要接触他们所拥有的数据的联合体。在这方面，FAMEL可以应用于一些军事应用，在这些应用中，持续学习和环境适应对支持的行动至关重要，而且由于安全原因，信息交流可能很难或不可能。例如，在实时优化有关任务和情况的信息共享方面就是这种情况。在部署了物联网传感器网格的拥挤环境中，FAMEL的应用将具有特别的意义，需要满足许多安全限制。同样，它也可以应用于网络空间行动，在杂乱的信息环境和复杂的物理场景中实时发现和识别潜在的敌对活动，包括对抗负面的数字影响[45,46]。必须指出的是，在不减少目前所描述的要点的情况下，所提出的技术可以扩展到更广泛的科学领域。它是一种通用的技术，可以发展和产生一种开放性的整体联邦学习方法。

尽管总的来说，联邦学习技术的方法论、集成模型以及最近的元学习方法已经强烈地占据了研究界，并提出了相关的工作，提升了相关的研究领域，但这是第一次在国际文献中提出这样一个综合框架。本文提供的方法是一种先进的学习形式。计算过程并不局限于解决一个问题，而是通过一种富有成效的方法来搜索解决方案的空间，并以元启发式的方式选择最优的解决方案[47,48]。

另一方面，联邦学习模型应该对合作训练数据集应用平均聚合方法。这引起了人们对这种普遍方法的有效性的严重关注，因此也引起了人们对一般联邦架构的有效性的关注。一般来说，它将单个用户的独特需求扁平化，而不考虑要管理的本地事件。如何创建解决上述局限性的个性化智能模型，是目前一个突出的研究问题。例如，研究[49]是基于每个用户必须以联邦的形式解决的需求和事件。解释是可解释系统的各种特征，在指定的插图的情况下，这些特征有助于得出结论，并在局部和全局层面提供模型的功能。建议只对那些变化程度被认为对其功能的演变相当重要的特征进行再训练。

可以扩大拟议框架研究领域的基本课题涉及元集成学习过程，特别是如何解决创建树和它们的深度的问题，从而使这个过程自动完全简化。还应确定一个自动程序，以最佳的分离方式修剪每棵树，以避免负收益。最后，探索将优化修剪的树的版本添加到模型中的程序，以最大限度地提高框架效率、准确性和速度。

（完整内容请阅读原文）