《将大型语言模型（LLM）整合到海军作战规划中》

本文概述了一种评估和量化与集成大型语言模型（LLMs）生成海军作战规划有关风险的方法。其目的是探讨大型语言模型在这方面的潜在优势和挑战，并提出一个全面风险评估框架的方法。

大型语言模型（LLM）是一种先进的人工智能系统，它在庞大的数据集上经过训练，可以处理和生成文本，使其能够执行从简单的问题解答到复杂的内容创建等各种任务。大型语言模型，如 ChatGPT 和 Bard，在理解、解释和生成人类语言方面已显示出非凡的能力。它们在海军作战中的潜在用途可提供显著的战略优势，如增强决策支持、情景分析和作战计划效率。然而，在敏感的军事环境中部署这些先进的人工智能技术会带来一些关键的风险问题，包括潜在的偏见、作战安全问题以及人工智能生成战略的可靠性。

这项研究的意义在于其重点关注大型语言模型在海军作战计划生成中的整合。通过研究潜在风险并制定评估这些风险的框架，本研究旨在促进在这些海军作战环境中安全、战略性地使用人工智能技术，同时使技术进步与作战安全和有效性保持一致。

对现有文献的回顾显示，专门针对军事应用中大型语言模型的全面风险评估框架存在空白。有关大型语言模型的研究主要集中于其技术能力和在民用环境中的应用。然而，军事行动的独特挑战，尤其是在海军环境中，需要一种专门的风险评估方法。本研究试图通过开发一种基于海军作战计划的具体要求和复杂性的方法来弥补这一差距。

研究方法

本研究的理论框架以贝叶斯网络为基础，贝叶斯网络提供了一种结构化方法，用于模拟与 LLM 部署相关的各种风险因素之间的复杂关系。由于贝叶斯网络能够处理不确定性和概率关系，因此特别适合用于这一目的，使其成为评估海军行动中 LLM 集成的多方面风险的理想工具。

本研究吸收了 Lauría 和 Duchessi（2007 年）概述的方法论中的见解，采用类似的结构化方法来构建贝叶斯网络，并以实证数据收集和分析为基础。我们的方法首先是编制和管理一份调查问卷，其答复将作为初始数据源，用于确定与海军作战计划风险相关的变量之间最有可能存在的关系。这一过程为我们的贝叶斯网络中每个节点的条件分布设置了后续参数。通过这种方法，我们旨在建立一个稳健的贝叶斯网络模型，以准确反映与 LLM 生成的作战计划相关的风险的复杂相互依存关系和概率性质，并在分析更多作战计划和整合更多经验数据时进一步完善我们的模型。

本研究的方法包括以下几个关键步骤

• 问卷编制与管理

• 数据收集与分析

• 贝叶斯网络建模

• 风险分类和评估

• 问卷编制和管理 将设计一份详细的调查问卷，以便从海军人员、人工智能专家和军事战略家等广泛的利益相关者那里收集信息。问卷将包含各种海军作战计划，其中一些由 LLM 生成，另一些则由作战规划人员编写，以确定这些计划中的潜在风险途径。

• 数据收集与分析 将收集和分析调查问卷的答复，以确定海军作战计划的关注领域。这一分析将为确定与作战计划相关的关键风险因素以及由 LLM 生成的计划所特有的风险因素奠定基础。

• 贝叶斯网络建模 将使用贝叶斯网络对确定的风险因素进行建模，以了解其相互依存关系和这些风险的概率性质。该模型将作为一种动态工具，用于评估和直观显示这些生成的业务计划的复杂风险状况。

• 风险分类和评估 通过调查问卷和贝叶斯网络模型确定的风险将根据其对海军行动的潜在影响进行分类和评估。这一步骤包括对每个风险因素进行全面评估，同时考虑其可能性和严重性。

分析

研究的分析阶段包括对大型语言模型生成的假设计划和人类战略家创建的计划进行比较研究。这种比较旨在突出 LLM 生成的计划的优势、局限性和潜在风险。此外，研究还将探讨降低已识别风险的策略，如纳入制衡机制、提高透明度和确保持续验证 LLM 的产出。

这项研究预计将产生几项重要成果：

• 从利益相关者反馈和贝叶斯网络分析中得出的与海军作战规划中使用大型语言模型相关的风险因素综合清单。
• 评估已确定风险的结构化框架，为决策者评估和减轻将大型语言模型纳入作战规划的潜在挑战提供依据。
• 对大型语言模型生成的计划和人工创建的计划进行比较分析的结果，为了解大型语言模型在业务规划方面的能力和局限性提供了宝贵的见解。
• 降低已识别风险的建议，确保在将大型语言模型纳入实际行动时，既能实现最大效益，又能将潜在弊端降至最低。

初步结果

在此，使用 ChatGPT 生成了一个基于以下指挥官意图的虚构作战计划样本： "我的意图是支持菲律宾武装部队在菲律宾中部受灾地区开展人道主义援助和灾难响应（HA/DR）行动。我们将提供一切可用的援助，以减轻人类痛苦并恢复正常状态"（图 1）。

图1:ChatGPT生成的行动计划

LLM 为菲律宾中部地区虚构的 HA/DR 行动制定的行动计划展示了该模型构建全面响应战略的能力。不过，它也凸显了与 LLM 生成的计划相关的几个潜在风险。

该计划概述了在帕奈岛建立一个前沿行动基地，但没有考虑该岛目前支持此类行动的能力或对当地社区的潜在影响。这种疏忽可能会使当地资源紧张或扰乱地方当局正在进行的恢复工作。

使用无人机进行即时空中勘测的假设是，可以快速、准确地确定最需要帮助的地区。然而，这种方法可能无法考虑快速变化的天气条件或评估后出现的新紧急情况，从而可能导致资源分配不当。

如果出现不可预见的技术问题，或同时需要直升机执行多项紧急任务，那么依靠海军直升机在公路无法到达的地区进行空投可能会出现问题。这凸显出可能会过度依赖特定资产，而不考虑替代或后备交付方法。

恢复阶段建议协助恢复关键基础设施，但没有详细说明参与范围或开始撤出海军资产的标准。这种不具体的做法可能导致过早撤离或超出海军行动能力的长期参与，影响恢复工作的整体效果。

对这个由 LLM 生成的作战计划的审查不仅说明了人工智能在提高作战计划能力方面的潜力，而且也表明了我们为 LLM 生成的海军作战计划开发综合风险模型的研究工作的必要性。识别人工智能方法中固有的特定风险因素--如对当地基础设施能力的假设、对技术的依赖以及计划执行和完成标准的模糊性--表明需要一个能够有效评估这些风险的框架，以便在使用这些工具时能够考虑到这些风险。研究旨在通过使用方法来评估、分类和管理与在复杂作战环境中部署大型语言模型相关的风险，从而弥补这些差距。通过整合这些风险模型，我们可以更好地确保负责任地利用大型语言模型的创新能力，提高作战计划的有效性和可靠性。

Palantir AIP（人工智能平台）是将人工智能系统（包括许多依赖大型语言模型的能力）整合到运营环境中的尖端方法。虽然利用这些先进的工具可以让组织利用人工智能系统的大型能力，但在 Palantir AIP 等平台中使用大型语言模型清楚地表明，亟需对所有潜在的相关风险因素进行全面研究。随着这些人工智能驱动的系统被部署到运营规划的越来越多的重要方面进行协助和自动化，人工智能生成的内容的特殊细微差别成为重要的关注领域。

展望大型语言模型在海军行动中的部署，会暴露出另一个风险途径，特别是在支持此类技术所需的基础设施方面。大型语言模型需要大量的计算和数据传输，还需要实时数据处理和无缝通信，以执行人工智能驱动的作战计划，这就要求网络基础设施不仅要有弹性，还要有很强的适应性。这就是软件定义网络（SDN）的潜在整合意义所在。SDN 以其灵活性和可配置性著称，是一种先进的网络框架，有可能支持 LLM 部署的要求。然而，SDN 的引入也带来了关于现有海军网络基础设施是否已准备好适应此类先进技术的问题，这突出了我们在海军行动中引入人工智能能力时需要考虑的另一个领域。

本研究的预期结果对大型语言模型的战略整合对未来海军行动具有重大影响。通过提供一个全面的风险评估框架，本研究旨在促进在海军行动中明智决策和负责任地使用人工智能技术，为在更广泛的军事背景下负责任地使用人工智能技术奠定基础。此外，这项研究填补了文献中的重要空白，有助于加深对海军行动中整合 LLM 所带来的挑战和机遇的理解。

本研究概述了评估将大型语言模型纳入海军作战计划相关风险的综合方法。通过开发结构化风险评估框架并探索部署 LLM 的潜在益处和挑战，本研究旨在为在军事行动中负责任地、有效地使用人工智能技术做出贡献。未来的研究方向包括根据实证研究结果完善风险评估框架，探索大型语言模型在更广泛军事环境中的其他应用，以及制定在敏感作战环境中合乎道德地使用人工智能的指导方针。