大语言模型对武器系统自主性和准确性的影响：人工智能的前景

三十多年来，武器系统供应商一直在使用人工智能（AI）。有几项研究探讨了武器系统中使用监督计算学习模型与其自主决策能力之间的联系。

最近，由于大型语言模型（LLM）的出现，人工智能的技术演进出现了不连续性，我们将从这一角度对这种联系进行研究。文献中一个广为接受的前提是：基于监督计算学习的决策模型与传统算法有着本质区别。在后者中，计算密集型阶段发生在决策时间。而在前者中，由于有初步的训练阶段，决策过程可能只需要很少的资源。这种差异为开发 “机载”系统模型提供了强大的动力。例如，根据机载传感器预测导弹的准确弹着点，可能只需要航母上传统处理器的几个周期，就能在专用计算架构上运行之前用数百万个实例训练过的模型。

在 2000 年代，武器系统的三个经典问题（目标识别、敌友区分、防御或攻击行动规划）被修订为与有监督人工智能模型的任务相匹配：数值或符号值预测、分类和异常识别。一般来说，人工智能模型的输入阶段是将武器系统的输入观测值（如摄像机拍摄的图像）转换为高信息量表征（构成所谓的 “潜在输入空间”）。这些表征用于训练目标分类和影响预测功能的神经近似值，而这些功能很难通过传统算法进行定义和计算。

在联盟的背景下，将有监督的人工智能引入武器系统的设计最初是在机会主义的基础上进行的，不需要对供应商公司的研发周期进行彻底改革。对监督预测或分类算法和模型的选择主要取决于训练时可用的数据和决策场所可用的计算能力。在这种情况下，“生成 ”一词指的是在潜在空间中合成与稀疏类别相对应的值，对于这些类别，只有少数真实的可观测数据。例如，敌方领土上的掩体一般只有少量图像。

目标识别器训练数据的合成是通过特定的监督模型来实现的，这种模型被称为生成对抗网络（GANs），它能在潜在空间中生成与类别相对应的值，而对于这些类别来说，真正的可观测数据很少。对 GAN 进行微调以补充武器系统中监督分类和预测模型的训练数据，可大大提高其准确性。最近的研究表明，重新平衡能有效提高声纳性能。

准确性与自主性

然而，基于人工智能模型的系统的自主性和准确性并不一定相辅相成。例如，弹道导弹的发射可以依靠复杂的计算模型来实现理想的弹道，但发射后却没有自主权。如今，自杀式无人机就是自主但不太智能的武器系统的一个例子。这些无人机在预定区域内进行有规律的轨迹飞行，直到根据机载传感器提供的数据找到目标为止；一旦找到目标，它们的任务就结束了，通常是进行自杀式袭击，或者在民用无人机上运送有效载荷。

最早的自杀式无人机原型可追溯到 20 世纪 80 年代，设计用于侦察和情报搜集。后来飞行技术的进步使其能够携带更高的有效载荷，包括爆炸物。第一代自杀式无人机使用算法，根据机载传感器检测到的可观测物与已知目标的视觉或热特征之间的相似性启动攻击行为。最初，基于观测值与预定义特征之间相似性的目标识别错误率非常高，以至于 “智能 ”一词被赋予了讽刺的含义。

下一代系统由人工智能监督模型驱动，即使在观测数据变化很大的情况下也能准确识别目标。值得注意的是，更高的智能本身并不意味着更高的自主性：人工智能模型也可用于纯粹辅助人类操作员做出决策。无人机的机载视觉系统可以使用监督模型来识别无人机视场中的潜在目标，并将其报告给远程人类操作员，但不具备自主攻击这些目标的能力。

LLM 的不连续性

从技术演进的角度来看，过去几年的一个显著特点是不连续性：从多个有监督的人工智能模型过渡到单一类型的有监督模型，即 LLM，它解决了为某一领域的问题生成解决方案的一般问题。在军事应用中，从经典人工智能到 LLM 的过渡表明，至少在战术层面上，武器系统有可能实现完全自主的决策过程。

虽然大型语言模型经常被称为 “生成式人工智能”，但这里的 “生成 ”一词与之前的 GAN 意义截然不同。LLM 模型的训练基于问题/答案范式，在其回答中不仅会生成数据（例 1），还会生成算法或模型（例 2），以解决作为输入提供的问题。从技术角度讲，“生成”一词的含义从执行一个在训练时就已决定其结构的模型（经典的监督式人工智能），到以可执行程序的形式从众多可能的模型中实时生成一个模型（例 1）。

说到算法或模型（例 2），有两点必须注意。首先，生成传统模型的训练执行是在生成 LLM 模型的训练执行之外进行的。其次，通过生成模型而不是数据，错误的含义发生了变化：传统分类模型在对新的可观测对象进行分类时可能会出错（尽管很少出错），但被要求解决问题的 LLM 模型可能会产生 “幻觉”，生成逻辑上错误的解决方案（尽管更罕见）。虽然从模型的角度来看是 “正确的”，但它可能实际上是为达到目的而实施的行动方案，即使它不能准确地实现结果。

LLM 模型响应的可靠性问题在军事界并非没有引起注意。曾在拜登政府中担任美国国防部关键技术助理部长的 Maynard Holliday 表示，美国防部不打算使用商业 LLM，而是要开发新的 LLM。作为一种纯粹的军事工具，用于战争的 LLM 必须在特定环境和条件下达到尽可能高的精确度。产生幻觉会给这些仪器的实际使用带来风险。最近的文献报道了由 LLM 提出的解决方案导致军事反应升级的案例。鉴于现有的军用 LLM 依赖于从数百万在线资源中提取的庞大数据集，因此不太可能开发出全新的军用 LLM。军用 LLM 很可能是一般基础模型的定制版本。

本文通过两个案例研究分析了通过整合人工智能模型提高自主性和智能性对武器系统效能的影响。

案例研究：导弹识别

在导弹防御系统中集成人工智能可实现自主探测和攻击目标。在不同的背景下用肉眼识别导弹十分困难。对排出的烟雾（即所谓的烟羽）进行分析，可根据其光学和红外特征识别导弹。识别算法利用导弹排出的烟雾在可见光或红外光照射下产生的反射来识别其燃料或推进剂的化学成分，这有助于确定导弹的类型。

例如，如果烟羽中含有氧化铝等固体颗粒，则很可能来自地对空防空导弹系统常用的固体推进剂火箭。另一方面，如果烟羽中含有四氧化二氮，则很可能来自液体推进剂火箭，这种火箭常用于中程和远程地对地导弹系统。不过，识别导弹的品牌和型号需要更详细的分析，包括紫外线数据。通过交叉检查这些特征，识别会变得更加准确，这也有助于确定攻击的责任。

人工智能系统利用计算学习技术，根据导弹羽流对光线的反应自动对航空母舰进行分类。这些模型的问题主要在于缺乏可靠的训练数据。为了解决这个问题，人们开发了名为 “高速风扇 ”的专用机器，在受控环境下模拟导弹排气，从而生成可以训练人工智能的数据。由于生成这些数据的成本很高，因此还使用了 GAN 生成模型来填补空白。利用这些增强数据，人工智能系统可以在攻击期间快速识别导弹类型。虽然文献中还没有将 LLM 集成到导弹识别中的实例，但在排烟密度分析中已经提出了使用 LLM GPT-4 生成模型的解决方案。

案例研究：防御第二代杀伤无人机

自 2022 年 9 月以来，俄罗斯发射了近 4000 架第一代沙赫德-136 和沙赫德-131 无人机，攻击乌克兰各地的目标。这些低成本远程武器（主要）由伊朗制造，使用简单的光学和红外传感器识别目标。相比之下，第二代反人员无人机是根据制服或携带武器等特征进行目标识别的程序化系统。这些先进的无人机通常装在胶囊中从远处发射。一旦释放，它们就能短距离飞行，并在无需人工投入的情况下发动攻击。摄像技术和人工智能的改进使这些无人机有可能识别并集中攻击特定目标。

为了应对这一威胁，美国新的军事计划--“复制者”（Replicator）--提出了基于 LLM 模型的自杀式无人机和反无人机防御系统向自主化的直接过渡。Replicator 1 子项目（2023 年）的重点是创建能对无人机攻击做出快速反应的系统。相比之下，Replicator 2 子项目（2024 年）涉及自杀式无人机的反制措施。这两项计划在很大程度上（75%）依赖于未参与常规国防供应链的创新型初创企业和供应商，旨在促进激进创新的引入。

风险和法律影响

因此，推动系统实现完全战术自主会带来两种风险，政治和军事当局应仔细评估。

第一种风险是基于人工智能模型的自主武器系统在供应链上容易受到网络安全攻击。使用民用 LLM 模型作为军用模型的基础是一个重要的攻击矢量。生成式人工智能模型的完整性难以核查（事先和运行过程中），这导致一些实体被审慎地排除在最关键系统的供应链之外。然而，审慎排除会带来高昂的成本，可能会推迟最终系统的发布。国防工业必须在政府和政府间机构的指导下，找到基于政策的工具（对参与供应链的限制）和基于验证的工具（模型认证）的正确组合，从而确保自主武器系统在应对网络威胁时的稳健性。

第二，即使在战争或经授权的警察行动中，使用自主武器系统也确实有可能违反国际法。联合国即决处决或任意处决问题报告员克里斯托夫-海恩斯在2016年向人权理事会提交的一份报告中率先对致命的自主武器系统敲响了警钟，联合国秘书长安东尼奥-古特雷斯也明确表态：致命的自主武器系统在政治上是不可接受的，应根据国际法予以禁止。在《2023 年和平议程》中，古特雷斯再次建议联合国会员国在 2026 年前制定一份具有法律约束力的文书，禁止在没有人类控制或监督的情况下运行的致命武器系统。

在缺乏具体多边法规的情况下，开发和使用具有潜在致命性的自主攻击系统可能会给生产和采用这些系统的国家带来人道主义、法律和伦理方面的争议，类似于围绕地雷生产的争议。

参考来源：ispionline