《理解人工智能对作战人员的局限性：第 1 卷，摘要》2024最新34页

美国空军越来越关注人工智能（AI）在增强作战各方面能力方面的潜力。在这个项目中，空军要求兰德公司的研究人员考虑人工智能无法做到的事情，以了解人工智能在作战应用中的局限性。

研究人员没有试图确定人工智能的一般限制，而是选择并调查了四个具体的作战应用作为潜在用例：网络安全、预测性维护、兵棋推演和任务规划。选择这些应用是为了代表各种可能的用途，同时突出不同的限制因素。在可以获得足够数据的三个案例中进行了人工智能实验；剩下的兵棋推演案例则广泛探讨了如何应用或不能应用人工智能。

本报告是五卷系列中的第一卷，总结了所有应用案例的研究结果和建议。报告面向政策制定者、采购专业人员以及对将人工智能应用于作战普遍感兴趣的人员。

研究问题

• 哪些作战应用可作为潜在用例？
• 训练和测试人工智能系统需要哪类数据？
• 人工智能算法有哪些局限性？

主要结论

• 要识别适应性威胁，数据必须是最新的。分布偏移会降低模型性能，这是无法避免的，尤其是对于高维数据。
• 不能依靠人工智能分类算法来学习没有教过的东西。人工智能无法预测或识别新型网络攻击。
• 数据必须可访问且条件良好。相关的物流数据保存在多个数据库中，通常条件不佳。如果没有自动化的数据管道，就无法获取足够的数据来实现人工智能。
• 和平时期的数据不能替代战时数据。人工智能无法弥补适当数据的匮乏。
• 数字化必须先于人工智能的发展。大多数兵棋推演不是在数字化环境中进行的，也不会生成电子数据。数字化是人工智能数据管道的先导。
• 需要新型数据。要实现人工智能，就需要人机交互（HCI）技术来捕捉兵棋推演中目前尚未捕捉到的方面。
• 人工智能远未达到人类智能水平。因此，它不能代替人类，也不能应用人类的判断。
• 要应对适应性威胁，数据必须是最新的。必须根据最新情况刷新模型，才能在动态威胁面前生存下来。
• 人工智能在战术上很聪明，但在战略上却很幼稚。它往往通过进入对手的 "观察、定位、决策、行动 "循环而取胜，而不是通过提出一个巧妙的大战略。
• 与传统优化方法相比，人工智能的准确性较低。但它的解决方案可能更稳健，也能更快达成。

建议

• 空军部（DAF）应进行数据集细分测试，以确定人工智能系统分布偏移的重要性，并确定大致的衰减率和人工智能保质期。
• DAF 应进行人工智能试验，以改进战备备件包 (RSP) 的需求预测，并将概念验证模型扩展到所有飞机。这可能需要在逐个部件、逐个平台的基础上进行。
• DAF 应考虑使用人工智能来解决更大的运筹问题，即选择将哪些部件发送到哪里。
• DAF 应建立一个数据操作管道，以便对多个部件和平台的飞机维护和 RSP 进行有效的回顾性分析。
• DAF 应将用于开发兵棋推演 AI 应用的资源集中在最有前途的领域：那些调查替代条件或用于评估有明确标准的领域；那些已经纳入数字基础设施（包括人机交互技术）的领域；以及那些定期重复的领域。
• 发展议程应更多地使用数字游戏基础设施和人机交互技术，特别是在为系统探索和创新而设计的游戏中，以收集数据支持人工智能的发展。
• DAF 应更广泛地利用人工智能能力来支持未来的兵棋推演工作。
• 国防和安全部队应考虑如何利用人工智能为面临突发状况的无人机制定快速反应政策。
• DAF 应投资开发工具，将强化学习应用于现有的任务规划模型和模拟中，如仿真、集成和建模高级框架（AFSIM）。