开发和集成基于人工智能的自主作战系统

在战争领域，一个 “不可避免 ”的趋势正在出现--开发和整合由人工智能驱动的自主系统。

将人工智能驱动的自主系统融入战争已不再是一种可能性，而是正在形成的现实。本文在对美国潜在隐蔽超级智能发展进行探讨的基础上，深入探讨了用于军事应用的自主人工智能的最新进展。通过研究人员和从业人员的见解来审视这一范式转变的影响和风险，确定积极参与其中的主要国防和安全人工智能公司，并提出自主作战系统在近期、中期和长期部署的假设时间表。

简要概述

人工智能和自主系统的快速发展将改变许多领域，对军事战略和复杂系统的管理产生深远影响。自主系统的特点是能够在没有人类干预的情况下运行，正越来越多地融入自动化物流、数字化制造、机器人和无人驾驶车辆等领域（Ji 等人，2020 年）。这些系统利用先进的算法分析大量数据，预测资源分配、供应链优化和适应快速变化的战场条件等任务的结果（Zhang，2024）。

各种技术进步之间相互交织的关系凸显了未来战争的复杂性，几项关键的发展就是证明。其中包括美国防部（DoD）内部的资源分配、OpenAI 的草莓项目、马克-米利（Mark Milley）将军的军用机器人愿景以及未来战斗航空系统（FCAS）计划。这些计划共同强调了这些技术在重塑战争本质方面错综复杂的相互作用和巨大潜力。特别是，基于人工智能的自主系统具有改变军事环境中情报收集、分析、后勤系统自动化和优化的潜力（Gaire，2023 年）。这些系统在设计上表现出反身性、命令性、适应性、自主性和认知智能，使其能够在没有人类干预的情况下执行复杂的认知任务（Wang 等人，2021 年）。然而，这些进步也引发了研究人员和专家对自主武器潜在风险和伦理影响的严重担忧。

美国防部的人工智能计划和挑战

美国防部（DoD）正积极优先投资于人工智能研发（R&D），以提高其在决策、情报分析和自主武器系统等关键领域的能力。2024 财年多学科大学研究计划（MURI）--选定项目和首席数字与人工智能办公室（CDAO）等举措都体现了这一承诺。这些举措表明了美国国防部利用人工智能技术提高作战效率和战备状态的愿景。

美国防部负责研究与工程的副部长办公室基础研究室主任宾杜-奈尔（Bindu Nair）博士说：今天面临的科学与工程挑战是高度复杂和跨学科的。MURI计划承认这些复杂性，支持其成员拥有不同专业知识和创造性科学方法的团队来解决问题。这种思想的交叉融合可以加快研究进展，从而实现更快的科学突破，并加速基础研究资金向实际应用的过渡。

国防部（DoD）首席数字和人工智能办公室（CDAO）负责人是负责加快国防部采用数据、分析和人工智能（AI）的高级官员，以产生从会议室到战场的决策优势。这个新办公室成立于 2022 年 2 月--汇集了以前独立组织的权力和资源，包括国防部首席数据官、联合人工智能中心、国防数字服务和推进分析办公室帕尔米耶里。

自主人工智能 (AI) 系统的进步及其融入战争环境的潜力

• OpenAI 的草莓项目：未来的可能性：

OpenAI 的 “草莓 ”项目虽然处于保密状态，但也暗示了人工智能彻底改变复杂系统管理的潜力（Knight, W., 2022 年）。该项目的细节有限；据推测，该项目侧重于开发能够优化复杂系统的高级人工智能算法，以提高人工智能的推理能力，使人工智能系统能够自主浏览互联网并进行深入研究。OpenAI 首席执行官萨姆-阿尔特曼（Sam Altman）认为，人工智能的未来涉及开发现有知识之外的新训练方法。

Altman 的观点与美国国防部（DoD）的倡议不谋而合，后者将评估、预测和优化庞大网络系统中的干预措施作为优先事项。此外，利奥波德-阿申布伦纳（Leopold Aschenbrenner）的论文《态势感知： 未来十年》一文中指出，这些技术被美国视为最严密的机密。

• 美国防部相关项目：
  • 人工智能引导的自组织（AI-Guided Self-Organization）：调整紊乱以形成复杂的非线性动力学： 该项目强调需要能够适应复杂环境并从中学习的人工智能模型，反映了 Altman 对创新人工智能训练方法的呼吁。(Yuan, L. et al.)
  • “评估、预测、优化和监控大型网络系统中的假设干预"--美国防部列入前文提及的多学科大学研究计划的项目之一--直接支持能够进行复杂、自主研究和决策的人工智能的发展（Zewe, A., 2024年），（Shipps, A., 2024年）。

自主系统与机器人技术

米利对军用机器人技术的展望：

前第 20 任参谋长联席会议主席、美国最高级别军官马克-米利（Mark Milley）将军设想，在未来 10 到 15 年内，美军将向机器人技术大幅转型。在GPS等传统导航工具可能无法使用的有争议环境中，这种转型将尤为重要。米利的愿景包括配备自动驾驶汽车、无人机和仿人机器人，以执行对人类来说过于危险的任务。要实现这一目标，开发能够自主导航、决策以及在没有人类参与的不利条件下保持作战效率的人工智能系统至关重要，也极具挑战性（Ceder, R., 2024 年）。

为了实现马克-米利（Mark Milley）将军提出的在未来十年内美军基本实现机器人化的愿景，需要在人工智能研发方面取得重大进展，尤其是在以下领域：

1.强大的自主导航： 开发能够在不依赖 GPS 或其他外部辅助工具的情况下在复杂和不可预测的环境中进行导航的人工智能系统至关重要。传感器融合与感知： 提高人工智能整合来自各种传感器（如激光雷达、雷达、摄像头）的数据的能力，从而全面了解周围环境。

2.弹性决策： 人工智能系统必须能够自主做出关键决策，适应突发情况，并确定任务目标的优先次序。

3.人机协作： 虽然自主性至关重要，但人类与人工智能系统之间的有效协作也同样重要。

4.硬件和软件集成： 将先进的人工智能算法与强大的硬件平台相结合，对于部署自主军事系统至关重要。

5.坚固耐用的机器人技术： 开发能够承受恶劣环境、极端温度和潜在损坏的机器人平台。

通过优先考虑这些领域的研发，美国军方可以更接近实现米利将军的愿景，即建立一支更加自主的部队，能够在未来复杂而有争议的环境中有效作战。

一些正在进行的研究项目和倡议直接解决技术挑战：

• 自主导航：

DARPA 的 “地下挑战赛”：这项竞赛的重点是开发能够在没有全球定位系统或通信链路的情况下在复杂的地下环境中导航的自主机器人。参赛团队正在探索在具有挑战性的地下环境中进行绘图、定位和避障的创新方法。

斯坦福大学导航与自主飞行实验室： 导航与自动驾驶汽车实验室的研究人员正在为各种应用开发稳健安全的定位、导航和定时技术，包括在没有 GPS 的环境中运行的自动驾驶汽车和无人机。

麻省理工学院仿生机器人实验室： 该实验室从动物行为中汲取灵感，开发新型机器人导航算法。他们对蚁群智能和昆虫启发式避障的研究可能会为自主导航带来突破。

• 弹性决策：

DARPA 的可解释人工智能 (XAI) 计划： 该计划旨在创建能够向人类用户解释其推理和决策过程的人工智能系统，增强信任并确保人工智能在军事应用中的道德使用（Gunning, D., (2019).

OpenAI's Safety Gym： 这一研究环境侧重于训练强化学习智能体在复杂环境中做出安全可靠的决策，重点是防止意外后果和确保道德行为。

• 人机协作：

DARPA 的 OFFSET 计划： OFFSET计划旨在开发能与人类操作员有效协作的蜂群系统，利用直观的界面和共享的自主性来实现任务目标。

美国陆军研究实验室机器人协作技术联盟： 该计划的重点是开发能与人类士兵无缝协作的协作机器人，提高对态势的感知能力、决策能力和整体任务效率。

斯坦福大学以人为本的人工智能（HAI）研究所： 该研究所研究人工智能对社会的影响，包括开发以人为本的人工智能系统，优先考虑人类与机器之间的合作与信任。

这些只是正在进行的研究计划中的几个例子，这些研究计划与为应对上述挑战而做出的积极努力有关。通过扩大人工智能和机器人研究的潜力，这些项目似乎为未来自主系统能够在复杂多变的环境中 “可靠地 ”与人类协作铺平了道路。这有可能与米利将军建立一支更加自主的军队的愿景相吻合。

• FCAS 倡议：

FCAS 是未来空中作战系统（Future Combat Air System）的缩写，是欧盟主要国防工业（包括法国、德国、意大利、西班牙和英国）之间的一个合作项目。代表着空战模式的转变。该计划旨在开发一个载人和无人飞行器网络，将人工智能和自主能力无缝集成。正如战略与国际研究中心 2021 年关于未来空战的报告（Heginbotham, E., 2021 年）所述，FCAS 有望增强态势感知、改善决策并提高空战任务的效率。

• 美国防部相关项目：

机器学习支持两相流计量学、模型和优化设计（METHODS）：该项目有助于开发可独立管理复杂物理过程的自主系统（Arteaga, A. et al.）

利用神经认知多抽象主动探索克服意外故障： 这符合人工智能系统自主处理意外情况的需求，这对军用机器人和 FCAS 无人机至关重要（Shipps, A. 2024 年）。

复杂系统与动力学

• 与人工智能和自主系统的交叉：

理解和管理复杂系统动态对于先进的人工智能研究和自主军事行动都至关重要。"草莓"项目、FCAS 计划以及米利的愿景都强调了人工智能在复杂、动态环境中管理和预测结果的必要性（Zewe, A., 2024 年）。

• 美国防部相关项目：

非线性振荡器系统的紊乱影响集体动力学： 该项目侧重于理解复杂的系统动力学，与 “草莓 ”项目的人工智能研究目标和 FCAS 的运行环境相关。

NEURAL-SYNC：从同步振荡到神经计算、通信和适应： 这与开发能够实时同步和适应的人工智能系统相一致，这对于先进的人工智能研究和自主军事行动至关重要（Shipps, A. 2024）。

相互联系和影响

上述项目和愿景在利用人工智能和自主系统应对复杂挑战的过程中相互关联。美国防部的人工智能计划和米利将军对军用机器人技术的愿景是一致的，都是为了增强军事能力。与此同时，OpenAI 的 “草莓 ”项目和 FCAS 计划展示了人工智能在民用和军用领域优化复杂自主系统的潜力。

这些进步影响深远。人工智能驱动的自主系统可以加快决策速度、减少人员伤亡、提高任务成功率，从而彻底改变战争。在民用领域，人工智能可以优化基础设施、简化供应链和加强资源管理。

然而，围绕使用人工智能和自主系统的伦理考虑不容忽视。可能出现的意外后果、算法中的偏差以及人类控制的丧失，都提出了有关问责和责任的重要问题。

研究人员就自主武器发出警告

众多人工智能研究人员和专家对自主武器系统的危险发出了警告。2015 年，3000 多名人工智能和机器人研究人员签署了一封公开信，警告自主武器可能引发全球军备竞赛，并呼吁禁止进攻性自主武器。这封由 “未来生命研究所”（Future of Life Institute）组织的公开信指出，“自主武器将成为未来的卡拉什尼科夫*”，并强调了这些武器落入坏人之手的风险。

美国加州大学伯克利分校计算机科学教授斯图尔特-拉塞尔（Stuart Russell）对这种风险尤为关注。拉塞尔在他的《人类兼容》一书中警告说，自主武器可能导致冲突不可控制地升级，并可能引发灾难性事故。罗素认为，这类武器的发展可能会降低武装冲突的门槛，使战争更容易发动，更难停止。

双重用途困境

研究人员还强调了人工智能技术的双重用途性质，即民用人工智能应用的进步可能被转用于军事用途，包括自主武器。这引发了人们对人工智能研究人员的责任以及人工智能开发伦理准则必要性的担忧。正如新南威尔士大学人工智能教授托比-沃尔什（Toby Walsh）所指出的：我们需要谨慎对待我们建立的人工智能系统，因为它们很容易被武器化。

战争中的自主系统假想预测：包含短期、中期和长期视野

短期（1-5 年）

• 陆战：

  • 整合机器人技术： 初步部署用于监视、侦察和后勤支持的机器人单元。这些单元将是半自动的，在作战场景中需要人类监督决策。
  • 人工智能增强决策： 人工智能系统将通过提供实时数据分析和预测建模来协助指挥官提高态势感知和战略规划能力。
  • 培训和适应： 利用自学推理（STAR）等方法，在动态环境中训练人工智能模型，使其能够适应新情况，并从正在进行的行动中学习。

• 空战：

  • 忠诚的僚机： 部署伴随有人驾驶飞机的无人机，提供额外的火力、侦察和电子战能力。这些无人机将以高度自主的方式运行，但关键决策仍由人类控制。
  • 增强 ISR（情报、监视和侦察）： 人工智能驱动的系统将改进 ISR 数据的处理和分析，从而实现更快、更准确的威胁探测和评估。

• 海战：

  • 自主水面和水下舰艇：自主舰艇将初步用于水雷探测、反潜战和后勤支持。这些船只将自主运行，但必要时将由人类操作员进行监测和控制。

• 太空战：

  • 监视卫星： 人工智能增强型卫星用于持续监控空间资产和碎片，提供有关潜在威胁的实时数据。
  • 人工智能控制航天器： 能够对其他卫星执行基本维护和维修任务的自主航天器。

中期（5-15 年）

• 陆战：

  • 完全自主的作战单元： 部署完全自主的地面作战单元，能够在极少人工干预的情况下参与作战行动，依靠先进的人工智能进行决策。
  • 智能物流：人工智能驱动的物流系统，能够预测供应需求、优化运送路线并自主管理库存。

• 空战：

  • 自主战斗机：引进完全自主的战斗机，它们可以执行复杂的机动动作、参与激战并独立执行任务。
  • 人工智能集成指挥中心： 配备集成人工智能系统的指挥中心，能够同时管理多个航空资产，优化任务规划，并实时协调攻击。

• 海战：

  • 自主舰队：部署能够长时间独立行动的自主水面和水下舰队，执行巡逻、侦察和进攻行动等任务。
  • 水下人工智能网络： 用于自主潜艇和水面舰艇之间水下通信和协调的人工智能网络。

太空战：

• 自主防御系统： 能够探测、跟踪和消除空间资产潜在威胁的天基自主防御系统。
• 人工智能增强太空作战： 用于太空任务规划、导航和执行的先进人工智能系统，可减少对人工干预的需求。

长期（15 年以上）

• 陆战：

  • 自主战略开发： 能够自主制定和执行军事战略的人工智能系统，人类的监督仅限于高层决策和道德考量。
  • 人类与人工智能合作： 人类士兵与人工智能系统的无缝整合，在作战场景中协同工作，人工智能提供实时支持和决策协助。

• 空战：

  • 综合自主防空： 具有完全自主探测、跟踪和拦截能力的综合防空网络。
  • 高级人工智能飞行员： 人工智能飞行员能够在空战的各个方面超越人类飞行员，包括复杂决策和适应新威胁。

• 海战：

  • 全球自主海军网络： 由自主海军舰艇组成的综合全球网络，能够协调多个战区的复杂任务。
  • 人工智能驱动的海军指挥： 主要由人工智能系统操作的海军指挥中心，由人类提供战略监督。

• 太空战：

  • 完全自主的太空舰队： 部署完全自主的太空舰队，能够开展从监视到进攻行动的广泛行动，只需极少的人工干预。
  • 天基人工智能基础设施： 先进的太空人工智能基础设施，能够为太空探索、防御和商业活动提供自主决策。

将自主系统纳入包括太空在内的所有战争领域，代表着军事行动的变革性转变。短期内，我们将看到初步部署和增强决策能力。中期发展将带来完全自主的作战单元和复杂的人工智能集成指挥中心。从长远来看，自主战略制定和全球自主网络将成为常态，彻底改变战争的作战和防御方式。推动这一演变的将是人工智能训练方法的进步，例如萨姆-奥特曼（Sam Altman）提出的自学推理（STAR）方法，确保人工智能系统能够在日益复杂的环境中不断适应和改进。

国防和安全领域的人工智能公司

迈克尔-穆尔（Michael Muir）撰写的文章 “国防与安全领域的 9 家不同人工智能公司 ”讨论了国防与安全领域对人工智能不断增加的投资，并介绍了一些对将人工智能纳入其国防与安全产品最感兴趣的公司。文章还强调了人工智能在国防和安全领域带来的道德窘境。

“Copilot "总结了他们的举措：

1.洛克希德-马丁公司（Lockheed Martin）：作为美国最大的国防承包商，洛克希德-马丁公司开发了 VISTA X-62A，这是一种仿照 F-16 的人工智能驾驶训练飞机。美国空军的目标是在 2028 年之前服役 1000 架无人驾驶喷气式飞机。

2.诺斯罗普-格鲁曼公司（Northrop Grumman）：该公司专门从事有人和无人驾驶飞机、导弹防御、导航、雷达和太空业务。它是美国国防部 JADC2 战略的重要合作伙伴。

3.博思艾伦咨询公司（Booz Allen Hamilton）： 一家专门从事人工智能、网络安全和智能的咨询公司。它是联邦政府最大的人工智能供应商，与每个军事部门都有合同。

4.RTX 公司： 一家传统的国防承包商，对人工智能有着浓厚的兴趣。它是 DARPA ITM 计划的一部分，该计划旨在开发支持高压情况下决策的算法。

5.L3 哈里斯技术公司： 该公司专注于通信设备、电子设备和导弹探测系统方面的军事技术。它被国防部选中开发人工智能和机器学习系统。

6.泰雷兹公司： 法国跨国公司，专注于通信、任务系统和传感器。它宣布在 2024 年 3 月创建人工智能加速器 cortAIx。

7.Anduril： 这是一家初创企业，它已经证明可以与更多知名企业竞争利润丰厚的国防合同。它正在开发空军下一阶段的协同作战飞机（CCA）项目。

8.盾牌人工智能公司（Shield AI）：这家公司开发了人工智能驾驶员 Hivemind，可以自主操作飞机执行各种任务。该公司与美国国防部和国土安全部签订了合同。

9.ZeroEyes：一家位于宾夕法尼亚州的初创公司，专门从事武器探测。它利用人工智能扫描监控摄像头的图像，以发现潜在威胁。

这些公司的共同模式是致力于将人工智能融入其产品和服务。它们认识到人工智能在提高效率、减少人力和在高压情况下做出实时决策方面的潜力。不过，它们也承认人工智能在国防和安全领域带来的道德窘境。

值得注意的是，这些公司既有传统承包商，也有初创企业。这表明，对用于国防和安全的人工智能的兴趣跨越了不同类型的组织，并不局限于任何特定的部门或公司规模。这表明整个国防和安全行业广泛认识到了人工智能的变革潜力。

最后，人工智能和自主系统的快速发展有望重塑未来战争、复杂系统管理和其他各个领域。国防部的项目、OpenAI 的草莓项目、米利将军的愿景以及 FCAS 计划共同展示了这些技术的变革潜力。然而，研究人员和专家们的警告强调，亟需认真考虑自主武器在伦理、法律和安全方面的影响。

随着军事的发展，地缘政治的趋势将推动自主系统的发展。重要的是要在新思想与伦理问题之间取得平衡，以便负责任地使用人工智能和自主系统，造福社会。这可能涉及为人工智能在军事应用中的管理制定国际框架，促进具有潜在双重用途的人工智能研究的透明度，以及对武装冲突中的武力使用保持有意义的人为控制。