人工智能、模块化开放系统架构和未来无人战争

由人工智能（AI）支持的自主系统已经彻底改变了军事行动和现代战争。无人系统非常适合执行危险和重复性的任务，在增强态势感知和后勤能力的同时，也降低了对人类人员的风险。然而，它们日益重要的作用也引发了重大的安全问题：无人系统严重依赖机器学习（ML），容易受到网络攻击，从而危及任务、部队和关键技术。虽然没有系统是不可破解的，但系统架构对于确保设备尽可能抵御网络攻击至关重要，这不仅体现在初始部署，还体现在其产品生命周期的若干年内。因此，在整个开发和部署生命周期中都必须采取强有力的保障措施。安全设计原则、加密、访问控制和安全通信可以强化这些系统，防止未经授权的访问。

随着自主系统在海洋、陆地和战场上越来越普遍，包括军队、私营部门、学术界和政府在内的航空航天与国防（A&D）生态系统必须考虑大量因素。

从长矛、大炮到坦克，技术进步早已为军队带来了战术优势。如今，人工智能（AI）已成为有望彻底改变战争的下一个前沿领域。能否实现这一愿景，取决于是否有能力防止这些 "会思考 "的机器被用来对付我们。

新的矛头：无人机（UAV）和自主哨兵

无人机（UAV）和机器人哨兵 "狗 "等自主技术正在重新定义战斗空间。这些设备擅长勘测地形、识别目标、探测威胁并解除威胁，而不会危及军人的安全。它们的潜力巨大，但也存在漏洞。如果在设计中不采取严格的网络安全措施，这些自主系统最终服务的可能是我们的对手，而不是我们的兵力。

军用无人机和设备利用尖端的人工智能技术，只需极少的人工引导即可运行。计算机视觉算法使无人机能够导航和探测目标，而自然语言处理技术则能分析语音和文本数据以提取洞察力。强化学习可优化复杂任务的决策，而深度神经网络则可识别模式并从海量数据集中进行预测。

然而，增强无人系统的技术也带来了新的网络安全风险。人工智能支持的自主平台在很大程度上依赖于数据和机器学习（ML）算法，这可能会使其面临数据中毒、模型被盗以及旨在操纵其行为的恶意攻击。

国防系统面临的网络威胁不断增加

2015 年至 2021 年间，美国国防部（DoD）经历了 12000 多起针对无人机和无人驾驶飞行器等无人系统的网络事件--这个数字还会上升。攻击者通过干扰通信、夺取飞行器控制权、窃取用于训练人工智能模型的专有技术和敏感数据集等方式危害国家安全。这些最近的例子凸显了网络威胁日益增长的态势。

此外，美国还面临着来自战略竞争对手的日益严重的网络威胁，他们正在利用距离直接冲突不远的灰色地带，试图破坏安全利益。这些漏洞的后果可能超出直接的安全风险： 黑客可能会偷取数据来降低人工智能模型的性能，或者窃取知识产权，如专有算法，从而削弱一个国家的竞争优势。(图 1）。

图1 美国及其军事利益面临着来自战略竞争对手的日益严重的网络威胁，这些竞争对手试图利用尚未发生冲突的灰色地带破坏国家安全。

然而，预计到 2028 年，全球军用人工智能市场规模将超过 130 亿美元，这反映出越来越多的人开始采用这些非常适合执行危险任务和提高态势感知能力的系统。在这种快速发展和暴露的环境中，技术进步与网络安全复原力之间的微妙平衡已成为维护国家利益和保护每个人的当务之急。

用模块化开放系统架构加强防御

为加强防御，无人系统开发人员应利用模块化开放系统架构（MOSA）原则。模块化开放系统架构通过开放标准和接口提供强大而灵活的网络安全保障。

开发人员还可以将来自不同供应商的传感器、处理器和功能作为人工智能操作系统的模块组件进行集成。这种即插即用的方法更便于快速更换易受攻击的部件，并针对快速发展的威胁定制防御措施。这也是沙箱或分离功能的关键策略，这样任何损坏的应用程序都不会给其他应用程序带来问题。

利用 MOSA，还可以利用最小特权原则（PoLP）（也称为最小特权访问模型）来保护系统架构免受破坏或攻击。利用PoLP，内存等系统资源可以不可改变地分配给某些功能，开发人员可以确保应用程序只能访问完成任务所需的最小系统功能集。

利用未来机载能力环境（FACE）和传感器开放系统架构（SOSA）等通用开放式架构标准，可以安全地集成组件，并在不同平台和不同技术世代之间实现互换。例如，一个供应商提供的模块化计算板可以用另一个供应商提供的升级模块替换，而无需彻底修改整个系统设计。

MOSA 还减少了对供应商的锁定，从而使长期维护和升级更加经济实惠。考虑到维持和维护成本通常占国防部系统生命周期成本的 70%，采用组件可互换的模块化方法有望大大减少为适应新系统而重写代码的需要。

开发人员可以创建可重复使用、经认可的软件和加密 IP 库，从而简化并加速新功能的集成，以适应不断变化的威胁。通过迭代开发和测试，MOSA 等开放式架构方法可以更轻松地持续验证、确认和认证是否符合安全标准。

从硬件的设计阶段到软件的开发阶段，无人系统的每个层面都必须考虑到安全问题。为防止未经授权的访问，开发人员应采用加密关键数据和通信、建立基于角色的访问控制以及设计具有内置防篡改机制的硬件等策略。主动监控、频繁打补丁和定期重新训练 ML 模型将增强其在生命周期内的恢复能力。

军事人工智能发展与网络弹性之间的必要平衡

人工智能和自主技术正在改变现代战争：无人系统增强了军事能力，同时降低了人类面临的风险，并确保网络安全始终是重中之重。如果不能在这些系统中建立强大的防御系统，我们的对手就可能获得优势。

随着无人系统的普及，A&D 生态系统必须共同努力，应对人工智能带来的独特安全挑战。为此，公共和私营部门应增加对安全人工智能研发的投资。学术机构可以加强网络安全、ML 和机器人等领域的培训。

随着系统变得更加自主，政策制定者还必须使法规现代化，以促进安全性和问责制。采购准则应要求采用模块化设计和开放式标准，使无人平台面向未来。通过全企业范围内的合作和警惕，无人驾驶系统实际上可以以负责任的方式部署，从而赢得信任。

人工智能的前景是广阔的，但如果不对其力量加以控制，危险也会随之而来。如果将严格的网络安全保护措施融入系统架构中，人工智能操作系统就能加强国家安全，为作战人员提供持久优势，应对不断变化的威胁。A&D 行业有义务以明智和合乎道德的方式开发和利用这些技术。通过将安全放在首位，行业和政府可以负责任地获得人工智能的好处，同时保障生命和自由。