随着人工智能和机器学习的不断发展，我们必须了解它们在国家安全中的战略重要性。本文重点关注人工智能在军事上的独特应用，强调成功的战略要件，并旨在重新强调人工智能在国家安全中的作用。我们将从军事角度审视美国在人工智能和机器学习方面的进展，讨论确保这些技术不受对手攻击的重要性，并探讨与它们的整合相关的挑战和风险。最后，我们将强调人工智能对国家安全的战略意义以及军事领导人和政策制定者的一系列战略要务。
索引词--人工智能，自主系统，网络安全，决策，深度学习，机器学习，军事战略，自然语言处理，运筹学，大型语言模型，负责任的人工智能。
1 引言
自网络空间技术发展的早期以来，美国在提高其战略能力方面取得了重大进展。今天，我们发现自己处于一场新技术革命的边缘： 人工智能（AI）。作为国家安全的一项战略要务，人工智能为加强我们的防御能力提供了无可比拟的机会，就像太空和网络空间技术如何改变我们的战争和侦察方法一样。
这些技术有可能彻底改变军事行动，成为增强现有能力的力量倍增器，并促成新的作战概念的发展。因此，军事领导人和政策制定者必须认识到人工智能的战略重要性，并将其纳入我们的规划和决策过程。
尽管人工智能的进步已经改变了现代社会的各个部门，包括商业、金融和生产，但人工智能作为一项战略的国家重要性仍然没有在政府不同部门公布的战略中得到充分体现。尽管美国国防部副部长凯瑟琳-希克斯在2021年5月发布了备忘录，指示国防部对负责任的人工智能（RAI）采取整体的、综合的和有纪律的方法，但许多军事领导人尚未将人工智能战略纳入其决策过程。
其中许多文件，如上述备忘录，更多关注负责任的人工智能方面，这虽然很重要，但可能没有关注我们可以利用人工智能作为战斗力的一些有趣方式。本文关注人工智能在军事上的独特应用，强调成功的战略要务，并旨在重新强调人工智能在国家安全中的作用。
我们有意保持讨论的非技术性，并保持更高层次的视角，尽管是针对技术导向的读者群。这种方法使我们能够专注于人工智能在军事行动中整合的更广泛的战略意义和挑战，而不是深入研究具体的技术细节。通过采用这种更高层次的视角，我们旨在促进一个更具包容性的对话，鼓励跨学科对话，并促进对围绕人工智能及其军事应用的复杂问题的整体理解。
2 了解技术
人工智能正在彻底改变军事和政府组织的运作方式。这些先进的技术使机器能够自主地学习和推理，其应用范围包括对形势的认识和决策支持。特别是，大型语言模型（LLMs）的出现极大地影响了自然语言处理领域，从非结构化文本数据中提供了有价值的见解，并促进了类似人类的交流。
虽然有一些可用的模型，但对于战场使用来说，基于GPT4等开发和训练一个定制的LLM更为有利。这个模型将被专门设计，并在军事和政府相关的数据上进行训练，以确保在生成的文本中具有更高水平的领域专业知识、准确性和关联性。一旦经过训练，它可以用于各种应用，如情报分析、自动报告生成以及指挥和控制系统的自然语言界面。
在战斗空间背景下部署人工智能系统需要仔细考虑三个主要部分：模型、数据和计算环境。模型作为数字大脑，被训练来执行特定的任务，如物体识别、威胁预测或情感分析。组织可以利用预先训练好的模型，如GPT4，或者开发自己的定制模型，以满足其独特的要求。
没有数据，人工智能就无法运行。高质量的标记数据对于训练和测试模型至关重要，以确保它们能够很好地归纳到新的、未见过的情况。在军事方面，这可能涉及从各种来源收集数据，包括卫星图像、通信截获物和实地报告。
计算环境是人工智能模型运行的地方，确保操作安全和数据完整性至关重要。为了说明问题，我们假设一个集成流程涉及TensorFlow或PyTorch作为底层人工智能框架，然后将训练好的模型托管在为政府使用而定制的安全云服务上，如AWS GovCloud、微软Azure Government或谷歌Cloud for Government。然后，我们可以在SIPRNet（秘密互联网协议路由器网络）上部署该模型，以实现分类和安全使用。
部署意味着将人工智能模型整合到一个组织的现有系统中，如无人机的软件或指挥中心的通信平台。例如，之前理论上的LLM可以被整合到无人机的控制系统中，以自动分析传入的数据并实时生成关键任务的见解。
使用DevSecOps和标准管道来部署人工智能是关键，因为这将确保人工智能模型在复杂系统中的顺利整合、维护和更新。对于战斗空间的使用，关键是要对人工智能技术的能力和局限性进行全面评估，以确保其无缝融入战略行动和战术规划中。
通过仔细考虑模型、数据和计算环境，并采用精心计划的整合流程，军队可以部署人工智能系统，提高其作战效率，使其更好地应对现代战场的挑战。
3 在军事行动中的应用
人工智能和机器学习技术有可能改变军事行动的各个方面，我们已经看到，基于对目标系统的给定描述，人工智能生成的恶意软件在增加。
虽然美国空军和其他部门采用的许多工具可能会利用机器学习的组成部分，但他们还没有充分挖掘人工智能的潜在用途。以下是人工智能如何彻底改变我们的战斗力的几个例子：
1）采购和维持。购置和维持军事装备和用品是一个复杂的资源密集型过程，而人工智能可以在优化和简化这一过程中发挥关键作用。例如，美国空军物资指挥部可以使用人工智能算法来预测需求，并确定最有效的运输路线，最大限度地减少与后勤业务相关的风险和成本。人工智能可以评估前线部队的需求，并相应地安排补给任务，同时考虑到天气、地形和敌人活动等因素。此外，人工智能可用于自动化库存管理，确保在需要时提供正确的设备和物资。这可以帮助减少浪费，提高供应链的整体效率，使军队在面对不断变化的威胁时能够保持战备和有效性。
2）网络战。由人工智能驱动的网络防御系统对于防御日益增长的网络攻击威胁至关重要。这些系统使用人工智能算法来实时分析网络流量模式，使其能够在造成重大损失之前检测和缓解潜在威胁。此外，人工智能可以被用于进攻，以确定敌人网络中的漏洞，并发起有针对性的网络攻击，如拒绝服务攻击，或破坏其通信和基础设施。例如，美国网络司令部已经使用人工智能算法来帮助挫败选举干扰，并抵御对关键基础设施的网络威胁，如电网和金融系统。
3）ISR能力。情报、监视和侦察（ISR）能力对军事行动至关重要。人工智能可以处理来自各种来源的大量数据，包括SIGINT、IMINT和HUMINT，以产生可操作的情报，为军事决策提供信息。美国国防部倡议的Maven项目是这种应用的一个典型例子。通过利用人工智能，Project Maven可以分析无数小时的无人机镜头，识别模式，并确定感兴趣的区域，从而改善情报收集和增强态势感知。人工智能还可用于以其他方式增强ISR能力，例如通过分析社交媒体数据来识别潜在的威胁，或分析卫星图像来监测部队动向和基础设施。
4）电磁频谱作战（EMSO）。电磁频谱是战争的一个关键领域，人工智能可以在管理和利用电磁频谱方面发挥关键作用。人工智能可以分析和解释电磁信号，以识别和定位敌人的发射器，如通信或雷达系统。这些信息可用于开发反措施，如干扰或欺骗敌人的通信，并更有效地管理电磁频谱，以保持友军在电子战空间的优势。例如，美国空军正在探索使用人工智能来优化其对电磁频谱的使用，包括为通信和传感分配频率，并能更有效地使用电子战。
5）反无人驾驶航空系统（C-UAS）。商业和军用无人机的扩散给军事力量带来了新的挑战。人工智能可以被用来探测、跟踪和反击未经授权或敌对的无人驾驶航空系统（UAS）。例如，美国陆军的快速装备部队（REF）已经开发了移动式低速、慢速、小型无人驾驶航空器综合挫败系统（M-LIDS），该系统使用人工智能算法来探测和跟踪低空飞行的无人机，并提供反制方案以禁用或摧毁它们。该系统可以加强对军事设施、人员和设备的保护，使其免受未经授权或敌对的无人机系统所带来的潜在威胁。
6）联合训练演习。联合训练演习对于建立和保持联合部队的准备状态、互操作性和有效性至关重要。人工智能驱动的模拟可以复制复杂的冲突场景，为潜在的结果提供有价值的洞察力，并使战略和战术得到完善。这些模拟考虑到各种因素，如地形、天气和敌人的能力，以创造现实和动态的场景，挑战军事规划者和决策者。美国陆军的合成训练环境项目正在探索使用人工智能和虚拟现实技术来创造真实的训练场景，以提高士兵的技能和准备程度。此外，联合训练演习也可以涉及实弹训练，这为部队提供了在真实的战斗场景中合作的机会，并提高他们的互操作性和有效性。
7）动态目标定位。美军的杀伤链模式强调在现代战争中需要快速和准确地瞄准敌人的资产。人工智能可以通过自动识别目标、跟踪和确定优先次序，在加快杀戮链过程中发挥关键作用。例如，美国国防部高级研究计划局（DARPA）的 "拒绝环境中的协作行动"（CODE）计划旨在开发由人工智能驱动的自主系统，该系统能够协作并适应动态的战斗情况，从而能够更快、更精确地瞄准敌人的资产。
8）潜艇战。人工智能有可能通过增强潜艇和其他水下系统的能力来彻底改变海底战争。例如，美国海军的大排量无人潜航器（LDUUV）项目旨在开发由人工智能驱动的自主潜航器，能够执行各种任务，如情报、监视和侦察（ISR）、反水雷和进攻性行动。人工智能还可用于提高潜艇通信系统的有效性，如极低频（ELF）和极低频（VLF）系统，这对于在水下保持指挥和控制至关重要。
人工智能技术正以惊人的速度不断发展，导致创新的整合和能力每天都在出现。一些应用可能看起来是未来的，但最近的发展展示了人工智能在近期的潜在影响。
2023年4月，专注于政府的数据分析公司Palantir进行了一次演示，强调了生成性人工智能在战术行动中的潜力。使用FLAN-T5 XL、GPT-NeoX-20B和Dolly-v2-12b LLMs等先进的人工智能模型，操作员收到关于敌人活动的警报，并向人工智能聊天机器人咨询进一步的情报和潜在行动方案。然后，人工智能聊天机器人提供相关信息，并提出各种战术选择，如部署F-16，利用远程火炮，或发射标枪导弹。Palantir的系统简化了战争的许多方面并使之自动化，操作者主要从聊天机器人那里寻求指导并批准其建议。
然而，随着我们越来越多地将LLMs纳入军事行动，迅速解决和减轻与其部署相关的固有挑战和风险是至关重要的。例如，LLMs容易产生 "幻觉 "或捏造信息，这可能会在战场上产生可怕的后果。
此外，我们必须考虑到人工智能集成所带来的独特的脆弱性，如被对手利用的可能性，以确保我们的武装部队有一个可靠和安全的人工智能驱动的未来。通过积极应对这些挑战，我们可以利用人工智能的全部潜力来推进军事能力和国家安全。
4 保障竞争优势
将人工智能纳入军事行动，虽然带来了巨大的优势，但并非没有内在的风险。至关重要的是，要保护人工智能技术，防止对手通过针对我们的人工智能部署的网络攻击来破坏我们的能力。一个多层面的方法对于保护敏感信息，同时仍然利用人工智能进步的好处是至关重要的。以下原则构成了确保人工智能安全和部署的基础，以减少与实施相关的任务风险。这份清单不是分层次的，也不是详尽的，而是作为战略家的起点，旨在将人工智能作为我们军队的核心能力：
1）联邦学习。联邦学习能够在多个设备或组织之间进行协作式人工智能模型训练，同时保护数据隐私。通过只共享模型更新而不是原始数据，联合学习减少了数据泄漏的风险，并确保敏感信息的安全。
2）强大的对抗性训练。对抗性机器学习是一种被对手用来创建恶意输入数据的技术，旨在欺骗人工智能算法，导致错误的预测或分类。通过将对抗性例子纳入训练过程，强大的对抗性训练有助于人工智能模型变得更有弹性，以抵御攻击。
3）差异性隐私。差分隐私是一种技术，它在数据或查询结果中加入精心校准的噪音，以保护单个数据点的隐私。通过采用差分隐私，我们可以防止对手通过模型反转攻击来提取敏感信息，这种攻击旨在从模型的输出中揭示训练数据。
4）安全飞地。安全飞地是处理器内的保护区域，可以防止未经授权的数据访问和代码执行。通过在安全飞地内部署人工智能模型，我们可以保护它们免受攻击，如内存探测，它试图从模型的内部内存提取敏感信息。
5）模型水印。模型水印在人工智能模型中嵌入独特的、不可察觉的签名，使其来源和所有权得到追踪。这种技术可用于检测模型的盗窃或未经授权的使用，有助于保护知识产权和确保人工智能系统的完整性。
6）持续监测和验证。定期监测人工智能的性能和行为可以帮助识别潜在的安全威胁，如数据中毒或木马攻击。通过不断地验证模型的输入输出关系，我们可以检测并减少破坏其完整性和有效性的企图。
7）红色团队和渗透测试。对人工智能和ML架构进行红色团队演习和渗透测试可以帮助识别潜在的漏洞和弱点。通过积极主动地解决这些问题，我们可以确保我们的人工智能技术在面对不断变化的威胁时保持安全和有效。
通过了解和解决人工智能整合的挑战，我们可以更好地利用其战略和战术潜力，确保我们的国家保持在技术进步的最前沿。在军事领域成功采用和实施人工智能技术的全面和可操作的路线图应侧重于具体的应用、风险和解决方案，使我们能够保持我们的竞争优势，同时保障我们的人工智能基础设施。
5 前进之路
将人工智能纳入军事行动为不对称优势提供了巨大的机会。为了充分利用这一潜力，军事领导人和政策制定者必须采取全面的方法，解决几个关键的必要条件。在此，我们将深入探讨这些战略要务，并讨论如何将它们交织在一起，以确保人工智能被有效地纳入军事行动。
首先，保持技术优势和保持在国家安全领域进步的最前沿，有赖于加速人工智能和ML的发展和研究。这不仅涉及到优先投资于人工智能研究，而且还涉及到促进与学术界、工业界和国际合作伙伴的密切伙伴关系。通过这样做，军方可以确保尖端的人工智能技术不断地被纳入其应用中。
在技术进步的同时，为人工智能的负责任使用建立道德、法律和社会准则也是至关重要的。通过定义和执行与国家价值观和原则相一致的界限，军方可以保证人工智能技术在所有情况下都能得到道德和合法的使用。这种方法也将有助于促进国际合作，这对于在全球安全领域成功部署人工智能技术至关重要。
制定一项全面的人工智能战略是围绕人工智能的道德考虑的自然延伸。通过制定一个包含明确目标、里程碑和衡量标准的国家网络战略，军方可以为人工智能技术的发展和部署制定一个路线图。这可以确保军队保持在创新的最前沿，同时也可以促进人工智能的复原力和不同军种之间的互操作性。
针对弹性和互操作性，实施对抗性训练方法可以提高人工智能和ML系统的稳健性。这减少了对恶意输入数据的脆弱性，并确保无缝整合，为创建一个无缝的多领域人工智能框架铺平道路。开发一个能够整合所有军事行动领域的人工智能框架，包括陆地、海洋、空中、太空和网络空间，将能够实现更大的互操作性和协作。
随着人工智能框架的建立，培养一支熟练的人工智能劳动力以支持人工智能和ML技术的整合变得至关重要。投资于教育、培训和招聘计划，专注于在军事人员中建立一个强大的人工智能和ML技能基础，是一个关键步骤。一支多样化和有才华的劳动力队伍对于确保人工智能技术能够有效地部署在国家安全行动中至关重要。
在熟练劳动力的基础上，将人工智能能力纳入军事决策过程，可以大大增强复杂和动态环境中的态势感知和决策。利用人工智能进行实时数据分析和处理，使军事领导人能够做出更明智的决定，在未来的冲突中保持战略优势。将人工智能驱动的模拟和战争游戏整合到军事训练和演习中，进一步支持这种对决策的关注，提高任务准备和行动效率。
作为拼图的最后一块，调整军事进程、概念和理论以适应人工智能的观点和风险，对于促进人工智能技术的成功采用和实施至关重要。通过更新这些程序，军队可以确保在不断发展的技术环境中保持灵活和适应性，在其行动中充分利用AI的战略潜力。
6 结论
当我们反思我们在太空和网络能力方面的成就时，我们必须认识到人工智能为我们的战斗力和国家安全带来的巨大潜力。将人工智能融入我们的国防基础设施将帮助我们以更高的效率、准确性和速度应对复杂的挑战。必须制定一项全面的人工智能战略，解决现代战争的紧迫性和复杂性，促进军方、学术界和工业界之间的合作，并确保立即开展后续发展，以保持我们在军事能力方面最重要的领导者地位。
从我们在网络和空间发展方面的经验中获得的教训可以为我们的人工智能整合方法提供参考。我们的重点应该是创造强大的、准确的、安全的、有道德责任感的人工智能系统，能够适应战争的动态性质。我们必须优先考虑研究、开发和测试人工智能技术，以提高对局势的认识、决策和自主行动，同时防范潜在的脆弱性。
总之，人工智能是我们国家安全的一个战略要务，就像过去的空间和网络技术一样。通过利用这些进步的经验教训，我们可以有效地利用人工智能的力量来保持我们的战略优势，保护我们国家的利益，并确保一个更安全和更可靠的未来。将人工智能融入我们的国防能力，不仅将彻底改变我们开展行动的方式，而且还将成为我们在追求和平与安全的过程中坚定不移地致力于技术创新的证明。
作者
Dmitry I. Mikhailov（IEEE高级会员）是一位成功的网络安全研究员和顾问，在该领域拥有超过12年的经验。他拥有多项认证，包括CISM、CASP+和GPEN，目前在赫特福德大学学习计算机科学。他曾在国防部门担任网络安全工程师，在洛克希德-马丁公司和SAIC等公司担任过重要职务。目前，他为全球各地的组织提供专家咨询，帮助他们解决复杂的电子安全问题并实施有效的战略。除了他的专业经验外，德米特里还为各种网络安全研究和开发项目做出了贡献。他设计和开发了一个光电随机数发生器，并为SANs在2011年发布的第一个更新的Linux加固指南做出了贡献。米哈伊洛夫先生是几个专业协会的积极成员，包括IEEE计算机协会、ACM技术政策委员会和IEEE标准协会。他的工作获得了许多奖项和认可，包括总统志愿者服务奖和国会表彰奖。德米特里目前担任IEEE计算机协会第5区的协调员，并热衷于通过他的研究、出版物和领导力来推动网络安全领域的发展。
原文
相关内容
微信扫码咨询专知VIP会员