人类历史进程始终受自然挑战、技术进步与社会思潮推动而演变。我们持续适应剧变环境并驾驭创新成果。当今气候变化、大规模移民与新兴技术等挑战虽非全新议题，但其演变规模呈指数级扩张且以光速推进。这要求不仅需适应变革，更要预见未来并预判影响，从而对可能超预期突现的风险威胁提供及时应对方案。
随着人工智能技术突破性发展，其以不可阻挡之势渗透生活各领域，兼具积极与消极影响。当科学家运用AI提升社会技术支持与服务（如优化医疗、能源生产与通信系统）之际，众多组织正策划或已开始将AI用于破坏目的。基于既有认知与未来研判，我们确信AI将对恐怖组织及其对抗行动产生重大影响。为系统梳理经验教训并向北约决策层提供行动建议，COE-DAT与美国陆军战争学院战略研究所（US AWC SSI）启动专项研究。
人工智能大语言模型对军事行动与后勤的影响
大语言模型（LLM）漏洞利用与保护北约行动免受恐怖分子威胁有何关联？恐怖分子可通过多种方式破坏北约成员国军事行动与国家安全：其一，利用LLM创建恶意网络攻击程序；其二，散布虚假信息或仇恨言论（可能引发示威或武装冲突），阻断交通、航运路线、铁路或航空导致军事行动受阻，或切断军事物资运输。
恐怖分子亦可直接入侵与军事基础设施（如物流清单、港口、铁路系统、航运、航空或卫星）连接的LLM系统。还可能采用两步攻击：先通过LLM聊天机器人广泛传播虚假信息或仇恨言论引发动荡并阻断资源，再实施直接网络攻击与LLM入侵。鉴于前文及本书其他章节已详述虚假信息与仇恨言论利用，本章重点聚焦LLM直接入侵关键基础设施、物流与供应链的威胁。
与后勤、供应链及关键基础设施的关联
全球生成式AI在物流领域的整合成本2022年达4.91亿美元，预计2032年将增至180亿美元。物流中生成式AI用于供应商选择（分析成本、产品质量、可靠性与可持续性），预测风险或需求，并普遍应用于"准时制库存管理策略"（物流公司通过最晚时间点配送物资降低仓储成本）。生成式AI还可在交通拥堵、天气或自然灾害等中断时提供替代路线与仓储方案，并通过聊天机器人向客户更新配送信息。但人工智能与数据科学咨询公司DataRoot Labs警告称："供应链与国家安全间的关联意味着对手可能针对大型企业渗透或破坏运营，导致减速或瘫痪。"
北约军队日常依赖的物流、供应链与关键基础设施多环节已应用或正在整合LLM技术。为促进全球通信与可靠连接，LLM正被探索用于集成天基、航空与地面网络以"优化数据流、增强信号处理、改进网络管理"。ChatGPT应用程序接口与LLM已被整合至监测水质污染的监控多模态系统。多个基于LLM的导航模型辅助路径规划与探索，并能与环境互动（根据新任务或环境变化自主优化）。
供应链管理整合LLM预测产品需求、供应链中断风险与维护需求。三星等公司使用LLM协调供应链各环节（供应商与分销商）；马士基等航运公司通过分析拥堵数据、天气预报与社交媒体信息预测港口中断。
军事单位间通信卫星、海军港口、物流车队导航工具、保障军需准时送达的供应链协调、为部队提供饮用水的净水系统——这些构成北约军队后勤核心领域，目前均已依赖应用LLM与生成式AI的企业完成任务。在对抗或竞争环境中（北约对手或竞争国掌控港口与主要供应链环节、租用卫星、承包净水系统与航运业务），AI与LLM在全供应链与物流中的使用为受国家资助的恶意行为体与恐怖分子开辟了新攻击途径（旨在削弱北约军力）。
尽管FBI局长克里斯托弗·雷警告中国政府黑客正针对美国境内水处理、电网与交通系统，麻省理工学院研究团队也证实生成式AI可实施网络物理攻击（触发关键基础设施泵阀系统火灾与爆炸）。以下物流领域（货运清单与铁路系统）的LLM入侵案例，揭示了北约军队可能暴露的LLM漏洞（恶意行为体或借此发动攻击）。
原文
相关内容
微信扫码咨询专知VIP会员