中文版 | 军事AI第二阶段已至：五角大楼推动生成式AI的三大待解问题

部署于太平洋地区的美海军陆战队，在去年参与了从韩国到菲律宾的多场演习。其中设有单元负责分析监视数据，向指挥官预警潜在威胁。但最近一次部署不同以往：他们首次通过类ChatGPT的聊天机器人界面，使用生成式AI筛查情报。

此次实验是五角大楼在全军推动生成式AI（可模拟人类对话的工具）应用的最新例证，其任务范围涵盖监视等领域。这标志着美军AI应用进入第二阶段——第一阶段始于2017年，聚焦计算机视觉等传统AI技术（如分析无人机图像）。尽管新阶段启动于拜登政府时期，但随着埃隆·马斯克旗下DOGE公司与国防部长彼得·赫格塞斯高调倡导"AI驱动效率"，其紧迫性显著提升。

正如报道所述，此举引发AI安全专家的警示：大语言模型是否适合分析地缘政治高风险情境下的微妙情报？这也加速美国迈向AI不仅分析军事数据、更提出行动建议（如生成目标清单）的新阶段。支持者称此举将提升精确度并减少平民伤亡，但多个人权组织持相反观点。

鉴于此，当美军及全球其他军队将生成式AI引入所谓"杀伤链"更多环节时，以下三大开放性问题值得关注：

“人在环内”的边界何在？

与众多防务科技公司交流后，会反复听到一个术语："人在环内"。其核心在于AI执行特定任务，人类负责监督审核。该机制旨在防范极端风险（如AI误判发动致命打击）与常规失误，隐含着双重承诺：承认AI必然出错，同时保证人类将纠错。

但AI系统依赖数千项数据点进行决策的特性，使得人类监督成为艰巨挑战。AI Now研究所首席AI科学家海迪·克拉夫（曾主导AI系统安全审计）指出："'人在环内'并非总能实现有效风险缓释。"当AI模型基于数千数据点推导结论时，"人类实际上无法筛选如此庞大的信息量以判定AI输出是否错误"。随着AI系统数据依赖度持续提升，此问题将呈指数级放大。

AI使信息定密更易还是更难？

冷战时期的美军情报体系下，信息通过隐蔽手段获取，由华盛顿专家撰写报告后标注"绝密"并限制接触权限。大数据时代与生成式AI分析技术的兴起，正从多维度颠覆这一传统范式。

汇编分类难题凸显：假设数百份非密文件各自包含某军事系统的零散细节，整合者可能据此推导出本应归密的关键信息。过去可合理假设无人能关联碎片信息，但大语言模型正精于此道。

兰德公司高级工程师克里斯·穆顿（近期测试生成式AI在情报分析中的适用性）指出，面对数据量与AI分析的指数级增长，"尚未找到对海量产出进行合理定密的理想方案"。定密不足威胁国家安全，但国会亦批评五角大楼存在过度定密问题。

相关报道

（无人机机首添加OpenAI标识图示）

OpenAI新防务合同完成军事化转型
今日宣布与安杜里尔公司的新合作将在战场部署AI，标志着该公司立场一年内的重大转变。

防务巨头帕兰蒂尔正布局解决方案，提供AI工具判定数据定密状态，并与微软合作开发基于机密数据训练的AI模型。

AI在决策链中的渗透层级应有多高？

纵观全局，值得注意的是美军AI应用轨迹与消费级技术高度同步：2017年手机应用盛行人脸识别时，五角大楼启动"马文计划"（Project Maven），利用计算机视觉分析无人机影像识别目标。

如今，随着大语言模型通过ChatGPT等界面渗入工作与生活，军方开始采用类似模型分析监视数据。

未来趋势何在？ 消费领域正迈向"代理型AI"（可联网代执行任务）与"个性化AI"（基于隐私数据学习提供个性化服务）。军事AI或将遵循相同路径。乔治城大学安全与新兴技术中心3月报告显示，AI辅助决策的军事应用激增："指挥官关注AI提升决策效能的潜力，尤其在作战层级。"

拜登政府去年10月发布《国家安全AI备忘录》为高风险场景设置防护机制。尽管该备忘录未被特朗普政府正式废除，但特朗普总统强调"美国AI竞争需更多创新、更少监管"。无论政策如何，AI正快速渗透至决策链高层——不再局限于行政事务，而是介入高时效、高风险的重大决策。

参考来源：James O'Donnell