不少军事领域人员认为人工智能(AI)无法替代领导决策中的关键人为因素。美《国会山报》近日刊文介绍美军新组建的"人工智能快速能力单元"(AI RCC)——其名称已昭示任务:加速军方AI技术(尤生成式AI)部署进程。令人警觉的是该机构拟将AI应用于:指挥控制、自主无人机、情报处理、武器测试乃至财务系统与人力资源等企业管理。
为阐明观点,需先界定术语语境。美军斯坦顿中将曾反复强调:"作为网络部队专业人员,使用AI或机器学习(ML)术语必须明确语境"。那么何为AI?公众受好莱坞大片影响常联想机器人统治世界或"天网"判定人类威胁等场景。但AI本质是机器(计算机)执行人脑任务的能力。
AI存在子集"人工通用智能"(AGI)——其发展缓慢,旨在使机器具备类人智能以执行任何人类智力任务。机器学习作为AI子集,若设置得当可辅助预测并减少猜测错误。生成式AI属机器学习分支,能生成文本、图像、音频、代码及合成数据集等。鉴于本文军事导向,必须提及CamoGPT——该系统整合联合/陆军条令、经验教训、最佳实践及训练条令司令部内容等数据。需强调:机器学习通过大语言模型(LLM)实现。
何谓大语言模型?LLM是通过海量数据输入/输出集训练的基础模型类别,其参数规模可达数十亿级,使其能理解并生成内容以执行广泛任务。除公众熟知的OpenAI GPT-3/4外,主流LLM包括谷歌LaMDA/PaLM(Bard基础)、Hugging Face的BLOOM/XLM-RoBERTa、英伟达NeMO LLM、XLNet、Co:here及GLM-130B等开源模型。
聚焦AI RCC优先领域,本文重点探讨作战职能中"情报"与"指挥控制"两大方向的AI技术应用。美《陆军条令出版物3-0:作战行动》将作战职能定义为"为达成任务与训练目标,由指挥官运用的具有共同目的的任务与系统集合"。人为因素贯穿作战规划各环节——从情报官研判敌方行动方案(COA),到作战参谋制定己方行动方案,直至指挥官选定最佳行动路线,人类要素始终不可替代。
美国防部AI应用实例:从"专家计划"到决策风险
2017年启动的"专家计划"(Project Maven)是美国防部AI应用典范,该项目于2022年移交国家地理空间情报局。其核心是组建"算法战跨职能小组"(AWCFT),旨在"加速国防部整合AI技术...将海量数据转化为实时可行动情报"。该计划成功解析无人航空系统(UAS)采集的巨量数据。美国防部曾用UAS获取伊拉克与叙利亚战场打击"伊斯兰国"的视频流,却因缺乏及时处理、利用与分发(PED)能力致使数据失效。AWCFT开发近实时分析全动态视频(FMV)的算法,实现目标自动分类与异常预警。
美情报军官常在军事教育与部队实践中强调"情报驱动作战(作战反哺情报)"。《ADP 2-0情报条令》将情报作战职能定义为:促进理解敌情、地形、天气、民事因素及作战环境关键要素的相关任务与系统。情报赋能指挥控制、激发战场主动权,助指挥官建立态势认知并果断决策,以应对当今多域战场的复杂挑战。诚如克劳塞维茨所言,情报虽可拨开"战争迷雾"(未知因素集合),但塑造态势、夺取主动权仍是指挥官的专属职责。
《ADP 3-0作战条令》界定指挥控制作战职能为:使指挥官能同步聚合全要素战斗力的相关任务与系统。其核心是协助指挥官整合战斗力要素(领导力、信息、机动、情报、火力、保障、防护)以实现作战目标。该职能的关键性在于建立驱动全域军事行动的流程机制。
若支撑情报或所有作战职能的数据遭污染将如何?国防部副部长希克斯认为:AI军事应用的核心价值在于提升决策优势。但距五角大楼发布《数据、分析与人工智能战略》仅一年,美国AI发展尚未成熟到可将决策权从指挥官移交AI系统——尤其在AI RCC负责的作战职能领域。情报与指挥控制是六大战职能中最关键的两项,技术应辅助而非取代指挥官决策。此类决策必须保留"人在环内"机制;至少需维持"人在环上"的监督权限。
人类必须留驻决策链的原因简明:
前文提及LLM需数十亿参数生成有效信息。这些数据集不仅可能存偏见,更可能不可靠、不完整或产生异常输出(即"幻觉"),部分幻觉会生成虚假情报。更关键的是:驱动AI的软件由人类开发,而人类会犯错。这些错误形成攻击面,使黑客能利用漏洞牟利。
尽管黑客动机各异,本文聚焦国家行为体——其网络行动终极目标是助本国赢得战争。敌对网络操作者可利用编程缺陷,蓄意篡改AI技术参数。试想若对手篡改美军"专家计划"参数:当使用被污染的AI技术时,UAS数据可能无法按设计识别建筑、人员、武器或装备。
人类决策的不可替代性
研究已确证:机器学习模型易受恶意输入诱导产生错误输出,且这些异常对人类观察者具有隐蔽性。学者成功攻击MetaMind的深度神经网络(DNN),发现其对手工构造的对抗样本误判率达84.24%。该研究对亚马逊与谷歌模型的同类攻击中,误判率分别达96.19%与88.94%。更关键的是,此攻击方法能规避此前被认为可增强模型防御的策略。
人类虽不完美,但正是这种不完美使其超越机器——人类不受程序束缚且能适应突发变化。美军实践印证此理:尽管公开战术技术与规程(TTPs),敌军仍因战场上的灵活应变而困惑。因TTPs仅为指导纲要,指挥官通过任务式指挥向下级赋权,使其能调配资源自主决策达成使命。美军史上无数战役证明:各层级指挥官的创造性正是夺取主动权的关键。
何为优秀领导者?借用橄榄球术语解读网络作战(攻防对抗)时,作者援引NFL名人堂教练文斯·隆巴迪名言:"领导者非天生,而是如万物般经砥砺铸就"。执教NFL前,隆巴迪曾任西点军校进攻线教练,其领导力根基或源于此。《ADP 6-22:陆军领导力与职业素养》详述优秀指挥特质。诚如隆巴迪所言,领导力培养源于成败经验:研习TTPs、组织战斗演练、关爱部属、敢于谏言乃至承认错误——这些经历锻造的素质使指挥官具备决策魄力。
尽管AI/ML技术将持续辅助军事行动,人类因素始终不可替代:经验积淀、直觉判断与领导艺术皆源于人性特质。国防部高层反复强调:美军屡创佳绩的核心秘诀,归根结底在于领导力、士官团队的创造力及各层级指挥官的决策魄力。
为延续军事优势,人工智能绝不可取代领导决策中的人类核心要素。"人在环内"机制必须永存。
参考来源:美国陆军