人工智能正在重塑战争形态、加速决策进程并影响平民伤亡——但过度依赖将带来风险与脆弱性。

图:乌克兰第24旅使用A1-S Furia无人机,2022年6月29日(乌克兰国防部供图)

人工智能(AI)的快速发展正以前所未有的速度变革各行业,战争领域亦不例外。各国竞相将AI融入军事行动,其中乌克兰与俄罗斯在开发自主系统获取战场优势方面处于前沿。但随着技术融入作战,关键问题浮现:我们应给予多大程度的依赖?又需承担何种风险?

奥地利外交部长亚历山大·沙伦伯格警示:"这是我们时代的'奥本海默时刻'"。正如核武器在20世纪重新定义战争,AI武器系统正在重塑战场——乌克兰战场尤为显著。在维也纳自主武器会议上,沙伦伯格警告AI驱动战争可能引发失控军备竞赛的风险:自主无人机与算法驱动的目标锁定系统或将使大规模杀戮机械化且近乎毫不费力。

五角大楼已在实战场景中积极测试AI决策工具。例如2024年1月,据报美军开始在印太地区使用类ChatGPT的生成式AI工具,以强化针对同级对手等高科技对手的战场决策能力。

由美国防部首席数字与人工智能办公室(CDAO,2022年设立)主导的AI整合计划,通过与安杜里尔(Anduril)和帕兰泰尔(Palantir)等公司合作,加速战场指挥官决策进程。此举标志着美军正借助私营领域创新提升军事决策能力。

具体而言,安杜里尔的Lattice AI软件整合传感器数据实现实时决策,为指挥控制注入自主态势感知能力。帕兰泰尔的AI数据融合技术为指挥官提供跨域可执行情报,通过整合陆海空天网电全域数据,实现实时决策、增强战场感知并确保复杂环境下协同响应。

帕兰泰尔的AI软件使乌克兰成为《时代》杂志所称的"AI战争实验室"。该技术助力分析卫星图像、处理无人机镜头、融合开源情报,使乌军得以实时识别与定位俄军目标。新美国安全中心高级研究员塞缪尔·本德特强调,俄乌战争产生的空前数据量正推动军事AI创新:"过去三年积累的数据量横跨空天陆网领域,相当于数百年的数据总量。交战双方正利用这些数据塑造军事规划与兵棋推演,尤其在无人机与无人系统应用方面。"

乌克兰战场的人工智能军备竞赛

乌克兰与俄罗斯已陷入AI驱动的无人机竞赛,双方均借助自主技术谋求战场优势。面对俄方数量优势,乌军在战争初期转向无人机作战,迫使俄方跟进。随着俄军电子战能力提升(对乌军无人机实施干扰),双方技术迭代速度不断加快。当前俄乌战争中,无人机造成约70%的战场伤亡。

这场"猫鼠游戏"促使双方采用光纤通信规避干扰,而针对光纤的对抗手段亦在研发中。无人机战即将进入新阶段:AI赋能目标识别系统可在强干扰环境下自主运作,实现最小化人为干预的识别与打击。

乌克兰前总司令瓦列里·扎卢日内在2023年11月接受《经济学人》采访时,将战场比作"一战"僵局:"我们已达到导致战略相持的技术水平。"他强调突破僵局需无人与机器人系统的重大跃升,并承认"难以实现深度且漂亮的突破"。

当前双方正竭力寻求短期技术突破。这场技术竞赛已演变为无人机霸权之争,而AI赋能的无人机将推动战争向算法对抗演进。具备最快适应能力的AI方将主导杀伤链中的目标识别与打击环节,速度与精度成为决胜要素。算法获取的数据与传感输入越多,AI目标识别系统的精准性与杀伤力越强。

AI作战能力的下一阶段进化

某俄罗斯军事博主在Telegram发文警告,AI将终结传统战争形态,使伪装、欺骗与电子对抗近乎失效:"伪装无法实现——AI算法凭借算力持续分析侦察数据,可捕捉最细微变化。"

该博主称,AI将颠覆电子战:模拟人声的机器学习系统可拦截通信、操控敌方决策,使无线电侦察过时。"无线电侦察失去意义——GPT聊天机器人能模拟真人语音进行无线电交互,侵入无线电网络获取谈判信息只会干扰侦察。电子战丧失价值——每个作战单元实现自主。"

博主同时强调AI增强型集群武器的进化,包括实时从交战中学**的无人机、导弹改型与制导弹药。他认为AI目标识别系统将创造持续进化的战场,使对抗手段快速过时。

"所有武器都在学。被车辆或坦克规避的反坦克导弹会瞬间回传数据至载具(如阿帕奇直升机),后者发射的新导弹将'知晓'如何应对之前的规避动作。鱼雷、反舰导弹、空对空导弹等所有制导武器同理。这堪称'新型原子弹',甚至更为可怕。"

尽管存在此类担忧,《经济学人》防务编辑沙什克·乔希指出,AI的直接影响并非完全自主战争,而是增强军事战略与决策。AI在实战中最显著的应用案例是以军对加沙的轰炸行动,AI目标识别系统在其中发挥关键作用。

尽管该博主可能高估AI的短期影响,但其警告反映出对战争演变速度的深切忧虑。这场竞赛的关键不仅在于战场部署AI,更在于同步开发对抗手段。

人工智能的双刃剑效应

人工智能将以无与伦比的精度与适应性重塑战争形态,但其快速整合伴随严峻风险。尽管可能减少意外伤亡并提升战场效率,但该技术也可能导致失控升级与对自动化的过度依赖,为未来战争带来不可预知的后果。

究其根本,研究人员仍难以完全理解AI的运作机制(尤其是训练与决策过程)。AI模型的"黑箱"特性意味着即使开发者也未必明晰其结论生成逻辑。这种透明度的缺失在涉及生死决策的军事应用中引发重大关切——可靠性、可预测性与问责性至关重要。若军队过度依赖AI却未充分认知其局限,可能部署存在不可预知失效风险的系统(原因包括对抗性操纵、隐性偏差或战场环境下的运行故障)。

Insight Forward公司首席地缘政治官、乔治城大学兼职教授特雷斯顿·惠特在采访中表示,他相信AI有助于减少意外伤亡。例如,依赖多源情报的指挥官可能忽视关键细节并下达导致平民伤亡的打击指令,而AI系统可实时处理海量数据,识别人类可能遗漏的细节从而避免此类错误。

"AI必将降低平民伤亡,这将成为此类武器的核心优势,"惠特解释称,"尽管人类具备创造力与思辨力,但AI处理信息(包括评估潜在场景)的速度远超人类。此外,人类的视野更为受限。因此,AI将使武器更有效区分目标。"

然而,AI虽提升精度并减少意外伤亡,但其融入战争仍伴随风险。随着AI应用规模扩大,过度技术依赖问题将凸显——当系统失效或受干扰时,军队将陷入脆弱境地。

惠特援引军事史上技术优势反遭低技术手段压制的案例,反映出现代军队的普遍困境:过度技术依赖可能削弱基础军事技能。当战场技术突发故障(信号干扰、电量耗尽或敌方网络攻击)时,士兵是否具备无技术依托的作战能力?墨西哥缉毒行动中,技术依赖使警员在设备失效时暴露风险,印证技能退化的危险性。

"军队过度聚焦技术优势总会产生问题,"惠特警示,"以色列与美国均面临此类困境——高度依赖先进技术时,对手以低技术手段实施反制。"

例如,美国在"反恐战争"中主导信号情报,基地组织则转向纸质通信与人力传讯规避侦测。第二次黎巴嫩战争中,真主党使用防火毯遮蔽导弹发射点,使以军空袭失效。

尽管AI与自主武器必将增强战场杀伤力,但惠特强调,创新思维与低技术手段仍可消解技术优势。"先进技术与自主武器无疑提升军队杀伤力,"他指出,"但决策者切勿忘记,想象力与低技术方案可瓦解此类优势。"

美国陆军战争学院助理教授、特种作战主任保罗·卢申科以以色列在加沙的AI驱动目标识别为例,说明AI已影响实时战场决策。他指出,基于军事数据集训练的机器学习算法可预测敌方位、分析作战条令并优化打击方案。

但他警告,AI融入致命行动引发严重伦理问题(尤其是自主武器与算法驱动目标识别)。以军在对哈马斯作战中高度依赖名为"薰衣草"的AI目标识别系统,据报该系统筛选出约3.7万个潜在关联目标,大幅加速空袭节奏,却导致大量平民卷入交火。

卢申科还论及"牛头怪战争"概念——AI可能接管更多作战控制权,指挥地面巡逻、空战与海战。他认为这要求军事架构根本性变革,包括重新定义指挥控制、创建新职业领域并重构集中式与分散式作战模式。

该构想将AI视为军事行动的"中央大脑",以超越传统方式的速度与精度分析战场数据并向人机单元下达指令。"牛头怪"概念体现人机协同的混合模式,在自动化与人工监管间寻求平衡以提升作战效能。

随着AI加速融入战争,核心问题依旧:应赋予机器多少决策权?代价几何?

并非所有AI模型均针对全战场场景训练,AI自有其局限。讽刺的是,过度依赖AI驱动战争的一方可能暴露新弱点——对手必将学会利用这些弱点。

"技术永远存在漏洞,"惠特指出,"关键在于我们部署AI增强网络防御的效能,但无法排除网络攻击成功的可能性——尤其是存在意外内部风险或高能力威胁行为体时。"

若AI目标识别系统依赖预设交战规则,可能难以适应非常规战争。若AI模型主要基于传统战争模式训练,可能无法识别与应对快速演变的威胁。更甚者,若AI系统优先效率而忽视伦理约束,可能误判非传统战斗人员或物体为合法目标,导致战场灾难性误判。

俄罗斯在乌克兰战场投入民用车辆作战即为明证。当对手系统性无视国际法与规范时,西方AI模型是否应训练识别民用战斗车辆?若俄军(或其他对手)完全放弃军服伪装平民发动袭击,又当如何?部分俄军甚至尝试穿戴乌军制服渗透防线。

此类战术暴露战争AI研发的根本挑战:当交战规则被刻意模糊时,系统如何区分合法军事目标?对手始终寻求利用技术进步,过度依赖AI可能在未来冲突中制造致命弱点。

参考来源:LAWFARE

成为VIP会员查看完整内容
15

相关内容

人工智能在军事中可用于多项任务,例如目标识别、大数据处理、作战系统、网络安全、后勤运输、战争医疗、威胁和安全监测以及战斗模拟和训练。
算法战——人工智能如何重写现代战争规则
专知会员服务
18+阅读 · 4月11日
人工智能与战场态势感知:声音检测
专知会员服务
17+阅读 · 4月3日
人工智能塑造未来空战:印度视角
专知会员服务
15+阅读 · 2月14日
人工智能无人机如何塑造未来战争
专知会员服务
17+阅读 · 1月11日
驾驭人工智能战场:机遇与伦理前沿
专知会员服务
17+阅读 · 2024年10月2日
兵棋与人工智能:改变军事战略
专知会员服务
37+阅读 · 2024年7月30日
人工智能技术在军事领域的应用思考
专知
40+阅读 · 2022年6月11日
Gartner 报告:人工智能的现状与未来
InfoQ
14+阅读 · 2019年11月29日
图说报告 | “智能+”的终极版图:数字孪生世界
人工智能学家
23+阅读 · 2019年8月20日
有关军事人机混合智能的再再思考
人工智能学家
17+阅读 · 2019年6月23日
【智能军工】算法战:牵引美军人工智能军事化应用
产业智能官
19+阅读 · 2017年11月29日
国家自然科学基金
11+阅读 · 2017年12月31日
国家自然科学基金
311+阅读 · 2017年12月31日
国家自然科学基金
7+阅读 · 2017年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
36+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
42+阅读 · 2013年12月31日
国家自然科学基金
37+阅读 · 2013年12月31日
国家自然科学基金
16+阅读 · 2012年12月31日
Arxiv
165+阅读 · 2023年4月20日
A Survey of Large Language Models
Arxiv
452+阅读 · 2023年3月31日
Arxiv
165+阅读 · 2023年3月24日
Arxiv
24+阅读 · 2023年3月17日
VIP会员
相关VIP内容
算法战——人工智能如何重写现代战争规则
专知会员服务
18+阅读 · 4月11日
人工智能与战场态势感知:声音检测
专知会员服务
17+阅读 · 4月3日
人工智能塑造未来空战:印度视角
专知会员服务
15+阅读 · 2月14日
人工智能无人机如何塑造未来战争
专知会员服务
17+阅读 · 1月11日
驾驭人工智能战场:机遇与伦理前沿
专知会员服务
17+阅读 · 2024年10月2日
兵棋与人工智能:改变军事战略
专知会员服务
37+阅读 · 2024年7月30日
相关基金
国家自然科学基金
11+阅读 · 2017年12月31日
国家自然科学基金
311+阅读 · 2017年12月31日
国家自然科学基金
7+阅读 · 2017年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
36+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
42+阅读 · 2013年12月31日
国家自然科学基金
37+阅读 · 2013年12月31日
国家自然科学基金
16+阅读 · 2012年12月31日
微信扫码咨询专知VIP会员