阿联酋主流媒体The National(“国民报”)调查了加沙死亡事件发现以色列军事AI系统的一些核心事实:

  • 以军AI锁定目标后启动20秒快速决策流程(TCT机制),打击对象含已知哈马斯人员及连带平民
  • 先进AI系统通过数据采集对加沙居民标注"嫌疑评分"作为打击依据
  • 系列AI系统常态运行置信度低至80%
  • 关键AI系统包括:
    • 薰衣草系统:扫描数据库生成目标确认概率值
    • 福音系统:识别隧道等静态军事目标
    • 爸爸在哪系统:计算目标人物时空定位
  • 目标识别依赖人脸识别、步态测绘及身份交叉验证技术
  • 目标库含37,000名巴勒斯坦人档案,涵盖照片、视频、电话号码及社交媒体数据

数据吸尘器式采集

机器学习公司Flare Bright的AI专家克里斯·丹尼尔斯指出:代号"薰衣草"的系统挖掘了多年积累的数据。加沙是超高强度监控区,以色列多年来持续录入监控画面并输入系统。他们像吸尘器般吞噬所有数据——视觉人脸识别、手机通讯、短信、互联网及社交媒体。面对两百万人口,这对机器学习程序是海量信息。以色列开源情报分析师兼软件专家塔尔·哈金认为,AI即将(若非已实现)迎来转折点:未来战场多数决策将由AI制定。关键在于:是否已进入AI接管指挥权的阶段?抑或仍处AI辅助时代?二者存在本质差异。

当前加沙冲突初期,以军"以极高速率清除各类目标"的行动必然依赖机器生成情报。与美国国防部签约的网络AI专家大卫·科瓦尔表示,以色列虽利用AI生成大量目标信息,"但未让人工介入验证目标合法性"。

人为干预缺失

在加沙21个月数千次空袭中,引发对以军机器驱动任务的严重关切:AI能否精准锁定目标?人工干预是否充分?是否存在监管机制?媒体调查不仅质疑薰衣草AI决策准确性,更揭露众多平民显然死于该系统,且高附带伤亡已被AI情报默许。

据前英军军官丹尼尔斯透露(其与以军情报系统联系密切),攻击链末端的以军AI"目标官"满足于80%概率确认打击目标,无视附带后果。"当置信度达83.5%,操作员会直接批准——对低价值目标或需95%,但高价值目标可低至60%。"据其了解,以军指挥室"错误容忍度极高",并警告"若移除人为干预,危险失误将急速攀升"。

联合国武装冲突法顾问律师奥利维娅·弗拉什指出:"预期造成平民伤害且超出预估军事优势的袭击属明令禁止。"她解释若指挥官80%确信目标是"恐怖组织首脑"且其死亡可能终结战争,则属"高军事优势",但此评估不适用于普通士兵。对加沙民众而言,这套以香草命名的系统如今更似死亡代名词。

致命系统运作机制

薰衣草系统被输入海量数据,包括秘密监控影像、开源情报及以情报机构认定的哈马斯成员司法记录。该系统不直接生成目标,而是处理情报供军官研判。据悉信息经指挥链提交高阶情报官,后者授权打击时需考量平民伤亡。另有未公开代号的以军AI系统,其精准打击能力尚不明晰。

业内人士担忧薰衣草催生了一种关键环节缺失人为干预的战争形态。科瓦尔透露:若某人在地面建筑间移动且AI以80%置信度判定其为合法目标,"即便存在附带损伤风险,他们仍会开火"。《国民报》通过情报源、专家访谈及开源信息还原了从目标获取到"清除"的全流程:

当高"嫌疑评分"者被人脸识别且定位后,机器驱动分析即刻启动——包括研究步态、位置,并通过福音系统预测目的地,海量数据在数秒内处理完毕。强调"系统在人体步态识别领域投入巨大资源"。该系统还大幅加速"观察-定位-决策-行动"(OODA)循环,实现快速军事响应。"若AI能完成OODA循环——从图像识别身份到决定开火,尤其当人工需层层请示时,他们必然选择AI。"

薰衣草整合信息呈现给操作员时,会标注目标确认概率值(如83.5%)及嫌疑评分(暗示目标重要性)。AI系统还显著提升响应速度,无需等待高阶军官授权。

薰衣草系统去年4月由以色列媒体+972首度曝光,信源称操作员被允许为清除低阶哈马斯成员牺牲15至20名平民。福音系统2021年现身以军官网,被描述为基于算法识别隧道、武装人员住所等静态军事目标的工具,可与"爸爸在哪"系统联动——后者计算目标何时进入特定位置。皇家国际事务研究所专家尼尔扎·阿马拉尔指出:"‘爸爸在哪’用于追踪薰衣草锁定的目标,在其进入住所时实施打击。"这或解释以军对AI识别目标的打击多针对建筑物。

核心推手

以色列8200部队(引入薰衣草系统的专业团队)负责人约西·萨里埃尔准将曾撰写《人机协同:创造颠覆世界的人与人工智能协同效应》一书,书中描述"目标机器"通过社交媒体、手机追踪及家庭住址分析人员关联与行动轨迹。萨里埃尔据称是AI军事应用的关键推手,虽然系统精确运作机制高度保密,但据悉薰衣草会生成数字"嫌疑评分"——若评分过高即触发清除目标指令。在加沙,高嫌疑评分几乎等同于死亡宣判,无论你是否隶属哈马斯或巴勒斯坦伊斯兰圣战组织。

伊朗核计划溯源

以色列打造的致命高效杀戮机器将影响未来战争形态,其技术源头可追溯至针对伊朗核科学家的暗杀计划——2020年法克里扎德教授遇刺即为该计划高峰(早于上月以军空袭)。远程袭击成功后,以方意识到既能精准打击遥远伊朗的目标,何不将技术用于近在咫尺的加沙?伊朗行动中人脸识别的成功催生了薰衣草系统。

事件引发对AI判定"敌人"精准度的质疑。英国皇家联合军种研究所新兴军事技术研究员诺亚·西尔维娅指出:以军虽声称人工核查每个目标,但"我们无从知晓AI模型是否自主生成目标"。

据报道,多达37,000名巴勒斯坦人的照片、视频、电话及社媒数据被录入薰衣草系统。"以方尽可能多地制造目标存入数万量级目标库,因他们始终预期将与哈马斯再战",西尔维娅解释道。

融合战争

加沙战场引入的新技术包括配备AI、传感器、雷达及微型摄像头的"梅卡瓦5巴拉克"主战坦克。坦克内触摸屏可实时向AI"目标库"传输数据,直通秘密作战室。"这些坦克是吞噬所有数据的大型传感平台",AI分析师丹尼尔斯表示。此外,加沙上空持续盘旋的"苍鹭"与"赫尔墨斯"无人机,通过监控设备追踪人员、通话及潜在加密信息。

借助卫星覆盖与秘密观察哨,加沙363平方公里土地成为全球监控最密集区域,使以军得以惊人速度实施打击。

任务评分机制

薰衣草嫌疑评分至关重要——若AI识别"高价值目标",操作员愿承受重大附带损伤(即非战斗人员死亡)以清除高级指挥官。"他们在进行风险演算",科瓦尔指出,"无论对错,他们降低开火所需的置信区间,这正是大量附带损伤的根源"。以方信源证实:当AI快速解析目标信息时,F-15、F-16或F-35战机与武装无人机已在目标上空盘旋。薰衣草操作员经辛贝特情报确认后点击授权,导弹即刻扑向目标。

"据闻操作员仅用20秒确认目标,只为双重核验其为男性",阿马拉尔透露。这被军方称为"时间约束目标"(TCT)机制——锁定后须即刻打击。虽然打击对象是薰衣草收集大量情报的已知哈马斯人员,但以军为清除目标可接受的平民伤亡比例仍不明。

AI误差容忍度

"以军对错误的容忍度极高",西尔维娅指出数据输入未考虑模型创建者的"偏见",称"数十年对巴勒斯坦人的非人化对待"可能影响系统。接受《国民报》采访的以军AI情报人员承认误差存在:"这是战争,高压下总会犯错",但坚称AI误杀大量无辜者属无中生有。该军官强调:"薰衣草虽被广泛应用,但并未造就机器失控的反乌托邦未来"。

以色列军方回应

以军向《国民报》声明人类始终掌控决策权,薰衣草系统不主导打击行动。"AI工具仅处理信息,军方未使用任何自主生成目标的工具。打击链中必须由人类为以军创建目标",军方强调,"所有目标打击均符合国际法。从未听闻薰衣草系统在未经人工批准的情况下提出目标"。军方补充说明该AI非"自主生成规则的创造型机器",而是"基于规则的机器",其信息源始终来自人类。"薰衣草系统采用限定数据集,专职人员确保输入信息精确可靠且受人工监管。系统仅生成情报官应核查对象的建议名单"。

数据喂养机制

但大规模机器驱动杀戮正引发系统构建者的深切忧虑。现代战争监控产生的海量情报远超人类处理能力。"仅分析一小时监控画面就需耗费数日",西尔维娅指出。数据虽是薰衣草系统效能核心,但其表现完全取决于输入信息质量——若数据存在缺陷,机器不应担责。高级指挥官对AI的"数字素养"不足问题仍存争议,专家指出AI模型终将反映使用者特质。"理论上"AI可通过更严格目标画像提升精准度,但机器学习亦带来不确定性及潜在失控风险——无人知晓薰衣草是否已"自主创造"其认定的威胁人物。

合法性争议

这引发AI军事化应用合法性质疑。国际特赦组织AI战争法律顾问马胡迪指控薰衣草系统"完全违反国际人权与人道主义法",是"侵蚀无罪推定原则的体系"。他补充道:"该系统基于非法获取的大规模监控数据。任何科学家都会认定——依据任意数据生成数万目标的AI系统存在缺陷与歧视。"英国前内阁大臣巴克兰德指出系统效能"完全依赖输入数据质量",存在"信息不全、过时或陈旧"风险,导致输出沦为"垃圾"。

机器霸权崛起

英国前议员卡莱尔勋爵坦言技术发展已超越法律监管速度:"此事存在紧迫性,但重大决策往往需危机事件推动。"他认同这使"终结者场景"逼近现实——AI可能产生幻觉或撒谎的隐患已然显现。"虽不会真正出现终结者,但战场自动化程度持续提升正使我们逼近该场景。"这印证丹尼尔斯的警示:"AI一旦失效将引发灾难性后果",因机器"缺乏良知"。意味着冷酷无情的AI可能"持续发动战争直至达成预期效果",而人类"终会在某个节点承认'苦难已足够'从而终止冲突"。

以色列在加沙及其他战场取得的AI技术闪电式突破,已使未来人类丧失战争控制权的风险急剧攀升。

参考来源:The National

成为VIP会员查看完整内容
1

相关内容

人工智能在军事中可用于多项任务,例如目标识别、大数据处理、作战系统、网络安全、后勤运输、战争医疗、威胁和安全监测以及战斗模拟和训练。
无形战场:AI模型如何成为下一代网络武器
专知会员服务
29+阅读 · 3月2日
以色列的人工智能战争机器
专知会员服务
20+阅读 · 1月27日
美智库CNAS:无人机扩散数据
专知会员服务
21+阅读 · 2024年9月17日
电磁频谱战中实施人工智能
专知会员服务
58+阅读 · 2024年4月19日
算法加速的杀伤机器
专知会员服务
36+阅读 · 2024年2月6日
JADC2 和美国国防部:描绘态势感知的未来
专知会员服务
122+阅读 · 2023年9月25日
《多域作战环境下的军事决策过程》
专知
105+阅读 · 2023年4月12日
美国“忠诚僚机”项目概念与技术现状
无人机
12+阅读 · 2018年11月1日
行人再识别中的迁移学习
计算机视觉战队
11+阅读 · 2017年12月20日
动手写机器学习算法:异常检测 Anomaly Detection
七月在线实验室
11+阅读 · 2017年12月8日
国家自然科学基金
43+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
48+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
11+阅读 · 2012年12月31日
A Survey of Large Language Models
Arxiv
472+阅读 · 2023年3月31日
Arxiv
26+阅读 · 2020年2月21日
Augmentation for small object detection
Arxiv
11+阅读 · 2019年2月19日
VIP会员
相关VIP内容
无形战场:AI模型如何成为下一代网络武器
专知会员服务
29+阅读 · 3月2日
以色列的人工智能战争机器
专知会员服务
20+阅读 · 1月27日
美智库CNAS:无人机扩散数据
专知会员服务
21+阅读 · 2024年9月17日
电磁频谱战中实施人工智能
专知会员服务
58+阅读 · 2024年4月19日
算法加速的杀伤机器
专知会员服务
36+阅读 · 2024年2月6日
JADC2 和美国国防部:描绘态势感知的未来
专知会员服务
122+阅读 · 2023年9月25日
相关基金
国家自然科学基金
43+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
48+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
11+阅读 · 2012年12月31日
微信扫码咨询专知VIP会员