以色列国防军(IDF)在2023年10月7日哈马斯袭击后数周内运用军事人工智能(AI)系统,此举揭示了何种加沙占领的超技术化本质?使用AI与机器学习(ML)系统辅助军事决策蕴含哪些道德伦理问题?

2023年10月7日后数周间,以色列对加沙实施全面轰炸。以色列媒体《地方呼声》与《+972》杂志两份报告披露AI系统如何生成轰炸目标。IDF在10月后数周高度依赖的AI系统构成新型高效暴力模式,刻意模糊平民与武装人员界限。战事前六周,以军造成至少15,000名巴勒斯坦人死亡——占截至2024年12月14日巴方总死亡人数的三分之一——直至2023年11月24日停火(Abraham 2024; Kouachi 2024)。冲突初期惊人暴力规模促使我们深入探究:何种技术与条件助推以军实施此等屠杀?《+972》报道中提及的"薰衣草计划"、"福音系统"及"爸爸去哪儿"构成核心算法(Abraham 2024)。本文旨在揭示以色列如何运用AI实现:(1)扩大极端政治暴力合法目标的界定范围;(2)通过摧毁非军事基础设施恐吓巴勒斯坦民众。此外将剖析AI与ML算法的固有缺陷,探讨其揭示的伦理后果,并审视以色列社会如何促成像加沙的数字化占领,进而使AI系统部署成为可能。

以色列高科技经济近年迅猛发展,其科技初创企业数量全球第二(Vohra 2023)。学者指出,义务兵役制积累的人力文化资本,是催生与IDF协同的强劲私营科技产业的催化剂(Swed & Butler 2013; Brenitz 2002)。兵役期间专业训练培育出精通网络安全与军事技术的人才,为其研发新型军工技术赋能。IDF作为"关键社会化机构",向应征者灌输国家安全至上的价值观(Swed & Butler 2013, 41)。据称每位入伍公民皆被"依据IDF文化及主导政治议程进行再教育与社会化"(Swed & Butler 2013, 41)。因此科技企业受利益驱动研发助IDF维护国家利益的技术——包括维系加沙占领与加速巴勒斯坦种族灭绝。以军与科技业的共生关系解释了近年针对加沙巴人的暴力控制技术何以升级,并通过大规模监控改造占领本质。这些技术在巴被占领土(OPT)的应用,拓展了Tawil-Souri提出的"数字化占领"内涵(Tawil-Souri 2012, 28)。其研究揭示:以色列通过掌控电信基础设施(包括"带宽分配、互联网路由器/电话交换机布局与数量、蜂窝信号覆盖范围及设备选用")使加沙占领"全面技术化"(Tawil-Souri 2012, 31)。由此导致"所有互联网与蜂窝通讯皆可能遭以方监控"(Tawil-Souri 2012, 35)。无人机技术的演进更强化了以方监控能力(Taylor & Francis, Ltd. 2009)。

对OPT地区巴人通讯的监控与记录,为10月7日后以情报机构运作AI算法奠定基础。AI算法需海量数据训练以实现精准运作。据称"薰衣草计划"能评估加沙每个人:识别其是否呈现哈马斯关联特征(频繁更换手机号/住址、与确认武装分子同群组等),最终输出1-100分关联概率值。若属实,该算法需采集每位评估对象的详尽个人数据。IDF精英8200部队指挥官(该部队负责算法测试调试)承认:薰衣草系统收集"视觉信息、通讯数据、社交媒体关联、战场情报、手机联系人及照片"(Abraham 2024)。以方获取此类信息印证其对巴人生活的监控,而这种数据掌控唯有通过电信基础设施控制方能实现。创建此类算法必然要求维系加沙"数字化占领",持续侵犯加沙人隐私权(Abraham 2024; Tawil-Souri 2012, 28)。因此加沙占领的数字化进程,既是本文所述AI技术的强化手段,更是其诞生的先决条件。

IDF将AI系统用作算法化论证屠杀家庭与摧毁基础设施的工具。薰衣草等算法并未如军事技术倡导者所言提升目标锁定精确度(Heller 2023),反而暴露以情报机构正利用AI扩大极端政治暴力合法目标范围。10月7日后,以军大幅放宽"人类目标"界定标准,导致战争初期死亡人数激增(Abraham 2024, 第13段)。按以色列国际法部门标准,可在平民在场情况下于私宅击杀"人类目标"。此前该分类仅限高级军官,且需经审慎评估以"维系国际法相称性原则"(Abraham 2024, 第13段)。匿名情报人员透露,既往冲突中确立"人类目标"需经历严格"定罪程序":情报人员须交叉核验目标确系哈马斯军事分支高层、查明其住址及联络方式、实时掌握其归家时间(Abraham 2024, 第15段)。辅助算法"爸爸去哪儿"追踪目标计算其居家时段,而"福音系统"则关联目标与其住宅。以军刻意选择午夜家庭聚集时轰炸住宅:"'我们不愿仅在军事建筑或行动中击杀(哈马斯)人员……轰炸民宅容易得多。系统专为此场景设计'"(Abraham 2024, 第7段)。薰衣草系统误差率逾10%(Abraham 2024, 第4段),但情报部门未增设复核流程。由此可见,IDF借AI机械化标记加沙平民及住宅为合法袭击目标,加速种族灭绝进程。证据不仅体现于误炸平民,更在于蓄意以家庭为打击目标。

薰衣草锁定人员目标之际,"福音系统"则化身自动化基础设施暴力工具。IDF以此打击非军事建筑震慑巴人。战争首周近2700个锁定目标中,近半属"权力目标"(Ram 2023; Abraham 2023, 第3段)——特指非军事建筑,涵盖高层住宅、银行、政府机构及大学(Abraham 2023)。战事前五天,6000枚炸弹摧毁"加沙伊斯兰大学、巴勒斯坦律师协会……国民经济部、文化部、道路及数十栋高楼"(Zeiton 2023; Abraham 2023, 第30段; Dahlan 2023)。Salamanca早前研究揭示:以军轰炸加沙印证"基础设施网络兼具地缘政治空间控制与生命规训的生物政治工具属性"(Salamanca 2011, 2)。摧毁民用设施实为对生命支持系统的攻击,通过破坏社会经济功能建筑恐吓巴人、颠覆其日常生活。

IDF运用AI算法延续了以方研发高效暴力控制模式的历史逻辑:降低占领成本同时最大化集体惩罚。薰衣草、福音系统与爸爸去哪儿将定罪定位流程流水线化,人类决策占比趋近于零。消息源称其仅用"20秒"确认薰衣草生成的目标"性别为男"即予批准(Abraham 2024, 第48段)。此类AI部署契合Li对2005年加沙撤离后占领本质的分析:加沙地带成为以方测试控制技术的"实验室",寻求"领土控制最大化与对非犹太群体责任最小化"的平衡点(Li 2006, 38-39)。通过将杀戮决策权交予机器,以方既规避AI算法模糊性导致的技术归责,又摆脱人为选择打击目标以制造最大动荡的道义责任。战时最小化人类认知负荷的AI应用,正是"最小责任、最大控制"占领逻辑的具象化(Li 2006)。合理化屠杀的证据处理流程中人类参与的缺失,构成对IDF违背伦理运用AI的严厉控诉。

薰衣草计划等AI算法的构建与应用因非人化本质与致命后果深陷伦理泥沼。通过该算法处理巴人生活数据,意味着每个加沙人都被置于威胁以色列安全的审视框架下。以安全及加沙占领为名的威胁被量化为"可测算的确定因子"(Schwarz 2015, 6)。Schwarz针对2010年美国无人机技术的伦理分析,精准指向以色列运用薰衣草计划的非道德内核:"生命在此被抽象为数据,汇入风险矩阵以完成病态的政治体评估"(Schwarz 2015, 6)。将人类简化为数据点的建模过程本质即属人格剥夺,践踏巴人尊严(巴勒斯坦国 2024)。此种尊严侵害触及核心伦理关切——"唯有尊严获得承认,人类不可剥夺的权利方能保障自然平等,抵御一切形式歧视"(Cataleta 2020, 2)。

必须考量种族与性别社会结构如何加剧AI应用的伦理困境。算法运作中复制种族性别偏颇早有实证。ML系统设计缺陷或劣质数据训练会加剧种族不公,例证见于2016年《ProPublica》报道:美国部分州采用COMPAS算法评估罪犯再犯风险以设定保释金。研究显示,该算法误判黑人被告再犯几率是白人的两倍,而白人更易被错误标记"低风险"(Mattu, 2023)。薰衣草系统同样输出1-100分关联概率值,且二者均通过特定特征数据集训练锁定目标。算法相似性表明薰衣草具备与COMPAS同等的编码偏颇风险。《+972》消息源质疑训练数据构成:"薰衣草训练中'哈马斯人员'定义宽泛,甚至纳入民防工作者",并警告"基于通讯特征训练导致算法应用于大众时更易误选平民"(Abraham 2024)。降低AI误差的关键在于测试数据质量。此证言至少揭露IDF存在重大过失,甚或蓄意训练系统锁定平民目标。

成为VIP会员查看完整内容
1

相关内容

人工智能在军事中可用于多项任务,例如目标识别、大数据处理、作战系统、网络安全、后勤运输、战争医疗、威胁和安全监测以及战斗模拟和训练。
《数字目标定位:人工智能、数据和军事情报》
专知会员服务
38+阅读 · 2024年11月24日
《第一人称视角(FPV)无人机大战中的新领域与创新》
专知会员服务
36+阅读 · 2024年11月1日
《智能子弹:彻底改变精确作战和战术能力》
专知会员服务
26+阅读 · 2024年10月31日
《量子未来:未来冲突中情报挑战的微小解决方案》
专知会员服务
24+阅读 · 2024年9月7日
《俄乌战争:俄罗斯的战争军事能力》最新68页报告
专知会员服务
39+阅读 · 2024年7月22日
《俄乌战争中的伊朗无人机:视觉比较》
专知会员服务
38+阅读 · 2024年6月16日
《认知战场:探索西方和俄罗斯的观点》
专知会员服务
62+阅读 · 2023年10月13日
《混合战争的核维度》
专知会员服务
47+阅读 · 2023年6月15日
人工智能和军备控制,80页pdf
专知
11+阅读 · 2022年11月2日
国家自然科学基金
32+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
44+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
17+阅读 · 2013年12月31日
A Survey of Large Language Models
Arxiv
472+阅读 · 2023年3月31日
Arxiv
171+阅读 · 2023年3月24日
Arxiv
24+阅读 · 2023年3月17日
VIP会员
相关VIP内容
《数字目标定位:人工智能、数据和军事情报》
专知会员服务
38+阅读 · 2024年11月24日
《第一人称视角(FPV)无人机大战中的新领域与创新》
专知会员服务
36+阅读 · 2024年11月1日
《智能子弹:彻底改变精确作战和战术能力》
专知会员服务
26+阅读 · 2024年10月31日
《量子未来:未来冲突中情报挑战的微小解决方案》
专知会员服务
24+阅读 · 2024年9月7日
《俄乌战争:俄罗斯的战争军事能力》最新68页报告
专知会员服务
39+阅读 · 2024年7月22日
《俄乌战争中的伊朗无人机:视觉比较》
专知会员服务
38+阅读 · 2024年6月16日
《认知战场:探索西方和俄罗斯的观点》
专知会员服务
62+阅读 · 2023年10月13日
《混合战争的核维度》
专知会员服务
47+阅读 · 2023年6月15日
相关基金
国家自然科学基金
32+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
44+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
17+阅读 · 2013年12月31日
微信扫码咨询专知VIP会员