《战士和战争算法：利用人工智能实现伦理目标》美海军战争学院67页技术报告

本文探讨了人工智能（AI）如何可能使美国军队以更符合伦理的方式执行其作战任务，从而更好地遵守国际人道主义法（IHL）的伦理意图，并强调它可能带来的挑战。它将通过研究军事目标选择的两个关键特征来完成这一任务：区分和相称性。区分和相称性是国际人道主义法承认的四项基本战争原则中的两项，包括《海牙公约》、《日内瓦公约》及其附加议定书，以及红十字会编纂的习惯法。 对这两项原则的仔细研究突出了可预见性的概念在战争伦理中的作用。可预见性是正义战争理论中经常提到的与保护非战斗人员有关的关键伦理考虑。迈克尔-沃尔泽的奠基之作《正义与非正义的战争》认为，在战争中，不可预见的邪恶可能是可以接受的，但从伦理上讲，战士们必须在战争中尽量减少所有可预见的邪恶。虽然可预见性没有被标为基本原则，但它是一个经常被忽视的特征，对主要的四项原则的伦理决策产生了重大影响。

审查包括简要回顾区分的伦理基础，相称性，以及两者如何取决于可预见性。然后，它评估了当前的国际人道主义法，并确定了人工智能可以提供更多的合规性的潜在机会，以及潜在风险的特征。审查将主要集中在战争/战斗期间的伦理决定和行动（战时法），而不是可能导致战争的战略决定（战时法）。在执行对人工智能可能给军事目标带来的潜力和隐患的评估之前，关键是要正确定义人工智能，并审查其与国家安全的日益相关性。

人工智能是一个复杂的话题，既具有争议性，又经常被误解。著名物理学家斯蒂芬-霍金警告说，人工智能可能是 "我们文明史上最糟糕的事件"，除非其发展得到适当控制。 甚至企业家埃隆-马斯克，他自己的公司正在创新自动驾驶汽车，也警告说"......人工智能比核弹危险得多"，必须受到监管。相反，麻省理工学院计算机科学和人工智能实验室的创始主任罗德尼-布鲁克斯、哈佛大学心理学教授史蒂芬-平克，甚至Facebook创始人马克-扎克伯格都将这些观点描述为危言耸听。

当人工智能被引入到国家安全和军事行动中时，其强度和审查都会大大增加。马斯克和霍金都签署了一封致联合国的公开信，敦促禁止人工智能武器。 公众对人工智能 "武器化 "的反弹的一个引人注目的例子发生在Maven项目上，原因是人们对伦理问题的看法。Maven项目是美国国防部（DOD）的一项举措，旨在利用人工智能来评估来自遥控飞机的视频，试图更快、更准确地找到伊拉克和叙利亚的伊斯兰国恐怖分子。国防部与包括谷歌在内的一些商业伙伴开始了这项努力。然而，在2018年，约有4000名谷歌员工认为该项目与谷歌的伦理规范相抵触，这些伦理规范是基于 "不作恶 "的非官方格言。然后，这些员工签署了一份请愿书，要求"......谷歌或其承包商将永远不会建立战争技术"。 此后不久，谷歌退出了该项目。这些事件受到一些人的赞扬，也受到另一些人的批评，他们认为抗议是短视或幼稚的，因为不太伦理的美国竞争对手仍然会从谷歌的人工智能工作中受益。

曾在伊拉克和阿富汗服役的海军陆战队员卢卡斯-昆斯(Lucas Kunce)为人工智能在军事上的伦理应用提出了令人信服的愿景。他认为，对向军队提供先进技术的担心是没有根据的。他提供了一些小故事，描述了人工智能增强的工具如何阻止他的团队杀死一个他们认为向他们投掷手榴弹的平民，而他只是拿着一只鞋。他还描述了在一次交战中，他的一名海军陆战队员射杀了一名坐在车里的年轻女孩，他的部队认为这是一个车载简易爆炸装置。正是这种观点准确地将军队描述为试图完成其当选领导层赋予他们的任务的同胞。它还指出，职业军人不是一群不分青红皂白的杀手，如三十年战争期间蹂躏欧洲的掠夺者，甚至是越南时代助长美莱大屠杀的美国重兵。相反，他们是负责为国家管理暴力的专业人士。正是这种被进一步编入国际人道主义法的特点，应该能缓解人们对人工智能和军队的结合将导致未来出现天网、终结者和其他类型的杀人机器人的担忧。