《自主武器系统与未来战争》245页书籍

战争中的生死抉择不容轻视，关乎数百万人的生命。战争法和交战规则为士兵在混乱的战斗中做出决定提供了框架，但在任何特定情况下，要做出正确的选择，往往需要正确的判断。

在人类与战争的关系中，技术已经把我们带到了一个关键的临界点。在未来的战争中，机器可能会独自做出生死攸关的交战决策。全球各国军队都在争先恐后地在海上、地面和空中部署机器人--九十多个国家都有无人机在空中巡逻。这些机器人的自主性越来越强，许多还配备了武器。目前，它们在人类的控制下运行，但当 “捕食者 ”无人机拥有和谷歌汽车一样的自主权时，会发生什么呢？我们应该赋予机器什么样的权力来决定最终的生死？

这不是科幻小说。目前已有三十多个国家拥有自主防御武器，以应对交战速度过快、人类无法做出反应的情况。这些系统用于防御火箭弹和导弹对舰船和基地的饱和攻击，由人类进行监督，必要时可以进行干预，但其他武器，如以色列的 “哈比 ”无人机，已经超越了完全自主的界限。与由人类控制的 “捕食者 ”无人机不同，“哈比 ”无人机可以在大范围内搜索敌方雷达，一旦发现敌方雷达，无需征得允许即可将其摧毁。该无人机已出售给少数几个国家。更广泛的扩散是肯定可能的，“哈比 ”可能只是一个开始。韩国已经在与朝鲜接壤的非军事区部署了机器人哨枪。以色列使用武装地面机器人在加沙边境巡逻。俄罗斯正在建造一套武装地面机器人，用于在欧洲平原作战。目前已有 16 个国家拥有武装无人机，另有十几个国家正在公开研发。

这些发展是更深层次技术趋势的一部分：人工智能（AI）的崛起，有人称之为 “下一次工业革命”。技术大师凯文-凯利（Kevin Kelly）将人工智能比作电力：就像电力给我们周围的物体带来动力一样，人工智能也将给它们带来智能。从仓库机器人到下一代无人机，人工智能可以让机器人变得更加复杂和自主，还可以帮助处理大量数据并做出决策，为推特机器人提供动力，编制地铁维修时间表，甚至做出医疗诊断。在战争中，人工智能系统可以帮助人类做出决策，也可以授权人类自己做出决策。

人工智能的崛起将改变战争。二十世纪初，各国军队利用工业革命将坦克、飞机和机枪带入战争，造成了前所未有的破坏。机械化使人们能够制造出在体力上比人类更强、更快的机器，至少在某些任务上是如此。同样，人工智能革命正在实现机器的认知化，创造出在完成某些任务时比人类更聪明、更快速的机器。人工智能在军事上的许多应用是没有争议的--如改进后勤、网络防御，以及用于医疗后送、补给或监视的机器人--然而，将人工智能引入武器会带来一些具有挑战性的问题。如今，自动化已被用于武器的各种功能，但在大多数情况下，仍然是人类在选择目标和扣动扳机。这种情况是否会继续下去还不清楚。大多数国家对自己的计划保持沉默，但也有少数国家表示打算全速推进自主化。俄罗斯高级军事指挥官预计，在不久的将来，“将建立一支完全机器人化的部队，能够独立开展军事行动”，而美国国防部官员则表示，部署完全自主武器的选择应该 “摆在桌面上”。

比人类更好？

由武装机器人决定杀伤对象听起来像是一场乌托邦噩梦，但有些人认为，自主武器可以让战争变得更加人道。让自动驾驶汽车避开行人的自动化技术也可以用来避免战争中的平民伤亡，而且与人类士兵不同，机器永远不会生气或寻求报复。它们永远不会疲劳或疲倦。飞机自动驾驶大大提高了商用客机的安全性，挽救了无数生命。自动驾驶能否为战争带来同样的效果？

新型人工智能（如深度学习神经网络）在视觉物体识别、面部识别和感知人类情绪方面取得了惊人的进步。不难想象，未来的武器在分辨手持步枪的人和手持耙子的人方面可以胜过人类。然而，计算机在理解上下文和诠释含义方面仍与人类相差甚远。如今的人工智能程序可以识别图像中的物体，但无法将这些单独的线索串联起来，从而理解全局。

战争中的一些决策是简单明了的。有时敌人很容易识别，射击也很明确。然而，有些决策，就像斯坦尼斯拉夫-彼得罗夫面临的决策一样，需要了解更广泛的背景。有些情况，比如我的狙击小组遇到的情况，需要进行道德判断。有时，做正确的事需要打破常规--合法和正确并不总是一致的。