《评估英国防部关于人工智能军事用途的新政策》2022.12最新报告

这篇短文分析了英国在最近两份政策文件中提出的将人工智能（AI）用于军事目的的方法。第一部分回顾并批评了英国防部于2022年6月发布的《国防人工智能战略》，而第二部分则考虑了英国对 "负责任的"军事人工智能能力的承诺，该承诺在与战略文件同时发布的《雄心勃勃、安全、负责任》文件中提出。

建立自主武器系统所需的技术曾经是科幻小说的范畴，目前包括英国在内的许多国家都在开发。由于无人驾驶飞机技术的最新进展，第一批自主武器很可能是基于无人机的系统。

英国无人机战争组织认为，开发和部署具有人工智能功能的自主武器将产生一些严重的风险，主要是在战场上丧失人的价值。赋予机器夺取生命的能力跨越了一个关键的道德和法律障碍。致命的自主无人机根本缺乏人类的判断力和其他素质，而这些素质是在动态战场上做出复杂的道德选择、充分区分士兵和平民以及评估攻击的相称性所必需的。

在短期内，自主技术的军事应用可能是在低风险领域，如物流和供应链，支持者认为这些领域有成本优势，对战斗情况的影响最小。这些系统可能会受到人类操作员的密切监督。从长远来看，随着技术的进步和人工智能变得更加复杂，自主技术越来越有可能成为武器，人类监督的程度可望下降。

真正的问题也许不是自主权的发展本身，而是人类控制和使用这一技术发展的里程碑的方式。自主性提出了与人类判断、意图和责任有关的广泛的伦理、法律、道德和政治问题。这些问题在很大程度上仍未得到解决，因此，对于快速推进发展自主武器系统，人们应该深感不安。

尽管自主武器系统似乎不可避免，但有一系列的措施可以用来防止其发展，如建立国际条约和规范，制定建立信任措施，引入国际法律文书，以及采取单边控制措施。英国无人机战争组织认为，英国应充分参与在国际舞台上制定这些措施。

然而，在这个时候，政府似乎希望保持其选择的开放性，经常争辩说，它不希望创造可能阻碍人工智能和机器人技术的基本研究的障碍。尽管如此，大量受控技术，如加密，或在核、生物和化学科学领域，可用于民事或军事目的，而且受控时不会扼杀基础研究。