《军事目标选定中的自主武器系统与人工智能决策支持系统：比较与政策应对建议》34页报告

自主武器系统引发的人道主义与法律关切，长期以来一直是国际政策进程的主题，最近更成为关于军事领域采用人工智能的讨论焦点。对人工智能决策支持系统军事用途日益增长的关注，提出了思考这些系统如何融入全球政策对话的需要。本报告从各自的特征、意外伤害风险、法律层面和政策应对措施等方面，比较了用于目标选定的AWS和AI-DSS。报告提出若干关键发现，以告知政策制定者。

无论是AWS还是用于军事目标选定的AI-DSS，都会影响人类在目标决策中的作用。然而，一个关键区别在于它们在目标选定周期中的使用范围：AWS仅限于任务执行阶段，而AI-DSS则在多个阶段有更广泛的应用。尽管如此，这两种系统之间的区别在实践中可能模糊，具体取决于其部署方式。AWS和AI-DSS都带有意外伤害的风险，但这些风险以不同的方式显现。虽然两种系统都存在由于自主性和人工智能已知技术限制而引起的可靠性问题，但它们不同形式的人机交互可能导致不同的结果。对于在目标识别与交战之间存在直接路径的AWS，风险是直接的——例如，错误的目标识别可能导致在没有人工输入的情况下立即采取致命行动。对于向人类提供输出结果的AI-DSS，风险是间接的——如果人类基于错误的目标识别采取行动，伤害便会发生。

AWS和AI-DSS都引发了一系列问题，涉及允许用户在多大程度上依赖这些系统来履行国际人道法义务，以及如何确保责任和问责。然而，它们提出了不同的法律挑战。对于AWS，关切源于武力的自主使用，以及用户能否合理预见并控制系统的效果。对于AI-DSS，关切则源于人类在进行法律评估时过度依赖人工智能，例如由于自动化偏见，这可能导致人类变成系统建议的被动批准者。AI-DSS的使用也对国际人道法之外的法律框架（如国际人权法）产生影响。这些比较为政策制定者在当前多边背景下应对军事人工智能问题提出了三种可用的方法：(a) 在多边关于AWS的努力中明确纳入AI-DSS；(b) 建立一个专门针对AI-DSS的新进程；(c) 不对AI-DSS采取特定方法。每种选择都带有某些政策制定者必须考虑的影响和权衡。AWS与AI-DSS之间实质性的相似之处与差异，为其中任何一种方法提供了依据；最终，所采取的方法将需要反映政治和机构的意愿。

基于这些发现，报告提出三项建议。首先，各国应考虑是否需要为AI-DSS建立一个专门的多边进程，同时认识到不同方法之间的权衡。其次，未来关于AI-DSS的政策努力应建立在AWS治理的经验教训之上，特别是在人机交互与监督、法律合规和问责等问题上。第三，由于AI-DSS也引发了一些在AWS进程中没有或尚未充分探讨的独特问题，政策制定者应找出关键的知识差距，并委托进行研究，以指导负责任地将人工智能融入军事决策，并在使用武力的决策中支持人类的主体性。

为理解AI-DSS和AWS需要共同还是区别的政策应对方法奠定基础，报告用三个章节进行了比较分析。第二章首先定义了AWS和AI-DSS，然后比较了它们各自的技术特征如何影响其在目标决策中的作用。第三章探讨了在军事目标选定中使用AWS和AI-DSS时，意外伤害风险如何显现。第四章比较了法律方面，包括在遵守国际人道法方面，AWS和AI-DSS带来了哪些相似或不同的挑战。接着，基于这些比较分析，第五章概述了三种政策选项，以深化对AI-DSS和AWS是否需要相似或不同的风险缓解措施的理解。最后，第六章提出了关键发现和建议。