【AI+ 军事】美政府问责局（GAO）最新《人工智能：国防部应改进策略和流程并加强协作指导》报告，97页pdf

2022 年 4 月 11 日 专知

概述

美政府问责局（GAO）日前发布报告《人工智能：国防部应改进策略和流程并加强协作指导》。该报告通过评估2018年《国防部人工智能战略》，发现其存在片面性的一些特征，如九项人工智能相关战略计划“不包括与采用AI技术相关的资源、投资和风险的完整描述”等，呼吁国防部制定更全面的人工智能战略，以使其更好地定位、问责和负责任地使用该技术。该报告还向国防部提出以下建议：发布含AI战略所有特征的指南、建立定期审查国防部AI战略的程序；开发含所有需求的高级计划或路线图；发布指南和协议，定义该机构在AI活动中的领导和参与者的责任等。

背景

GAO的发现

2018 年国防部 (DOD) 人工智能 (AI) 战略将 AI 定义为机器执行通常需要人类智能的任务的能力。战略和相关计划包括综合战略的一些（但不是全部）特征。例如，国防部的九项人工智能相关战略和计划不包括对资源和投资以及与采用人工智能技术相关风险的完整描述（见图）。发布指南以在未来与人工智能相关的战略中包含综合战略的所有特征，可以帮助国防部更好地帮助管理人员确保问责制和负责任地使用人工智能。

国防部人工智能相关战略和计划的评估

国防部已开始识别和报告其 AI 活动，但其 AI 基线清单存在限制，例如排除机密活动。国防部官员表示，这些限制将在人工智能活动识别过程的后续阶段得到解决。然而，国防部还没有制定一个涵盖所有需求和里程碑的高级计划或路线图。这样的计划将为国防部提供实现该计划目标所需的所有功能的高级、端到端视图，以向国会和国防部决策者提供完整和准确的人工智能活动清单。

国防部组织在人工智能活动上进行协作，但可以更充分地整合领先的协作实践。国防部使用 GAO 先前工作已经确定的各种正式和非正式协作机制，例如跨部门小组。国防部已部分纳入领先的协作实践，例如识别领导力。然而，国防部官员告诉我们，他们正在制定指南和协议，明确定义参与人工智能活动的国防部组件的角色和职责。通过最终确定和发布此类指南，国防部可以帮助确保所有参与者就整个部门的人工智能工作的责任和决策达成一致。

为什么 GAO 做这项研究

国防部战略指出，人工智能将改变战争的性质，不采用人工智能技术可能会阻碍作战人员保卫我们国家的能力。国防部正在进行组织变革并投资数十亿美元来整合人工智能技术，例如建立联合人工智能中心以加速在整个国防部提供人工智能能力。

伴随 2021 财年国防授权法案的众议院报告 116-442，以及让 GAO 评估国防部的资源、能力和人工智能技术计划的规定。本报告评估了 (1) 国防部的人工智能战略和相关计划，包括综合战略的特征；(2) 国防部已确定并报告了整个部门的人工智能活动情况；(3) 国防部在其人工智能活动上的合作情况。GAO 审查了相关法律和国防部战略，概述了整个部门管理人工智能的计划和流程，采访了官员，并进行了全部门调查。这是 GAO 于 2022 年 2 月发布的敏感报告的公开版本。国防部认为敏感的信息已被省略。