《人工智能：美国国防部面临的挑战和机遇》

在过去的75年里，兰德公司进行了支持美国国家安全的研究，目前为联邦政府管理着四个联邦资助的研究和发展中心（FFRDCs）：一个为国土安全部（DHS），三个为国防部（DoD）。本文将重点评论国防部如何能够最好地确保人工智能（AI）的进展有利于美国国家安全，而不是降低它。

在一系列广泛的技术中，人工智能因其进展速度和应用范围而脱颖而出。人工智能具有广泛改变整个行业的潜力，包括对我们未来经济竞争力和国家安全至关重要的行业。由于几个原因，将人工智能纳入我们的国家安全计划带来了特殊的挑战：

• 这些技术是由商业实体驱动的，而这些商业实体经常在国家安全框架之外。

• 这些技术正在迅速发展，通常超过了政府内部的政策和组织改革。

• 对这些技术的评估需要集中在私营部门的专业知识，而这些专业知识很少被用于国家安全。

• 这些技术缺乏区分良性和恶意使用的常规情报特征。

美国目前是全球人工智能的领导者；然而，这种情况可能会改变，因为中国寻求在2030年前成为世界主要的人工智能创新中心--这是中国人工智能国家战略的明确目标。此外，中国和俄罗斯都在追求军事化的人工智能技术，加剧了挑战。作为回应，将强调美国防部可以采取的四组行动：

1.确保美国防部的网络安全战略和网络红方活动跟踪可能影响网络防御和网络进攻的人工智能的发展，如网络武器的自动开发。

2.为防止不良行为者获得先进的人工智能系统，(1)确保对领先的人工智能芯片和芯片制造设备进行强有力的出口控制，同时许可芯片的良性使用，如果需要的话，可以进行远程节流；(2)利用国防生产法的授权，要求公司报告大型人工智能计算集群、训练运行和训练模型的开发或分发情况；(3) 在美国防部与云计算供应商签订的合同中，要求他们在训练大型人工智能模型之前对所有客户进行 "了解你的客户 "筛选；(4) 在美国防部与人工智能开发商签订的合同中包括 "了解你的客户 "筛选，以及强大的网络安全要求，以防止大型人工智能模型被盗。

3.与情报界合作，大幅扩大收集和分析敌国参与人工智能的关键外国公共和私营部门行为者的信息，包括评估关键外国公共和私营实体；他们的基础设施、投资和能力；以及他们的工具、材料和人才供应链。通过以下方式加强国防部开展此类活动的机构能力：（1）在美国和盟国政府机构、学术实验室和工业公司之间建立新的伙伴关系和信息共享协议；（2）招募私营部门的人工智能专家以短期或兼职的方式为政府服务。

4.投资于人工智能安全的潜在计划，包括（1）嵌入人工智能芯片的微电子控制，以防止开发没有安全保障的大型人工智能模型，以及（2）在部署人工智能系统之前评估其安全性的通用方法。