在过去的75年里,兰德公司进行了支持美国国家安全的研究,目前为联邦政府管理着四个联邦资助的研究和发展中心(FFRDCs):一个为国土安全部(DHS),三个为国防部(DoD)。本文将重点评论国防部如何能够最好地确保人工智能(AI)的进展有利于美国国家安全,而不是降低它。

在一系列广泛的技术中,人工智能因其进展速度和应用范围而脱颖而出。人工智能具有广泛改变整个行业的潜力,包括对我们未来经济竞争力和国家安全至关重要的行业。由于几个原因,将人工智能纳入我们的国家安全计划带来了特殊的挑战:

  • 这些技术是由商业实体驱动的,而这些商业实体经常在国家安全框架之外。

  • 这些技术正在迅速发展,通常超过了政府内部的政策和组织改革。

  • 对这些技术的评估需要集中在私营部门的专业知识,而这些专业知识很少被用于国家安全。

  • 这些技术缺乏区分良性和恶意使用的常规情报特征。

美国目前是全球人工智能的领导者;然而,这种情况可能会改变,因为中国寻求在2030年前成为世界主要的人工智能创新中心--这是中国人工智能国家战略的明确目标。此外,中国和俄罗斯都在追求军事化的人工智能技术,加剧了挑战。作为回应,将强调美国防部可以采取的四组行动:

1.确保美国防部的网络安全战略和网络红方活动跟踪可能影响网络防御和网络进攻的人工智能的发展,如网络武器的自动开发。

2.为防止不良行为者获得先进的人工智能系统,(1)确保对领先的人工智能芯片和芯片制造设备进行强有力的出口控制,同时许可芯片的良性使用,如果需要的话,可以进行远程节流;(2)利用国防生产法的授权,要求公司报告大型人工智能计算集群、训练运行和训练模型的开发或分发情况;(3) 在美国防部与云计算供应商签订的合同中,要求他们在训练大型人工智能模型之前对所有客户进行 "了解你的客户 "筛选;(4) 在美国防部与人工智能开发商签订的合同中包括 "了解你的客户 "筛选,以及强大的网络安全要求,以防止大型人工智能模型被盗。

3.与情报界合作,大幅扩大收集和分析敌国参与人工智能的关键外国公共和私营部门行为者的信息,包括评估关键外国公共和私营实体;他们的基础设施、投资和能力;以及他们的工具、材料和人才供应链。通过以下方式加强国防部开展此类活动的机构能力:(1)在美国和盟国政府机构、学术实验室和工业公司之间建立新的伙伴关系和信息共享协议;(2)招募私营部门的人工智能专家以短期或兼职的方式为政府服务。

4.投资于人工智能安全的潜在计划,包括(1)嵌入人工智能芯片的微电子控制,以防止开发没有安全保障的大型人工智能模型,以及(2)在部署人工智能系统之前评估其安全性的通用方法。

成为VIP会员查看完整内容
84

相关内容

人工智能在军事中可用于多项任务,例如目标识别、大数据处理、作战系统、网络安全、后勤运输、战争医疗、威胁和安全监测以及战斗模拟和训练。
美国防部《美国国防科技战略2023》最新发布12页报告
专知会员服务
99+阅读 · 2023年5月10日
美国正式发布新版《国家网络安全战略》,39页pdf
专知会员服务
42+阅读 · 2023年3月8日
《战争中的人工智能》2022年25页报告,印度
专知会员服务
96+阅读 · 2023年1月25日
《 美国国防部:反小​​型无人机系统战略》38页报告
专知会员服务
212+阅读 · 2022年8月12日
【AI】英国国防部《国防人工智能战略》摘要
专知会员服务
94+阅读 · 2022年6月22日
美国人工智能国家安全委员会发布最终报告, 130页pdf
专知会员服务
129+阅读 · 2021年3月2日
《人工智能转型手册》,吴恩达 著
人工智能学家
21+阅读 · 2018年12月14日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
4+阅读 · 2011年6月30日
Arxiv
2+阅读 · 2023年6月2日
A Survey of Large Language Models
Arxiv
333+阅读 · 2023年3月31日
Arxiv
17+阅读 · 2022年2月23日
Arxiv
37+阅读 · 2021年9月28日
Arxiv
13+阅读 · 2021年3月3日
Arxiv
126+阅读 · 2020年9月6日
Learning from Few Samples: A Survey
Arxiv
77+阅读 · 2020年7月30日
VIP会员
相关基金
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
4+阅读 · 2011年6月30日
相关论文
Arxiv
2+阅读 · 2023年6月2日
A Survey of Large Language Models
Arxiv
333+阅读 · 2023年3月31日
Arxiv
17+阅读 · 2022年2月23日
Arxiv
37+阅读 · 2021年9月28日
Arxiv
13+阅读 · 2021年3月3日
Arxiv
126+阅读 · 2020年9月6日
Learning from Few Samples: A Survey
Arxiv
77+阅读 · 2020年7月30日
微信扫码咨询专知VIP会员