在数字化世界中,美国如何保护联合部队中的人员及其关键支持网络不受敌对信息行动的影响?

服役人员、他们的家人和朋友都是人。敌人和其他破坏稳定的力量威胁要在这些人中挑拨离间,以削弱集体能力。这种威胁可以利用强大的新数字技术来浸润我们的生活。有效地保护联合部队的人免受信息威胁是保护其竞争能力的关键:在我们当前的灰区竞争时代,在升级情况下,以及在战争中。

第一部分 定义任务。美国在保护谁免受什么侵害——这有何新意?

"谁"包括像130万现役人员这样的人类,以及他们的家人,他们提供了关键的认知弹性和影响。约有400万人持有秘密或以上级别的许可。在家里或工作中,在美国本土或国外,在无数的数字设备上,这是一个巨大的攻击面,有许多诱人的目标受众。

他们面临来自两个方面的信息威胁:外部对手的信息行动(如北约部队面临来自俄罗斯的信息行动;见方框1);以及来自他们自己社会的极端分子(如德国特种部队现在面临的信息行动;见方框2)。数字化改变了这种威胁的特征,尤其是将 "国内 "和 "国外 "合并在一起:这是美国法律、历史和新的《临时国家安全战略指导》(2021)中的一个关键区别。

"深度伪造 "说明了这种威胁的特征可能会发生变化。这些由人工智能(AI)生成的媒体可以是大规模生产虚假信息的工具,也可以是精致的 "积极措施"(塑造政治决策的情报行动,见第8页)。但是,单单使用深度造假所产生的影响有限。相反,它们是 "联合武器 "信息行动中的一个工具,与微观定位(分析个人数据以确定特定受众的兴趣,从而影响他们的行动)等双重用途的技术并列。这说明了对联合部队的真正威胁:一个巨大的市场失灵,巨大的商业支出建立了有利可图的两用进攻技术(如微目标),但很少用于防御,这主要是一个商业成本。

第二部分 是针对联合部队的基于证据的响应,以侦查、防御和民主相容性的“3D”为中心。

  • 1.侦查。美国必须建立能力,以探测和描述对手对联合部队的影响行动--谁是目标,通过什么手段,为了什么目的?它们必须在多种规模上发挥作用。

    • 1.A. 探测协调运动

建议1.A.i. 建立规模化反情报的综合人力、人工智能和组织能力,可以在相关规模(如几人到几百万人)上检测对手的信息行动。

建议1.A.ii. 国内 "和 "国外 "之间的 "接缝 "应保持非常明确的区别,但它也对检测跨越该接缝的威胁提出了挑战。对于各组织如何协调检测这类威胁,应该有明确的责任,并有专门的资源。

  • 1.B. 检测错误和虚假信息的具体事例

建议 1.B.i. 建立人类、人工智能和组织的综合能力,以检测特定的错误/虚假信息(如深度造假)。

  • 1.C. 探测对手如何多年来塑造的地形

建议1.C.i. 识别联合部队的人类所面临的长期风险,因为除了可信赖的盟友之外,其他国家也在塑造沉浸在他们生活中的信息技术(例如,中国的TikTok控制着美国一半年轻人的算法和大数据)。

  • 2.防御。人类的认知将始终包含作为破坏目标的脆弱性(例如工作和生活压力或不满),联合部队可以帮助将其降至最低,从而拒绝其他人。社会、家庭和精神支持很重要,"媒体教育 "也是如此,尽管它不是万能的。还必须为个人提供技术手段,使其能够在网上保护自己,为此存在低成本、实用的选择。但仅有个人规模是不够的。

大规模的个性化影响行动即将到来(如零售和医疗所见),其中个人数据将成为关键武器,必须加以保护(例如敏感的医疗数据;或中国的TikTok收集的数据)。联合部队中数百万人或其家人的破坏性个人数据可以被注入他们的社交网络。在多种规模上都需要新的人类-人工智能团队和组织。

  • 2.A. 在人类个体规模上进行防御

建议2.A.i. 加强社会、家庭和精神支持,特别关注可预测的脆弱期(例如,移动岗位)。

建议2.A.ii. 给个人提供技术手段来保护自己的网络。存在低成本、实用的选择。

建议2.A.iii. 提供有关社交媒体安全的培训和实际帮助(例如,使用高隐私设置,不使用TikTok等应用程序),联合部队设定的明确期望(例如,关于隐私设置,或政治帖子的法律要求),以及评估社交媒体内容的实用方法。

  • 2.B. 在组织范围内为个人辩护

建议2.B.i. 捍卫联合部队及其支持网络中的个人数据--而且,与传统智慧相反,为他们的数据建立孤岛。

建议2.B.ii. 为对手的运动准备防御措施,以便他们能够部署威慑、进攻、应急准备和应急响应。

建议2.B.iii. 使用基于证据的影响方法进行防御。

建议2.B.iv. 预测国内和国外接缝处的脆弱性。防御它需要一个协调的、有资金的组织反应。

  • 2.C. 防御多年来对信息地形的塑造

建议2.C.i. 在信息地形中建立防御优势,并防止竞争对手通过TikTok等平台发展战略优势。

建议2.C.ii. 鼓励一个繁荣的新闻生态系统,为联合部队及其支持网络中的多个受众提供值得信赖的信使。

  • 3.民主相容性。将新的能力置于道德、法律和政治框架内,使其与自由社会相容。在保持 "军权"和情报监督的同时,也要减少它们所带来的差距和灵活性的缺乏。克制不仅是美国系统的一个缺陷,也是一种优势。

成为VIP会员查看完整内容
37

相关内容

人工智能在军事中可用于多项任务,例如目标识别、大数据处理、作战系统、网络安全、后勤运输、战争医疗、威胁和安全监测以及战斗模拟和训练。
美空军条令《气象行动》34页PDF
专知会员服务
47+阅读 · 2023年1月2日
《定位、导航和授时的作战理解》美国陆军57页技术报告
专知会员服务
165+阅读 · 2022年11月28日
美国国防部《联合全域指挥与控制(JADC2)战略概要》
专知会员服务
284+阅读 · 2022年6月13日
国家自然科学基金
50+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
91+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Arxiv
28+阅读 · 2021年10月1日
How to Fine-Tune BERT for Text Classification?
Arxiv
13+阅读 · 2019年5月14日
Arxiv
11+阅读 · 2018年10月17日
VIP会员
相关基金
国家自然科学基金
50+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
91+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
微信扫码咨询专知VIP会员