认知战是文献中的一个新兴概念,与新技术和认知知识的发展以及公众舆论参与冲突有关。它目前是北约内部辩论的主题。它被用来破坏对手的稳定或使其 "从内部摧毁自己",正成为一个令人关注的重大问题,我们需要学习如何发现它并保护自己免受其害。本文旨在定义认知战、其他相关概念及其参与者,并概述相关问题。

I. 引言

本文将就认知战争、其定义和相关概念提供一些见解。Bernal 等人[3]认为,现代认知战争出现于冷战时期:为了避免超级大国之间再次发生破坏性的公开战争,他们建立了代理冲突,相互支持和反对小国或武装团体。在此背景下,中央情报局、联邦调查局和克格勃等机构秘密开展了大量行动。自 2000 年以来,破坏稳定的行动越来越多[231],特别是俄罗斯试图影响选举、进行宣传和网络攻击,正如 Backes 和 Swab 所描述的那样[1]。Du Cluzel 解释说,一些国家,正在为医疗、社会和军事目的开展神经科学和技术研究,这也可以作为认知战争的行动手段[9]。不过,"认知战 "一词最早是在经济学领域使用的,用来描述公司对消费者、立法者(游说)甚至竞争公司施加影响和破坏稳定的行动[11]。

因此,认知战代表了一种模糊战争与和平界限的新冲突模式[21],它不是战场上的公开战争,而是旨在影响对手或竞争者的认知机制,特别是决策过程的不宣而战。这是一个新近出现的术语,尚未被普遍接受。本文提出了一个定义,并讨论了这种新型对抗所面临的挑战。

II. 认知战

认知战是一个新兴概念,旨在削弱敌人以获得战术或战略优势[18],涉及军事、经济、游戏、体育和其他领域。它包括针对人类思维的各种行动,既针对个人也针对集体认知和决策。它可以在不同的范围内远程实施和遭受:人口、士兵、专家、工程师、技术人员、舆论群体或少数群体、种族或宗教、公司、社区、决策者、政治、经济、宗教、学术或军事领导人 [3, 7]......

它依赖于 NBIC(纳米技术、生物技术、信息技术和认知科学)工具,如数字工具和社交网络、化学物质、幻觉、注意力饱和[7]或可利用的目标认知偏差[22]。认知战的目标可以是征服领土、扰乱公共服务、实现政府更迭、影响选举、破坏信心、抑制批判性思维[9],或通过激化舆论、诋毁管理机构、引发或抑制行动等方式破坏和影响目标人群[3]。这些行动很难被发现,因为目标和中继者都不知道自己是受害者。

以下是可被视为认知战的不同行动实例。

1.通过网络工具发起的认知战: 2022 年 2 月 23 日,就在俄罗斯进攻乌克兰之前,乌克兰网络上检测到近 500 次网络攻击。这些攻击主要针对政府、关键网络和能源供应商。根据Malin[17]的说法,其目的似乎是阻止乌克兰政府与民众沟通并向其提供重要资源,从而使民众对政府失去信心。尽管这一行动被普遍认为是网络战,但也可以从认知战的角度加以研究,因为它是使用不同工具的战略的一部分,其更广泛的目标是破坏稳定。

2.认知战直接接触关键人物: 2023 年 2 月 6 日,法国国民议会的几名女议员收到一条语音信息,告知她们的一个孩子住院了,让她们在关键投票前离开国民议会[24]。这是一次恐吓攻击,目的是阻止目标人物投票,从而阻止她们在决策中发挥作用。

3.在社交媒体上发起认知战: 最后一个例子发生在 2022 年 4 月的马里。瓦格纳雇佣军组织制造了一个万人坑,并剪辑了一段视频,使其看起来像是法国军方制造的[14]。法国军方设法拍下了他们准备这一场景的过程,使他们得以制作视频反驳这些指控。根据 Jousset 和 Bolchakova [14],瓦格纳组织本可以利用这个机会在社交网络上制造影响,使驻马里的法国陆军失去合法性,并作为反抗法国压迫的解放者受到欢迎。

4.另一个经常被用来描述认知战的例子是哈瓦那综合症[26],它有可能是利用有针对性的纳米或生物工具发动的认知战攻击,以诱发被攻击的关键人物的恐惧,影响他们的判断,但官方没有确定的原因,因此这个例子至今没有证据支持。

这些例子表明,认知战战略可以通过不同的行动手段和渠道来实施。提出了 3 项标准,以帮助确定某项行动是否属于认知战的范畴:

1.它的目的比一眼就能看出的更广泛:例如,为了窃取信用卡并利用它们来获得金钱上的优势而发动的网络攻击就不属于认知战;但如果目的是让客户对银行的安全能力产生怀疑,并且犯罪者就此进行传播以败坏其名声,这就可能是认知战的一个例子。

2.其性质是分散的:它往往是一种战略的一部分,包括不同的行动和不同的手段,其目标是连锁反应,这在时间和空间上都很难衡量。例如,一项行动的目的可能是改变一个群体的行为,于是另一群人就会对这个群体有不同的看法,然后就会对一些选票或决策者产生影响,可以想象由此产生的一连串后果和行动;因此,很难找到攻击的源头,也很难确定其影响的长期性。

3.它的目标是认知:认知战的目标是人的思想、表象和认知,它的目的是制造怀疑,阻止或影响决策,破坏对手的意志[21],操纵人们看待和解释周围世界特定部分的方式[3]......简而言之,就是操纵人们的思维和反应[25]。

III. 相关概念

还有其他与认知战密切相关的概念。建议对术语进行澄清,以便更好地组织和定义相关术语。其中大多数概念都与认知战密切相关,并且/或者在前面解释过的情况下,可以作为引导认知战战略的工具。

A. 信息战或信息作战

北约将信息战描述为 "为获得对对手的信息优势而开展的行动"。它侧重于信息、信息的操纵、信息的流动、信息的保护或窃取方式以及信息的使用方式。Du Cluzel[20]则提醒我们,认知战恰恰相反,是 "一种针对我们的思维方式、我们处理信息并将其转化为知识的方式的行动"。Bernal 等人[3]认为,认知战是 "控制或改变人们对信息的反应方式的斗争"。而情报则是一个知识建构的过程[5]。与信息战不同的是,认知战的重点不是战术战场信息,而是面向大众的信息[3]。

B. 心理战(PsyOps)

根据 Bernal 等人的研究[3],美国主导的心理战涉及的信息产品要么可识别为美国官方制作(白色产品),要么来源不明确(灰色产品),要么制作得 "看起来像是来自敌对来源"(黑色产品)。这些产品往往具有军事目的。Bernal 等人指出,认知战主要使用灰色产品,这些产品可以被否认,而且认知战 "往往以民用社会基础设施和政府为目标"。

C. 宣传

宣传是传播通信、信息和讯息,目的是使目标人群的意识或潜意识发生变化,从而改变态度和行为[4]。其作者假定为作者,因此可直接归因于作者。认知战争比宣传更微妙。它能让人在不知不觉中影响目标,并利用这些目标作为武器去影响其他人。Du Cluzel[9]认为,在认知战争中,"每个人都以前所未有的方式参与信息处理和知识形成,而且大多是在不经意间"。作者指出,认知战争 "以虚假信息和宣传技术为基础,旨在从心理上耗尽信息接收者的精力":因此,它们可以成为认知战争的工具。

D. 网络战

Bernal 等人[3]将网络战定义为 "使用网络攻击,意图对国家资产造成伤害"。在互联社会中,特别是随着物联网的发展,许多功能都受到数字控制:"从建筑设备到金融机构、民用基础设施,甚至军事设施"。因此,网络攻击会造成 "巨大损失,不仅是时间和数据的损失,还有可以用金钱和生命来衡量的物质损失"。计算机战争属于技术领域,认知效应是一种后果,而对于认知战争来说,认知效应是行动的目标[7]。

E. 网络心理学

根据 Claverie 和 Kowalczuk [8],网络心理学是研究与网络系统和网络环境有关的心理现象。因此,它是一个可以产生知识的研究领域,这些知识可被用作认知战的武器,或者相反,构想出防范认知战的方法。

F. 军事脑科学

Jin, Hou, and Wang[12]认为,"军事脑科学(MBS)是一门前沿创新科学......,它以医学......、生物学、物理学、计算机科学、军事科学和其他多个学科的理论和技术为基础"。它旨在监测、保护、对抗、修复和改善大脑。这些都是可用于认知战的应用和工具,但仍侧重于军事领域。

IV. 目标和行动者

认知战的特点之一是,它可以由任何人、针对任何人、在一定距离内实施。

A. 目标

建议可以考虑三种目标:

  1. 具有共同特征的大群体(人口、舆论、种族或宗教群体或少数群体等);

  2. 有共同目标的小群体(公司、团队、武装部队等);

  3. 关键个人(决策者、政治家、军事领导人或上述各群体的领导人、专家......);

对某项决策或某个群体有影响力的人(关键人物)可能会成为特别攻击目标,直接或间接地攻击他们所属的大群体或小群体,这将对他们产生影响(例如,舆论的转变可能导致政策的改变或辞职)。Bernal 等人[3]还提醒我们,不应忘记 "连接者、专家和销售人员",他们 "可以在认知战的应用中发挥重要作用"。

正如 du Cluzel 所强调的,"现代信息技术的任何用户都是潜在目标。它针对的是一个国家的全部人力资本"[9]。

B. 行动者

与目标一样,实施认知战的行为体也可能多种多样。du Cluzel[9]指出,认知战和人文科学的进步可能会赋予任何费心研究它们的人巨大的力量,因此,即使是孤立的个人或小团体也可能对民主或军事行动构成重大威胁。

V. 认知战和人工智能

人工智能(AI)带来了促进认知战的新工具,可以放大认知战,并使其更容易获取、成本更低,尤其是在假新闻和虚假信息传播方面。

Du Cluzel提醒我们,假新闻活动结合了真实和扭曲的信息(错误信息)、夸大的事实和捏造的新闻(虚假信息)[9]。

在这些辅助工具中,疯狂科学家实验室[16]提到了深度伪造(deepfakes),即人工智能生成的视频,可以显示一个人背诵他或她实际上从未发表过的演讲。通过模仿一个人的语调和口音的技术,这些视频可以变得更加逼真[6]。与人工智能生成的身体和面孔相关的风险不那么明显,但也同样真实:它能在社交网络上创建大量虚假账户,账户中的人并不存在,而且还能使机器人人性化,从而提高其可信度。成一个不存在的人的脸是瞬间完成的。疯狂科学家实验室引用的最后一个工具是人工智能文本生成,2022 年 11 月部署的 Chat-GPT 使这一工具与时俱进。这类工具有助于传播虚假信息,因为它可以比人类团队更快、更大规模地在社交网络上撰写文章、帖子和评论。因此,一个团体就能在社交网络上产生成千上万甚至上百万条评论和帖子,以支持或破坏某项事业为导向;而这些行动将 "有可能侵蚀政府与其公民之间的关系,在全世界引起严重反应,并导致人们质疑他们所相信的现实"[16]。例如,Twitter 社交媒体上有许多机器人,它们可以 "追求恶意目标,如干扰选举和极端宣传"[10]。

通过社交网络上的假新闻开展破坏稳定活动的一个可能应用实例是影响选举。俄罗斯在这一领域尤为活跃,"认为虚假信息和信息行动是影响其他国家政治结果的最有效手段",它抓住 "现有的国内政治、社会或种族分歧,并利用它们来改变选民的思维方式--并通过这种方式改变他们的投票方式"[1]。

VI. 保护自己的几种方法

针对具体的认知战争行动,有一些个别解决方案的例子。例如,针对社交媒体上的公众影响和假新闻,列举了一些应对措施:公众教育、关于假新闻的沟通、自动和人工审核、驳斥、法律规定 [1, 13, 27] 等。

另一种保护和预防方法是使用认知战进行防御。认知战工具可用于通过媒体和社交媒体教育民众[2],加强认知准备[19],甚至增强士兵的认知[12]。还可以设想将认知偏差和潜在认知战攻击考虑在内的决策工具。

组织整体解决方案的第一步是分析对手,了解他们如何领导认知战战略[21]。这将使受攻击者能够及早发现认知战攻势,拨开战争迷雾[25]。为了建立系统的解决方案,有必要进一步研究这一课题。

VII. 认知战的局限性和批评

某些破坏稳定或影响他人的行为是可以被发现和反击的:例如,一家对竞争对手或客户实施认知战战略的公司可能会被数据泄露或告密者告发,而这一战略也会因损害其公众形象而适得其反。

认知战还可能面临道德挑战:认知战会影响他人的思维和决策。 认知战还可能面临道德挑战:它是在一个人或一群人不知情的情况下影响他们的思维和决策。在这方面,它可以与 "暗示"(鼓励系统或工具的用户采取最佳行为)相提并论[15]:"暗示 "也是一种影响工具,但它的使用决定了它的伦理特征。事实上,如果劝导的目的是促使消费者多花钱或花更高的价钱买东西,那么它就会受到更多的负面评价;但如果劝导的目的是促使消费者(根据适用的社会和文化规范)做出更有尊严的行为,比如在厕所里贴苍蝇形的贴纸以鼓励 "更好的目标",那么它就会受到更多的正面评价。认知战也是如此,必须以合理和正当的方式使用。

参考来源:Marie Morelle, Cegarra Julien, Damien Marion, André Jean-Marc. Towards a Definition of Cognitive Warfare. Conference on Artificial Intelligence for Defense, DGA Maîtrise de l’Information, Nov 2023, Rennes, France.(本研究由法国国防部国防创新局(AID)资助。)

成为VIP会员查看完整内容
75

相关内容

人工智能在军事中可用于多项任务,例如目标识别、大数据处理、作战系统、网络安全、后勤运输、战争医疗、威胁和安全监测以及战斗模拟和训练。
反认知战:感知与弹性
专知会员服务
49+阅读 · 2月1日
智能博弈决策策略求解新视角实证分析
专知会员服务
49+阅读 · 1月9日
军事领域的人工智能: 实用工具
专知会员服务
69+阅读 · 2023年11月25日
《无休止的战争:成功解决冲突的框架》64页报告
专知会员服务
31+阅读 · 2023年10月20日
战争中的人工智能:认知战斗的黎明
专知会员服务
60+阅读 · 2023年9月15日
《认知科学的军事应用:认知战争——感知与误解》论文
美海军陆战队《认知维度:文化总体框架》18页报告
专知会员服务
37+阅读 · 2022年12月16日
专知会员服务
16+阅读 · 2021年8月6日
专知会员服务
215+阅读 · 2020年5月6日
注意力机制介绍,Attention Mechanism
专知会员服务
165+阅读 · 2019年10月13日
层级强化学习概念简介
CreateAMind
15+阅读 · 2019年6月9日
一文读懂命名实体识别
AINLP
31+阅读 · 2019年4月23日
立体匹配技术简介
计算机视觉life
27+阅读 · 2019年4月22日
Attention!注意力机制模型最新综述
中国人工智能学会
18+阅读 · 2019年4月8日
深度强化学习简介
专知
29+阅读 · 2018年12月3日
深度学习中的注意力机制
人工智能头条
16+阅读 · 2017年11月2日
鲍捷 | 知识表示——面向实战的介绍
开放知识图谱
10+阅读 · 2017年10月23日
现代情感分析方法
Python开发者
13+阅读 · 2017年7月9日
国家自然科学基金
19+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
8+阅读 · 2014年12月31日
Arxiv
131+阅读 · 2023年4月20日
A Survey of Large Language Models
Arxiv
326+阅读 · 2023年3月31日
Arxiv
53+阅读 · 2023年3月26日
Arxiv
111+阅读 · 2023年3月24日
Arxiv
15+阅读 · 2023年3月17日
VIP会员
相关VIP内容
反认知战:感知与弹性
专知会员服务
49+阅读 · 2月1日
智能博弈决策策略求解新视角实证分析
专知会员服务
49+阅读 · 1月9日
军事领域的人工智能: 实用工具
专知会员服务
69+阅读 · 2023年11月25日
《无休止的战争:成功解决冲突的框架》64页报告
专知会员服务
31+阅读 · 2023年10月20日
战争中的人工智能:认知战斗的黎明
专知会员服务
60+阅读 · 2023年9月15日
《认知科学的军事应用:认知战争——感知与误解》论文
美海军陆战队《认知维度:文化总体框架》18页报告
专知会员服务
37+阅读 · 2022年12月16日
专知会员服务
16+阅读 · 2021年8月6日
专知会员服务
215+阅读 · 2020年5月6日
注意力机制介绍,Attention Mechanism
专知会员服务
165+阅读 · 2019年10月13日
相关资讯
层级强化学习概念简介
CreateAMind
15+阅读 · 2019年6月9日
一文读懂命名实体识别
AINLP
31+阅读 · 2019年4月23日
立体匹配技术简介
计算机视觉life
27+阅读 · 2019年4月22日
Attention!注意力机制模型最新综述
中国人工智能学会
18+阅读 · 2019年4月8日
深度强化学习简介
专知
29+阅读 · 2018年12月3日
深度学习中的注意力机制
人工智能头条
16+阅读 · 2017年11月2日
鲍捷 | 知识表示——面向实战的介绍
开放知识图谱
10+阅读 · 2017年10月23日
现代情感分析方法
Python开发者
13+阅读 · 2017年7月9日
相关基金
国家自然科学基金
19+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
8+阅读 · 2014年12月31日
微信扫码咨询专知VIP会员