现代认知战争利用心理过程和信息来影响决策和认知。在当今技术发达的时代,人工智能(AI)改变了认知战争,使精确操纵舆论和破坏社会规范成为可能。通过利用人工智能工具(如深度伪造和实时数据分析),现代战略与欺骗概念紧密相连,但规模更加复杂和全球化,重塑了军事和非军事领域的权力争夺方式。
认知战是一种非常规的战争形式,它利用数字工具和心理战术的结合,操纵心理和认知过程来实现战略目标。与注重物理破坏的传统战争不同,认知战通过影响感知、决策和信念,以人类心理为目标。通过利用心理偏差、操纵信息和扭曲现实,认知战旨在塑造个人和社会层面的行动和思想。这种新兴的冲突形式融合了信息技术、心理战(PSYOPS)和网络战术等领域,标志着数字时代冲突方式的重大转变。
认知战的主要意义在于它能够在个人和群体毫无察觉的情况下对其施加影响,往往会扭曲他们对事实和事件的理解。国家行为者、企业甚至非国家团体都会利用这些战术来操纵行为和认知,以获取政治、经济或意识形态利益。在政治领域,这种形式的战争尤其有效,因为它可以操纵公众舆论,破坏政治环境的稳定。假新闻叙事就是一个典型案例。
数字连通性成倍增加了认知战的影响范围和有效性。在社交媒体时代,信息在庞大的网络中迅速传播,使认知战战略能够影响全球范围内的民众。这种转变使对手更容易通过错误信息、宣传和歪曲叙事来利用认知漏洞。数字连接的规模之大意味着认知战战术现在可以达到以前无法想象的精确和匿名水平。因此,对个人和群体的认知操纵已成为现代冲突的一个基本要素,往往与更传统的军事战略并行不悖。
能够实现认知战的数字工具特别有效,因为它们针对的是固有的认知偏差,如确认偏差和锚定效应,这些偏差影响了个人处理和解释信息的方式。通过编造与目标预先存在的信念相一致的叙事,对手可以巧妙地影响决策和行为。这种对认知过程的操纵并不局限于政治领域,企业也在营销策略中采用类似的策略来影响消费者的行为和偏好,从而模糊了广告和心理战之间的界限。认知战扩大到政治领域之外,使监管和打击这些策略的工作变得更加复杂。
认知战不仅仅是外部对手的工具,也可以利用它来加强政治权力或镇压民众中的反对派。这就扩大了其应用范围,因为国家行为者可以利用这些技术来维持控制、操纵选举结果或削弱反对派。乌克兰冲突就是一个明显的例子,认知战在塑造国内和国际认知方面发挥了关键作用。乌克兰有效利用社交媒体构建了一种民族英雄主义和复原力的叙事,帮助赢得了国际支持,削弱了俄罗斯的虚假信息努力。
认知战所面临的伦理和法律挑战既重大又复杂。认知操纵的隐蔽性使其难以确定责任,往往让目标对影响其认知的力量一无所知。虚假信息运动和心理战会破坏社会稳定,削弱人们对政治机构的信任,并煽动暴力。因此,对于那些试图在不引发直接军事冲突的情况下实现战略目标的人来说,认知战是一种特别危险的工具。错误信息的迅速传播,再加上通过认知偏差影响决策的能力,使针对这种战争形式制定强有力防御措施的能力变得更加复杂。
心理战(PSYOPS)和认知战的共同目标是影响敌方的思维过程,但它们在方法和技术整合上有很大不同。心理战起源于 20 世纪初,主要通过宣传传单、无线电广播和扩音器广播等直接手段操纵敌方士气,动摇敌方决心。这些战术的主要目的是打击敌方民众或军队的士气,诱导投降或异议等行为。然而,认知战的影响范围已经扩大,它利用现代技术,尤其是社交媒体和数字平台,在更大范围内,通常是在全球范围内影响个人和团体。通过利用互联网的即时性和匿名性,认知战争有可能实时影响人们的看法,使这些行动更加无孔不入、难以追踪。
随着技术的进步,这两种战争形式都发生了演变,其施加心理影响的方法也发生了变化。传统的 PSYOPS 主要依靠离线方式,而认知战则整合了数字和物理平台,可以在社交媒体、新闻媒体甚至数字游戏空间同时开展广泛的活动。这种转变使错误信息得以迅速传播,以以前无法达到的复杂程度塑造公众舆论和歪曲事实。随着数字技术的扩散,认知战不仅可以针对军事人员的认知,还可以针对整个社会的认知,通过操纵信仰体系和决策过程来影响中立和敌对人群。
这两种战争形式的目标受众范围进一步区分了它们。心理战传统上以敌人--通常是外国军队或民众--为主要操纵对象。这种有针对性的方法仅限于战争场景,在这种场景中,敌人的士气和抵抗对胜利至关重要。相比之下,认知战的范围更广,经常模糊敌方、盟友和中立方之间的界限。其目标不仅是打击对手的信心,还包括破坏社会规范、影响政府决策,甚至操纵舆论。在和平时期,如选举或社会危机期间,认知战争的使用表明它有可能破坏整个系统的稳定并左右大众的信仰,而且往往没有明确的敌我界限。
这两类战争也表现出不同的长期目标。历史上,心理战的目标是立即改变行为,如投降或降低士气,这往往能迅速带来有形的军事优势。而认知战则侧重于长期影响,旨在随着时间的推移改变社会观念和行为。通过削弱对机构的信任、分化民众和扭曲公共言论,认知战寻求在更长的时间内取得战略成果,从而塑造未来格局。这种时间框架的延长,再加上数字工具的力量,使得认知战不仅更加隐蔽,而且在实现其操纵社会和意识形态战争的目标方面更加有效。
人工智能已成为一种强大的欺骗工具,尤其是通过深度伪造技术(deepfakes),这种技术利用生成式对抗网络(GANs)生成超逼真的合成媒体。这种技术通过创建看起来非常真实的欺骗性内容,彻底改变了传统的宣传形式。例如,极端组织利用深度伪造技术散布虚假言论,挑起暴力事件,削弱公众对政治机构的信任。因此,人工智能驱动的欺骗行为助长了正在发生的 “信息启示录”(infocalypse),在这种情况下,对信息可信度的日益不信任正在推动社会两极分化,并破坏对当局的信任。这类工具为恶意行为者提供了制造不确定环境的手段,使区分事实与虚构的努力变得更加复杂。
人工智能驱动的欺骗因其实时性而尤为强大,扩大了其操纵影响。通过可改变直播流或视频会议的工具,行为者可即时注入伪造内容,扭曲认知并塑造公众舆论。通过这种操纵手段,对手可以捏造不利于对手的证据,削弱公众对领导层的信心,或煽动内乱。例如,据称泽连斯基呼吁乌克兰投降的 deepfake 视频就是为了在冲突的关键阶段破坏乌克兰的稳定。这种人工智能的使用强调了合成媒体在塑造政治话语和操纵弱势人群方面的深远影响。
人工智能驱动的欺骗所带来的主要挑战之一是其利用情感偏见、放大现有偏见和引发激进行为的能力。极端团体利用人工智能制作量身定制的宣传品,强化阴谋论,如 “大置换”,助长种族主义和仇外情绪。通过提供人工智能生成的这些意识形态的证据,激进组织获得了意识形态弹药,进一步巩固了他们扭曲的世界观。这种对认知漏洞的利用凸显了在技术检测之外采取应对措施的必要性。社会复原力、数字扫盲和教育成为抵御人工智能技术操纵情绪和偏见的关键要素。
人工智能模糊真假内容界限的能力助长了被称为 “骗子红利”的现象。这种现象使个人,尤其是掌权者,能够将合法证据视为深度伪造,从而破坏问责制,妨碍司法公正。在法律背景下使用伪造的音频和视频证据,凸显了人工智能驱动的欺骗行为对制度流程的完整性构成的重大危险。人工智能具有双刃性,既能制造欺骗性内容,又能实现似是而非的推诿,这对维护法律和政治制度的信任构成了巨大挑战。因此,人工智能在侵蚀信任方面所起的作用可能与其编造虚假内容的能力一样具有破坏性。
由于技术发展日新月异,开发强大的检测系统困难重重,打击人工智能驱动的欺骗行为的工作变得更加复杂。虽然旨在根据生物信号或视觉数据中的不一致之处识别深度伪造内容的自动化工具在不断进步,但恶意行为者也在不断改进其技术以逃避检测。这种技术军备竞赛凸显了防患于未然战略的重要性,如深度伪造扫盲计划、提高公众意识的活动,以及更严格的立法来规范合成媒体的使用。如果不采取这些前瞻性措施,人工智能作为欺骗武器的潜力将继续超过减轻其有害影响的努力,从而威胁到稳定和社会凝聚力。
从战争欺骗原则来看,人工智能在欺骗中的应用与“一切战争都是基于欺骗 ”密切相关。误报和误导不仅适用于传统军事战略,也适用于现代网络战。人工智能系统旨在处理海量数据并迅速做出决策,通常会假定其运行所依据的数据是真实的。这种假设会造成漏洞,因为对手可以操纵数据来欺骗人工智能系统,从而导致决策失误。人工智能在军事行动中的应用日益普遍,这凸显出有必要开发能够应对冲突场景中复杂的错误信息的系统。
通过误导来利用敌人的弱点,这在网络安全和人工智能欺骗领域也很明显。使用蜜罐和欺骗网格等欺骗技术,防御者可以误导攻击者与伪造的系统或数据进行交互,从而为加强防御赢得时间。这些技术不仅仅是掩盖真相,而是操纵对手的感知和行为。这种诱使攻击者追踪虚假线索的战术,与不直接对抗而获取战略优势的方法如出一辙。通过创造一种环境,让攻击者按照错误的假设行事,防御者就能有效地控制局势。
在人工智能时代,战略调整越来越依赖于实时数据处理和敏捷决策,从而重塑了传统的战略制定方法。人工智能工具能够对大量数据进行实时分析,找出规律并提出见解,从而实现动态战略调整。这种持续分析和情景评估的能力反映了以人为中心的传统战略决策(SDM)的重大转变,在传统战略决策中,决策往往基于直觉、经验以及更缓慢、更深思熟虑的过程。人工智能,尤其是大型语言模型(LLMs),能够生成多种似是而非的未来情景,并提出战略调整建议,这与当今快节奏、数据驱动的环境中对灵活性日益增长的需求是一致的。通过将人工智能融入 SDM,决策者可以快速重新评估和修改战略,利用机遇或降低新出现的风险,而无需等待漫长的评估周期。
适应性在战争中极其重要,主张灵活性对于应对不断变化的环境和对手的不可预测性至关重要。“不战而屈人之兵 ”直接说明了根据实时情报和态势感知进行机动和调整战术的战略优势。人工智能工具可为决策者提供最新的、可操作的情报,为战略的快速转变提供依据,从而促进这种适应性。例如,人工智能在战争中的应用,如乌克兰在分析卫星图像和无人机镜头时使用的人工智能,可以让军事领导人根据当前的战场条件迅速调整战术。同样,在商业和法律领域,LLM 可以通过模拟各种场景并相应调整计划,协助快速重新评估战略,从而体现孙子利用有利时机和不断变化的环境的原则。
尽管人工智能具有实现战略灵活性的能力,但将其融入决策过程也会对用于实时调整的数据的质量和可靠性提出重大挑战。人工智能系统,尤其是那些依赖历史数据的系统,可能会使偏差长期存在,或无法解释偏离过去模式的新情况。欺骗和操纵敌人的感知,强调了不能仅仅依赖数据,还要预测对手可能的误导和非常规战术的重要性。要想让人工智能有效提升战略,它不仅要处理数据,还要评估数据中固有的不确定性,就像人类需要凭借直觉来判断对手行为的不可预测性一样。在利用人工智能的速度和准确性的同时,这种对新的和不断变化的威胁的适应还需要谨慎地结合人类的监督,以确保在做出决策时既能意识到人工智能的优势,也能意识到其局限性。
此外,还必须考虑在战略决策中过度依赖人工智能系统所带来的风险。例如,在军事行动中,人工智能有时难以准确识别目标,并有可能造成意想不到的后果,如伤害平民或行动失败。这突出了低估战争复杂性的危险以及平衡技术进步与深刻理解大背景的重要性。人工智能当然可以提高战略调整的灵活性,但必须与人类持续的判断力和适应力相结合,以确保其建议符合更广泛的战略目标。战略家的真正优势不在于死守固定的计划,而在于能够对不断变化的情况保持灵活的反应能力--这一点人工智能工具可以提供帮助,但无法取代。
人工智能具有创建合成媒体和预测威胁的能力,体现了“不战而屈人之兵”的思想,通过迅速和明智的决策实现战略优势。
参考来源:Kyaw Jaw SineMarma