潜在对手正在利用人工智能武器发动新一轮心理战。采用了一种新的人工智能驱动的不对称战争战略,利用生成式模型以前所未有的规模放大虚假信息。目前不少事件凸显了人工智能驱动的宣传破坏关键系统稳定的灾难性潜力,使得必须做出调整。人工智能采用战略是向前迈出的一步,但在训练士兵充分利用人工智能进行信息战和应对这些不断变化的威胁,仍然存在差距。

一些潜在对手正在利用人工智能加强其虚假信息宣传活动,特别是通过机器人账户的演变,这些账户现在可以生成更像人类、更具说服力的内容。例如在一些国家大选之前,行动者试图利用人工智能来加强其影响力行动的范围和可扩展性,其中一些行动的具体目标是在其国内和全球范围内塑造对候选人的舆论、左右选举结果、破坏公众信心以及挑拨离间。人工智能的整合使行动者能够实时监控信息环境,从而快速调整虚假信息策略。

在心理战中使用人工智能已成为塑造地区和全球叙事、扩大全球影响力战略的关键要素。通过利用人工智能创建深度伪造、自动化社交媒体机器人以及针对特定受众定制虚假信息,增强了操纵公共话语的能力。这一战略不仅仅局限于在线影响力;人工智能能力使大规模网络战成为可能,这一点在针对受众协调一致的虚假信息活动中较为突出。 认知战将人工智能与心理战和网络战相结合。

无所作为的危险

不采取行动以应对对手的人工智能强化信息战会带来巨大风险。对手利用人工智能扩大宣传和造谣活动的能力,有可能破坏社会稳定。如果不加以应对,这种技术优势可能会增强敌对势力破坏地区稳定、影响选举和操纵舆论的目的,其效果将是前所未有的。不作为的代价很高,有可能导致战略失衡,有利于善于利用人工智能达到恶意目的的对手。试想一下,如果人工智能驱动的虚假信息宣传活动不受控制。大量虚假信息可能会削弱公众对民主机构的信任,造成混乱和分裂,从而产生破坏性影响。在这种环境下,国家在全球各地区施加影响和加强稳定的能力可能会被严重削弱。为此,迫切需要采取积极主动的应对措施。

加强训练:适应人工智能一体化

军队人员,尤其是心理作战士兵的训练重点需要适应不断变化的技术环境。士兵们必须了解当前可用的人工智能工具,并理解这些工具如何协助分析作战环境、加快分析速度、生成内容以及解决指挥官的风险问题。提高人工智能素养是第一步。士兵应了解人工智能的基础知识、能力和局限性。这些基础知识对于将人工智能工具有效融入行动至关重要。训练计划应包括人工智能工具的实践经验,让士兵在现实场景中练习使用这些技术。有关在军事行动中使用人工智能的道德影响的教育对于确保遵守法律和道德标准也至关重要。鉴于人工智能的发展速度很快,训练计划必须强调持续学习和适应,以跟上新的进步。

人工智能增强心理战

将人工智能工具融入军事行动,尤其是信息战领域的军事行动,可提供若干关键优势,从而增强军队的能力,使心理作战士兵能够对抗敌方的信息攻势。这些优势包括强化分析、速度和效率、可扩展性以及降低风险。人工智能可以分析各种来源的海量数据,识别趋势、情绪和潜在威胁。这种能力使心理作战分遣队和团队能够更深入地了解作战环境,并制定更精确的信息传递方案。此外,人工智能还能快速高效地生成内容,这在当今日益快节奏的信息环境中至关重要。

此外,心理作战团队面临的一个主要问题是将其工作扩展到整个部署责任区。地域作战司令部、战区特种作战司令部等对陆军心理作战能力的需求已经很高。鉴于来自多个组织的高需求,分遣队需要分成较小的分队,以覆盖广泛的地理区域和关键任务,这给带宽管理和可扩展性带来了巨大挑战。人工智能可通过简化内容制作和分发,帮助克服这些带宽和可扩展性问题,使较小的分队能够支持更广泛的任务目标,覆盖更多地区,并在不牺牲速度或质量的情况下与多个受众接触。这种可扩展性对于有效打击大范围的虚假信息活动至关重要,因为时间通常是影响信息传播效果的关键因素。

人工智能还能大大加强风险管理。人工智能可以评估不同信息传播策略的潜在影响,帮助指挥官了解各种行动方案的相关风险和益处。通过模拟潜在的结果,人工智能可以更清晰地了解作战环境以及对手和其他受众可能做出的反应。此外,人工智能的风险缓解能力还能让团队获得可操作的见解和建议,简化规划流程,更好地为指挥提供支持。这取决于人工智能实施者能否将整合过程传达给指挥官和决策者。

内容生成是人工智能可以发挥作用的另一个关键领域,因为它可以用来高效、快速地创建真实可信的材料,从而最大限度地扩大影响。人工智能可以大规模生成高质量的内容,这对于反驳敌方言论和传播信息至关重要,可以快速应对敌方的宣传。自然语言处理等工具可以创建有说服力、与背景相关的内容,引起目标受众的共鸣。在快节奏的信息环境中,及时的干预可以产生重大影响,而自然语言处理的速度对实现这一目标至关重要。

受众反应测试是人工智能发挥重要作用的另一个领域,这主要得益于它的速度和效率。人工智能可以根据预先加载的受众特征模拟预期的受众反应和参与度指标,而不是完全依赖传统方法,使团队能够在广泛传播之前完善信息策略。虽然这种方法可能无法取代心理作战分队细致入微、基于经验的洞察力,但它能大大加快这一过程,比人工方法更快地对信息进行多次迭代测试和优化,从而提高有效参与的可能性。

训练提案:制定教学计划

要将人工智能工具有效地融入军事行动,全面的训练计划必不可少。该计划应包括基本的教学模块,涵盖人工智能的基础知识、人工智能扫盲的基本知识、人工智能和大型语言模型的工作原理、人工智能可提供的各种能力,以及人工智能的局限性和对其使用的担忧。这些基础知识对于理解如何在军事环境中应用人工智能至关重要。实践训练应成为该计划的重要组成部分。让士兵在模拟场景中使用人工智能工具的实际演练将帮助他们熟悉这项技术,并了解如何将其应用到实际行动中。这种实践方法可确保士兵不仅掌握理论知识,还能熟练使用人工智能工具。道德和法律方面的考虑也应成为训练的关键部分;士兵们必须意识到潜在的风险,并确保他们对人工智能的使用符合任何规定人工智能使用道德标准的战略文件或政策更新。

鉴于人工智能的快速发展,持续学习至关重要。持续的教育和训练对于确保士兵熟练使用人工智能至关重要。这可能包括定期更新新的人工智能工具和技术,以及让士兵了解人工智能最新发展的进修课程。鉴于心理作战人员在信息环境中挑战敌方叙事的作用,对他们进行专门训练也很有必要。就人工智能如何加强之前讨论过的特定任务--信息分析、内容生成和受众参与--进行集中训练,将使心理作战团队掌握将人工智能有效融入行动所需的技能。如果这种专门训练能够包括现实世界的例子和案例研究,以说明人工智能的成功实际应用,以及从实施和实验的斗争中吸取的经验教训,那么这种训练的质量将大大提高。

针对最终用户实施政策更新

对抗对抗性人工智能优势的关键解决方案之一是更新军事政策,为人工智能工具的使用提供明确的界限。人工智能训练是基础,但只有建立正确的政策框架,才能最大限度地发挥其影响。当前的政策往往缺乏必要的针对性,无法指导军事人员合乎道德地有效使用人工智能技术。通过制定全面的指导方针,军方可以授权其成员以支持国家目标的方式使用人工智能,同时坚持遵守道德标准。这些政策更新应侧重于定义人工智能在各种军事行动中的可接受用途,制定部署和监督人工智能工具的协议,并提供一个随着技术发展不断评估和调整人工智能政策的框架。明确的指导方针不仅能提高行动效率,还能确保人工智能的使用是负责任和合乎道德的。

忽视对手采用的人工智能驱动的心理战战术的风险并不只是理论上的,它们已经开始显现。随着作战环境的不断变化,对手将继续利用人工智能来破坏制度的稳定、操纵公众舆论并削弱在全球舞台上的影响力。不作为的代价是惨重的,因为人工智能以刚刚开始掌握的方式加速了虚假信息活动的规模和复杂程度。如果不解决这些战术问题,就可能导致战略失衡,削弱力量,容易进一步丧失对机构的信任,削弱在全球施加影响和加强稳定的能力。

在信息环境的这一关键层面,不能落后。为了维护安全,现在就必须进行调整。这不仅需要政策更新,还需要一种全面的方法,包括高级训练、战略人工智能整合以及快速部署人工智能增强型行动。将人工智能作为心理战能力的一个积极组成部分,就能超越对手,解决心理作战部队在全球范围内面临的能力和问题,并为保护信息环境免受对手的恶意影响做好更充分的准备。这不是未来的挑战,而是当前的战斗,其利害关系不言而喻。

参考来源:美国西点

成为VIP会员查看完整内容
16

相关内容

人工智能在军事中可用于多项任务,例如目标识别、大数据处理、作战系统、网络安全、后勤运输、战争医疗、威胁和安全监测以及战斗模拟和训练。
人工智能决策支持系统: 变革军事指挥与控制
专知会员服务
27+阅读 · 9月21日
任务战备的未来:国防知识图谱和情境人工智能
专知会员服务
62+阅读 · 5月28日
生成人工智能如何改变军事行动
专知会员服务
46+阅读 · 5月22日
军事领域的人工智能: 实用工具
专知会员服务
79+阅读 · 2023年11月25日
战争算法:人工智能在武装冲突决策中的应用,ICRC视角
专知会员服务
103+阅读 · 2023年10月28日
释放战略潜能: 电子战中的人工智能
专知会员服务
91+阅读 · 2023年10月5日
打开黑盒:可解释机器学习在心脏病学中的前景和局限
专知会员服务
23+阅读 · 2022年7月22日
反无人机技术的方法与难点
无人机
20+阅读 · 2019年4月30日
人工智能的现状与未来(附PPT)
人工智能学家
74+阅读 · 2019年3月27日
【边缘智能】边缘计算驱动的深度学习加速技术
产业智能官
20+阅读 · 2019年2月8日
孟小峰:机器学习与数据库技术融合
计算机研究与发展
14+阅读 · 2018年9月6日
机器学习知识体系
架构文摘
19+阅读 · 2018年1月7日
从传统方法到深度学习,人脸关键点检测方法综述
机器之心
14+阅读 · 2017年12月17日
机器学习必备手册
机器学习研究会
18+阅读 · 2017年10月24日
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
22+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
15+阅读 · 2013年12月31日
Arxiv
153+阅读 · 2023年4月20日
A Survey of Large Language Models
Arxiv
392+阅读 · 2023年3月31日
Arxiv
135+阅读 · 2023年3月24日
Arxiv
19+阅读 · 2023年3月17日
VIP会员
相关VIP内容
人工智能决策支持系统: 变革军事指挥与控制
专知会员服务
27+阅读 · 9月21日
任务战备的未来:国防知识图谱和情境人工智能
专知会员服务
62+阅读 · 5月28日
生成人工智能如何改变军事行动
专知会员服务
46+阅读 · 5月22日
军事领域的人工智能: 实用工具
专知会员服务
79+阅读 · 2023年11月25日
战争算法:人工智能在武装冲突决策中的应用,ICRC视角
专知会员服务
103+阅读 · 2023年10月28日
释放战略潜能: 电子战中的人工智能
专知会员服务
91+阅读 · 2023年10月5日
打开黑盒:可解释机器学习在心脏病学中的前景和局限
专知会员服务
23+阅读 · 2022年7月22日
相关资讯
反无人机技术的方法与难点
无人机
20+阅读 · 2019年4月30日
人工智能的现状与未来(附PPT)
人工智能学家
74+阅读 · 2019年3月27日
【边缘智能】边缘计算驱动的深度学习加速技术
产业智能官
20+阅读 · 2019年2月8日
孟小峰:机器学习与数据库技术融合
计算机研究与发展
14+阅读 · 2018年9月6日
机器学习知识体系
架构文摘
19+阅读 · 2018年1月7日
从传统方法到深度学习,人脸关键点检测方法综述
机器之心
14+阅读 · 2017年12月17日
机器学习必备手册
机器学习研究会
18+阅读 · 2017年10月24日
相关基金
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
22+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
15+阅读 · 2013年12月31日
微信扫码咨询专知VIP会员