《利用生成式人工智能备战下一代信息战》最新38页

现代冲突涉及信息武器化和操纵人类行为。人工智能（AI）及其与个人日常生活的融合有望增强、加速这些趋势，但也会使其复杂化。两个重要的转变将帮助我们了解这场新兴战争的真实面目：对人类本身的攻击。

人工智能使信息战变得更强大、更易获取。生成式人工智能与数据捕捉相结合，提供了将虚假信息的进攻性使用产业化的新技术。此外，生成式人工智能与其他强大技术的结合使信息战的潜力更加复杂。问题的关键在于两用知识本身的武器化。在人工智能、神经、纳米和生物技术等复杂的技术领域，生成式人工智能已经在学习如何使军事和民用专业知识扩散化。这种能力将使国家和非国家行为者都能获得与有影响力的技术相关的知识和指导。这种力量的扩散将改变信息战和物理战的性质，加剧冲突中威胁行为体之间双重用途知识的不对称。迫切需要为利用技术融合的滥用情景做好准备。新的融合风险将带来集体安全挑战，而这些挑战在全球范围内并没有得到很好的理解或预期。

世界已进入复杂而危险的十年。随着新旧威胁的交织和对多边秩序的挑战，战争、技术和网络空间的交汇点正在发生最震撼人心的变化。现代冲突--无论是宣战的、有争议的还是在灰色地带进行的--都因本质上具有双重用途的技术革命而加剧。这些冲突融合了物理和数字战线，入侵城市和工厂、家庭和日常设备，并随之产生新的目标和受害者。和平与战争、进攻与防御、民用技术与军用技术、国家力量与网络代理人之间的界限正在消失。

现代冲突越来越多地涉及信息武器化以及对人类行为和观念的操纵。人工智能（AI）的快速发展及其与个人日常生活和社会内部结构的融合，不仅有望增强和加速这些趋势，而且还会使其复杂化。本文旨在展示两个重要的转变，这将有助于我们认识和理解这场新兴战争的真面目：对人类本身的攻击。

首先，人工智能作为一种催化剂，正在使信息战变得更强大、更易获取。生成式人工智能的发展与多种形式的数据采集相结合，为大幅改进、定制、扩大甚至产业化虚假信息的进攻性使用提供了新技术。例如，个性化人工智能助手和聊天机器人现在有能力与用户进行看似真实的对话，并根据用户的心理特征和偏好巧妙地注入操纵性内容。通过有说服力的叙述，复杂的机器人网络可以深刻影响个人和群体的信仰。这些由算法推动的影响力争夺战，是为了控制人们的情感和态度，也是破坏社会凝聚力和信任的主要手段。在冲突时期，这些工具影响到平民保护和平民生存决策的关键要素，对民众造成直接和间接伤害（联合国大会，2022 年）。对于边缘化人群和弱势群体，如妇女和青年，这些工具可能会越来越多地制约和限制自决的概念，并可能会继续影响后代。

其次，人工智能（包括生成式人工智能）与其他强大技术的融合是一个根本性的转变，因为这种融合扩大并复杂化了信息战的潜力。问题的关键在于军民两用知识本身的武器化，可能包括人类文明发展的所有形式的军民两用专业知识。

在人工智能、神经、纳米和生物技术等复杂的技术领域，生成式人工智能已经在学习如何使战略性军事和民用专业知识和隐性知识扩散化。这种能力将为各种国家和非国家行为者提供获取与有影响力的技术相关的敏感知识和指导的机会。这种力量的扩散不仅会改变信息战和物理战的规模，也会改变其性质，从而加剧冲突威胁方之间的双重用途知识不对称。迫切需要为敌方使用或滥用技术的情况做好准备，因为这些情况可能会利用原本主要是民用和有益技术的融合。这种新的风险汇合将带来集体安全挑战，而这些挑战在全球范围内并没有得到很好的理解或预期。

利害关系重大。随着人工智能和生成式人工智能系统重塑知识、专长和信息在冲突中以及在战争与和平之间的灰色地带的使用和潜在操纵方式，现在是时候进行前瞻性思考并评估风险、脆弱性和复原形式了。虽然这对军事力量和战略思维会有具体影响，但预防和恢复能力将取决于全社会的反应。

本文的战略目标有两个方面。首先，通过深入分析人工智能与其他技术的融合如何能被用于扩大信息战，本文旨在让军事当局和战略思想家、政策制定者和法律专家、民间社会和多边机构了解有可能威胁和削弱社会同时又逃避责任的新兴战略。其次，通过分析国际法如何适用于新出现的信息战形式，本文旨在找出法律空白和模糊之处，以及支持国家和多边层面治理和政策进程的潜在切入点。

本文开篇的框架部分界定了所关注的主题，并迅速回顾了近期的信息战概念是如何与数字化转型和不断演变的冲突格局相关趋势相结合的（见方框 1）。技术部分阐明了上述两大转变，展示了人工智能不仅如何使信息战扩散化，还如何使其复杂化并扩大其影响。因此，技术部分将涵盖人工智能在信息战中的具体用途，包括心理战；对军队和平民的影响；最近在现实世界中的一些表现；以及人工智能的未来潜力和与其他技术的融合。接下来是一个详细的场景，展示了在旷日持久的武装冲突中，以人工智能为主导的信息战如何利用生物技术中的双重用途知识和尖端技术来削弱公共当局，并从心理上破坏平民的稳定。法律部分回顾了国际法律框架提供的保护措施，以及可能阻碍有效保护和问责的法律空白和模糊之处。最后一节强调了军民协同的必要性和全社会应对的要素，以加强预防和复原力。