《生成人工智能对抗性使用对国土安全的影响》美国土安全部最新99页报告

数字内容伪造技术的快速发展对国土安全任务构成了重大威胁和巨大风险。

人脸编辑和变形技术可以创建逼真的人脸，从而有可能破坏人脸识别系统，导致未经授权的访问和身份管理漏洞。在视频中调换人脸的能力会破坏视觉验证程序的可靠性。语音克隆应用可以复制一个人的声音，可能会给执法任务带来严峻挑战。根据美国国家失踪与被剥削儿童中心的网络热线（Cyber Tipline），人工智能生成的儿童性虐待材料（GenAI）正在增加。这些生成的材料既有害又非法。由于数字内容伪造会煽动骚乱和助长激进主义，防止恐怖主义等任务变得复杂。数字内容伪造的影响还包括确保网络空间安全和保护关键基础设施，例如通过设计和实施复杂的社会工程学攻击。此外，它们还威胁着包括应急和灾害管理、运输安全和海事意识在内的基本任务的完整性。

本报告评估了用于创建和传播数字内容赝品的技术，并描述了其演变过程；评估了外国政府和非政府实体如何利用这些技术将数字内容赝品武器化；讨论了数字内容赝品武器化的影响，并特别考虑了国土安全任务；还描述了应对和减轻这些威胁的风险降低策略。

本报告提出了八项关键技术意见和考虑因素：

便利与安全：为了提高便利性，政府身份管理系统，如全球入境和真实身份系统，一直在努力扩大用户通过互联网注册的能力。越来越多地使用深度伪造技术，这种技术可以破解在线身份管理系统，因此建议谨慎行事，并认识到在线注册带来的安全问题。

多管齐下的缓解方法：正在目睹生成和检测深度伪造技术的方法之间的 “猫捉老鼠 ”游戏。以高度的确定性检测深度伪造始终是一项挑战。考虑到越来越多的 GenAI 将被用于创建合法用途的媒体，包括电视和电影，这一挑战就更大了。

未来的威胁：GenAI 技术正在不断改进，而且越来越广泛，这表明，随着技术能力和可获得性的加速发展，高度逼真的欺骗性媒体的威胁只会越来越大。

人工智能软件：深度伪造和创建深度伪造的算法最终都体现在软件中，而软件是网络攻击和利用的对象。因此，一些迫在眉睫的网络安全问题将使人工智能和 GenAI 风险复杂化。

人工智能硬件和人工智能竞赛：未来美国对人工智能硬件平台的领导权和控制权将受到争夺。美国在这些领域的领先地位将受到未来市场和技术挑战的影响，如供应链障碍和避免使用主导供应商芯片的高成本竞争。

技术情报：民族国家层面的能力建立在现有的商业和开源人工智能架构基础上，但由于民族国家拥有独特的大量资源和独特的专有数据集来训练 GenAI 模型，因此它们未来在针对美国国内安全的数字内容伪造方面的熟练程度可能会提高。

人工通用智能（AGI）里程碑：通过研究推进 AGI 将受益于一个框架，该框架将描述用例和基准以及能量估算，作为成功的标志或里程碑。

政府整体应对：相关机构和部门的政府官员需要在外国对手发起 GenAI 实时攻击时确定各自的角色。为了采取强有力的应对措施，这些角色最好在多种情景叙述的背景下确定，并考虑广泛的攻击范围和可能造成的影响。

数字内容伪造造成的威胁不断升级，因此有必要立即采取协调一致的行动。通过投资技术、加强非技术解决方案、促进国际合作和提高意识，可以保障国土安全任务，并确保数字信息环境的完整性。