《人工智能网络攻击带来的安全威胁》30页报告

大约五年前，随着生成性人工智能模型能够自动进行鱼叉式攻击和漏洞发现的例子，人工智能支持的网络攻击话题浮出水面。从那时起，由人工智能支持的社会工程和冒充攻击已经发生，造成了数百万美元的经济损失1。目前人工智能研究的快速进展，加上它所带来的众多新应用，使我们相信人工智能技术将很快被用来支持网络攻击中通常使用的更多步骤。这就是为什么人工智能支持的网络攻击的想法最近从学术界和工业界获得了越来越多的关注，以及为什么我们开始看到更多的研究致力于研究如何利用人工智能来加强网络攻击的原因。

2019年底的一项研究表明，超过80%的决策者关注人工智能支持的网络攻击，并预测这些类型的攻击可能在不久的将来成为主流2。目前的人工智能技术已经支持典型攻击链的许多早期阶段。高级社会工程和信息收集技术就是这样的例子。由人工智能驱动的网络攻击已经是一个组织无法应对的威胁。随着我们见证人工智能方法论的新进展，以及人工智能的专业知识变得更加广泛，这种安全威胁只会增加。

本报告旨在通过总结当前关于该主题的知识，调查人工智能支持的网络攻击的安全威胁。人工智能技术目前只能够加强少数攻击者的战术，它很可能只被高级威胁者，如民族国家的攻击者所使用。在不久的将来，快速发展的人工智能将通过自动化、隐蔽性、社会工程或信息收集来增强和创造更大范围的攻击技术。因此，我们预测，在未来五年内，人工智能支持的攻击将在不太熟练的攻击者中变得更加普遍。随着传统的网络攻击将变得过时，人工智能技术、技能和工具将变得更容易获得和负担得起，激励着攻击者利用人工智能支持的网络攻击。

网络安全行业将不得不适应，以应对人工智能网络攻击的出现。例如，生物识别认证方法可能会因为人工智能带来的先进冒充技术而变得过时。新的预防和检测机制也将需要开发，以应对人工智能的网络攻击。更多的自动化和人工智能技术也将需要在防御解决方案中使用，以配合人工智能支持的网络攻击的速度、规模和复杂程度。这可能会导致攻击者不受限制地使用人工智能技术，而防御者则受到即将出台的人工智能应用法规的限制，从而形成不对称的斗争。