大约五年前,随着生成性人工智能模型能够自动进行鱼叉式攻击和漏洞发现的例子,人工智能支持的网络攻击话题浮出水面。从那时起,由人工智能支持的社会工程和冒充攻击已经发生,造成了数百万美元的经济损失1。目前人工智能研究的快速进展,加上它所带来的众多新应用,使我们相信人工智能技术将很快被用来支持网络攻击中通常使用的更多步骤。这就是为什么人工智能支持的网络攻击的想法最近从学术界和工业界获得了越来越多的关注,以及为什么我们开始看到更多的研究致力于研究如何利用人工智能来加强网络攻击的原因。

2019年底的一项研究表明,超过80%的决策者关注人工智能支持的网络攻击,并预测这些类型的攻击可能在不久的将来成为主流2。目前的人工智能技术已经支持典型攻击链的许多早期阶段。高级社会工程和信息收集技术就是这样的例子。由人工智能驱动的网络攻击已经是一个组织无法应对的威胁。随着我们见证人工智能方法论的新进展,以及人工智能的专业知识变得更加广泛,这种安全威胁只会增加。

本报告旨在通过总结当前关于该主题的知识,调查人工智能支持的网络攻击的安全威胁。人工智能技术目前只能够加强少数攻击者的战术,它很可能只被高级威胁者,如民族国家的攻击者所使用。在不久的将来,快速发展的人工智能将通过自动化、隐蔽性、社会工程或信息收集来增强和创造更大范围的攻击技术。因此,我们预测,在未来五年内,人工智能支持的攻击将在不太熟练的攻击者中变得更加普遍。随着传统的网络攻击将变得过时,人工智能技术、技能和工具将变得更容易获得和负担得起,激励着攻击者利用人工智能支持的网络攻击。

网络安全行业将不得不适应,以应对人工智能网络攻击的出现。例如,生物识别认证方法可能会因为人工智能带来的先进冒充技术而变得过时。新的预防和检测机制也将需要开发,以应对人工智能的网络攻击。更多的自动化和人工智能技术也将需要在防御解决方案中使用,以配合人工智能支持的网络攻击的速度、规模和复杂程度。这可能会导致攻击者不受限制地使用人工智能技术,而防御者则受到即将出台的人工智能应用法规的限制,从而形成不对称的斗争。

成为VIP会员查看完整内容
71

相关内容

人工智能(Artificial Intelligence, AI )是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。 人工智能是计算机科学的一个分支。
《人工智能:美国国防部面临的挑战和机遇》
专知会员服务
87+阅读 · 2023年4月22日
《网络安全:全球趋势》2022最新60页报告
专知会员服务
18+阅读 · 2023年2月2日
报告集《多域作战、人工智能和信息优势》120页
专知会员服务
333+阅读 · 2022年8月1日
人工智能(AI)在无人机领域应用报告,60页pdf
专知会员服务
208+阅读 · 2022年4月1日
《俄罗斯人工智能和自主性》258页报告
专知
31+阅读 · 2022年7月30日
人工智能对网络空间安全的影响
走向智能论坛
21+阅读 · 2018年6月7日
国家自然科学基金
18+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
2+阅读 · 2012年12月31日
国家自然科学基金
9+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2010年12月31日
国家自然科学基金
1+阅读 · 2009年12月31日
国家自然科学基金
1+阅读 · 2009年12月31日
Arxiv
0+阅读 · 2023年6月15日
A Survey of Large Language Models
Arxiv
404+阅读 · 2023年3月31日
Arxiv
92+阅读 · 2021年5月17日
VIP会员
相关基金
国家自然科学基金
18+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
2+阅读 · 2012年12月31日
国家自然科学基金
9+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2010年12月31日
国家自然科学基金
1+阅读 · 2009年12月31日
国家自然科学基金
1+阅读 · 2009年12月31日
微信扫码咨询专知VIP会员