面向网络空间防御的对抗机器学习研究综述

摘要: 机器学习以强大的自适应性、自学习能力, 成为网络空间防御的研究热点和重要方向. 然而, 机器学习模型在网络空间环境下存在受到对抗攻击的潜在风险, 可能成为防御体系中最为薄弱的环节, 从而危害整个系统的安全. 为此, 科学分析安全问题场景, 从运行机理上探索算法可行性、安全性, 对运用机器学习模型构建网络空间防御系统大有裨益. 本文全面综述对抗机器学习这一跨学科研究领域在网络空间防御中取得的成果及以后的发展方向. 首先介绍了网络空间防御、对抗机器学习等背景知识. 其次, 针对机器学习在网络空间防御中可能遭受的攻击, 引入机器学习敌手模型概念, 目的是科学评估其在特定威胁场景下的安全属性. 而后, 针对网络空间防御的机器学习算法, 分别论述了在测试阶段发动规避攻击、在训练阶段发动投毒攻击、在机器学习全阶段发动隐私窃取的方法, 进而研究如何在网络空间对抗环境下, 强化机器学习模型的防御方法. 最后, 展望了网络空间防御中对抗机器学习研究的未来方向和有关挑战.

http://www.aas.net.cn/cn/article/doi/10.16383/j.aas.c210089