深度学习的对抗攻击与防御方法综述

摘要： 深度学习作为人工智能技术的重要组成部分，被广泛应用在计算机视觉、自然语言处理等领域。尽管深 度学习在图像分类和目标检测等方向上取得了较好性能，但研究表明，对抗攻击的存在对深度学习模型的安全应 用造成了潜在威胁，进而影响模型的安全性。本文在简述对抗样本的概念及其产生原因的基础上，分析对抗攻击 的主要思路，研究具有代表性的经典对抗样本生成方法。描述对抗样本的检测方法与防御方法，并从应用角度阐 述对抗样本在不同领域的应用实例。通过对对抗样本攻击与防御方法的分析与总结，预测未来对抗攻击与防御的 研究方向。

http://www.ecice06.com/CN/10.19678/j.issn.1000-3428.0059156