深度学习模型的中毒攻击与防御综述

深度学习是当前机器学习和人工智能兴起的核心。随着深度学习在自动驾驶、门禁安检、人脸支付等严苛的安全领域中广泛应用，深度学习模型的安全问题逐渐成为新的研究热点。深度模型的攻击根据攻击阶段可分为中毒攻击和对抗攻击，其区别在于前者的攻击发生在训练阶段，后者的攻击发生在测试阶段。本文首次综述了深度学习中的中毒攻击方法，回顾深度学习中的中毒攻击，分析了此类攻击存在的可能性，并研究了现有的针对这些攻击的防御措施。最后，对未来中毒攻击的研究发展方向进行了探讨。

http://jcs.iie.ac.cn/xxaqxb/ch/reader/view_abstract.aspx?file_no=20200403&flag=1