Backdoor attack intends to embed hidden backdoor into deep neural networks (DNNs), such that the attacked model performs well on benign samples, whereas its prediction will be maliciously changed if the hidden backdoor is activated by the attacker-defined trigger. Backdoor attack could happen when the training process is not fully controlled by the user, such as training on third-party datasets or adopting third-party models, which poses a new and realistic threat. Although backdoor learning is an emerging and rapidly growing research area, its systematic review, however, remains blank. In this paper, we present the first comprehensive survey of this realm. We summarize and categorize existing backdoor attacks and defenses based on their characteristics, and provide a unified framework for analyzing poisoning-based backdoor attacks. Besides, we also analyze the relation between backdoor attacks and the relevant fields ($i.e.,$ adversarial attack and data poisoning), and summarize the benchmark datasets. Finally, we briefly outline certain future research directions relying upon reviewed works.


翻译:后门攻击意图将隐藏的后门攻击嵌入深层神经网络(DNNs),这样,被攻击的模式在良性样本上表现良好,而如果攻击者定义的触发器触发隐藏的后门攻击,则其预测会恶意改变。当培训过程没有完全由用户控制时,如第三方数据集培训或采用第三方模型,从而构成新的现实威胁,后门攻击可能发生。虽然后门学习是一个新兴和迅速增长的研究领域,但其系统审查仍然是空白的。在本文中,我们介绍该领域的第一次全面调查。我们根据现有后门攻击和防御的特点进行总结和分类,并为分析基于中毒的后门攻击提供一个统一框架。此外,我们还分析后门攻击和相关领域之间的关系(美元、对抗性攻击和数据中毒),并概述基准数据集。最后,我们简要概述了依靠被审查的工程的某些未来研究方向。

14
下载
关闭预览

相关内容

100+篇《自监督学习(Self-Supervised Learning)》论文最新合集
专知会员服务
113+阅读 · 2020年3月18日
MATLAB玩转深度学习?新书「MATLAB Deep Learning」162页pdf
专知会员服务
67+阅读 · 2020年1月13日
Keras François Chollet 《Deep Learning with Python 》, 386页pdf
专知会员服务
105+阅读 · 2019年10月12日
强化学习最新教程,17页pdf
专知会员服务
109+阅读 · 2019年10月11日
[综述]深度学习下的场景文本检测与识别
专知会员服务
59+阅读 · 2019年10月10日
Transferring Knowledge across Learning Processes
CreateAMind
12+阅读 · 2019年5月18日
Call for Participation: Shared Tasks in NLPCC 2019
中国计算机学会
5+阅读 · 2019年3月22日
Unsupervised Learning via Meta-Learning
CreateAMind
34+阅读 · 2019年1月3日
人工智能 | 国际会议信息10条
Call4Papers
5+阅读 · 2018年12月18日
【推荐】RNN最新研究进展综述
机器学习研究会
24+阅读 · 2018年1月6日
Deep Reinforcement Learning 深度增强学习资源
数据挖掘入门与实战
5+阅读 · 2017年11月4日
【论文】图上的表示学习综述
机器学习研究会
10+阅读 · 2017年9月24日
Deep Learning & Neural Network 免费学习资源【译】
乐享数据DataScientists
5+阅读 · 2017年8月20日
A Survey on Bayesian Deep Learning
Arxiv
51+阅读 · 2020年7月2日
Arxiv
37+阅读 · 2020年3月10日
Arxiv
10+阅读 · 2020年2月6日
Arxiv
38+阅读 · 2019年12月20日
A Comprehensive Survey on Transfer Learning
Arxiv
107+阅读 · 2019年11月7日
Few-shot Learning: A Survey
Arxiv
347+阅读 · 2019年4月10日
Arxiv
44+阅读 · 2018年12月11日
Arxiv
5+阅读 · 2018年10月11日
A Survey on Deep Transfer Learning
Arxiv
11+阅读 · 2018年8月6日
VIP会员
相关VIP内容
100+篇《自监督学习(Self-Supervised Learning)》论文最新合集
专知会员服务
113+阅读 · 2020年3月18日
MATLAB玩转深度学习?新书「MATLAB Deep Learning」162页pdf
专知会员服务
67+阅读 · 2020年1月13日
Keras François Chollet 《Deep Learning with Python 》, 386页pdf
专知会员服务
105+阅读 · 2019年10月12日
强化学习最新教程,17页pdf
专知会员服务
109+阅读 · 2019年10月11日
[综述]深度学习下的场景文本检测与识别
专知会员服务
59+阅读 · 2019年10月10日
相关资讯
Transferring Knowledge across Learning Processes
CreateAMind
12+阅读 · 2019年5月18日
Call for Participation: Shared Tasks in NLPCC 2019
中国计算机学会
5+阅读 · 2019年3月22日
Unsupervised Learning via Meta-Learning
CreateAMind
34+阅读 · 2019年1月3日
人工智能 | 国际会议信息10条
Call4Papers
5+阅读 · 2018年12月18日
【推荐】RNN最新研究进展综述
机器学习研究会
24+阅读 · 2018年1月6日
Deep Reinforcement Learning 深度增强学习资源
数据挖掘入门与实战
5+阅读 · 2017年11月4日
【论文】图上的表示学习综述
机器学习研究会
10+阅读 · 2017年9月24日
Deep Learning & Neural Network 免费学习资源【译】
乐享数据DataScientists
5+阅读 · 2017年8月20日
相关论文
A Survey on Bayesian Deep Learning
Arxiv
51+阅读 · 2020年7月2日
Arxiv
37+阅读 · 2020年3月10日
Arxiv
10+阅读 · 2020年2月6日
Arxiv
38+阅读 · 2019年12月20日
A Comprehensive Survey on Transfer Learning
Arxiv
107+阅读 · 2019年11月7日
Few-shot Learning: A Survey
Arxiv
347+阅读 · 2019年4月10日
Arxiv
44+阅读 · 2018年12月11日
Arxiv
5+阅读 · 2018年10月11日
A Survey on Deep Transfer Learning
Arxiv
11+阅读 · 2018年8月6日
Top
微信扫码咨询专知VIP会员