摘 要: 深度学习模型是人工智能系统的重要组成部分, 被广泛应用于现实多种关键场景. 现有研究表明, 深度学 习的低透明度与弱可解释性使得深度学习模型对扰动敏感. 人工智能系统面临多种安全威胁, 其中针对深度学习 的后门攻击是人工智能系统面临的重要威胁. 为了提高深度学习模型的安全性, 全面地介绍计算机视觉、自然语 言处理等主流深度学习系统的后门攻击与防御研究进展. 首先根据现实中攻击者能力将后门攻击分为全过程可控 后门、模型修改后门和仅数据投毒后门. 然后根据后门构建方式进行子类划分. 接着根据防御策略对象将现有后 门防御方法分为基于输入的后门防御与基于模型的后门防御. 最后汇总后门攻击常用数据集与评价指标, 并总结 后门攻击与防御领域存在的问题, 在后门攻击的安全应用场景与后门防御的有效性等方面提出建议与展望. 关键词: 深度学习; 后门攻击; 后门防御; 人工智能安全

成为VIP会员查看完整内容
8

相关内容

机器学习的一个分支,它基于试图使用包含复杂结构或由多重非线性变换构成的多个处理层对数据进行高层抽象的一系列算法。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
基于深度学习的信息传播微观预测综述
专知会员服务
12+阅读 · 5月4日
深度长尾学习研究综述
专知会员服务
26+阅读 · 2月12日
面向图像分类的对抗鲁棒性评估综述
专知会员服务
58+阅读 · 2022年10月15日
深度学习模型鲁棒性研究综述
专知会员服务
96+阅读 · 2022年1月23日
深度强化学习的攻防与安全性分析综述
专知会员服务
27+阅读 · 2022年1月16日
专知会员服务
35+阅读 · 2021年8月13日
专知会员服务
27+阅读 · 2021年7月16日
专知会员服务
47+阅读 · 2021年3月24日
专知会员服务
99+阅读 · 2020年12月8日
深度学习批归一化及其相关算法研究进展
专知会员服务
52+阅读 · 2020年7月17日
「基于通信的多智能体强化学习」 进展综述
智能合约的形式化验证方法研究综述
专知
16+阅读 · 2021年5月8日
图像修复研究进展综述
专知
19+阅读 · 2021年3月9日
基于深度学习的数据融合方法研究综述
专知
33+阅读 · 2020年12月10日
深度学习可解释性研究进展
专知
19+阅读 · 2020年6月26日
【综述】生成式对抗网络GAN最新进展综述
专知
60+阅读 · 2019年6月5日
基于深度学习的NLP 32页最新进展综述,190篇参考文献
人工智能学家
27+阅读 · 2018年12月4日
基于深度学习的目标检测算法综述
AI研习社
14+阅读 · 2018年4月25日
国家自然科学基金
1+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
19+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Arxiv
170+阅读 · 2023年4月20日
A Survey of Large Language Models
Arxiv
472+阅读 · 2023年3月31日
Arxiv
78+阅读 · 2023年3月26日
Arxiv
171+阅读 · 2023年3月24日
Arxiv
24+阅读 · 2023年3月17日
VIP会员
相关VIP内容
基于深度学习的信息传播微观预测综述
专知会员服务
12+阅读 · 5月4日
深度长尾学习研究综述
专知会员服务
26+阅读 · 2月12日
面向图像分类的对抗鲁棒性评估综述
专知会员服务
58+阅读 · 2022年10月15日
深度学习模型鲁棒性研究综述
专知会员服务
96+阅读 · 2022年1月23日
深度强化学习的攻防与安全性分析综述
专知会员服务
27+阅读 · 2022年1月16日
专知会员服务
35+阅读 · 2021年8月13日
专知会员服务
27+阅读 · 2021年7月16日
专知会员服务
47+阅读 · 2021年3月24日
专知会员服务
99+阅读 · 2020年12月8日
深度学习批归一化及其相关算法研究进展
专知会员服务
52+阅读 · 2020年7月17日
相关资讯
「基于通信的多智能体强化学习」 进展综述
智能合约的形式化验证方法研究综述
专知
16+阅读 · 2021年5月8日
图像修复研究进展综述
专知
19+阅读 · 2021年3月9日
基于深度学习的数据融合方法研究综述
专知
33+阅读 · 2020年12月10日
深度学习可解释性研究进展
专知
19+阅读 · 2020年6月26日
【综述】生成式对抗网络GAN最新进展综述
专知
60+阅读 · 2019年6月5日
基于深度学习的NLP 32页最新进展综述,190篇参考文献
人工智能学家
27+阅读 · 2018年12月4日
基于深度学习的目标检测算法综述
AI研习社
14+阅读 · 2018年4月25日
相关基金
国家自然科学基金
1+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
19+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
微信扫码咨询专知VIP会员