摘要: 近年来, 深度学习在图像分类、目标检测及场景识别等任务上取得了突破性进展, 这些任务多以卷积神经网络(Convolutional neural network, CNN)为基础搭建识别模型, 训练后的模型拥有优异的自动特征提取和预测性能, 能够为用户提供“输入-输出”形式的解决方案. 然而, 由于分布式的特征编码和越来越复杂的模型结构, 人们始终无法准确理解CNN模型内部知识表示, 以及促使其做出特定决策的潜在原因. 另一方面, CNN模型在一些高风险领域的应用, 也要求对其决策原因进行充分了解, 方能获取用户信任. 因此, CNN的可解释性问题逐渐受到关注. 研究人员针对性的提出了一系列用于理解和解释CNN的方法, 包括事后解释方法和构建自解释的模型等, 这些方法各有侧重和优势, 从多方面对CNN进行特征分析和决策解释. 表征可视化是其中一种重要的CNN可解释性方法, 能够对CNN所学特征及输入-输出之间的相关关系以视觉的方式呈现, 从而快速获取对CNN内部特征和决策的理解, 具有过程简单和效果直观的特点. 本文对近年来CNN表征可视化领域的相关文献进行了综合性回顾, 按照以下几个方面组织内容: 表征可视化研究的提起、相关概念及内容、可视化方法、可视化的效果评估及可视化的应用, 重点关注了表征可视化方法的分类及算法的具体过程. 最后, 对该领域仍存在的难点及未来研究趋势进行了展望, 并总结了全文.

成为VIP会员查看完整内容
41

相关内容

机器学习的一个分支,它基于试图使用包含复杂结构或由多重非线性变换构成的多个处理层对数据进行高层抽象的一系列算法。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
专知会员服务
56+阅读 · 2021年8月12日
专知会员服务
59+阅读 · 2021年5月11日
专知会员服务
55+阅读 · 2021年4月20日
注意力机制综述
专知会员服务
82+阅读 · 2021年1月26日
基于知识图谱的推荐系统研究综述
专知会员服务
327+阅读 · 2020年8月10日
专知会员服务
78+阅读 · 2020年8月4日
专知会员服务
219+阅读 · 2020年8月1日
深度学习目标检测方法综述
专知会员服务
273+阅读 · 2020年8月1日
实体关系抽取方法研究综述
专知会员服务
176+阅读 · 2020年7月19日
 图像内容自动描述技术综述
专知会员服务
85+阅读 · 2019年11月17日
图像修复研究进展综述
专知
18+阅读 · 2021年3月9日
小目标检测技术研究综述
专知
5+阅读 · 2020年12月7日
多模态视觉语言表征学习研究综述
专知
27+阅读 · 2020年12月3日
深度学习模型可解释性的研究进展
专知
25+阅读 · 2020年8月1日
实体关系抽取方法研究综述
专知
11+阅读 · 2020年7月19日
知识图谱最新研究综述
深度学习自然语言处理
45+阅读 · 2020年6月14日
Arxiv
30+阅读 · 2021年7月7日
A Survey on Data Augmentation for Text Classification
Arxiv
37+阅读 · 2021年2月10日
AutoML: A Survey of the State-of-the-Art
Arxiv
69+阅读 · 2019年8月14日
Deep Learning for Generic Object Detection: A Survey
Arxiv
13+阅读 · 2018年9月6日
Arxiv
3+阅读 · 2018年2月11日
Arxiv
7+阅读 · 2018年1月24日
VIP会员
相关VIP内容
专知会员服务
56+阅读 · 2021年8月12日
专知会员服务
59+阅读 · 2021年5月11日
专知会员服务
55+阅读 · 2021年4月20日
注意力机制综述
专知会员服务
82+阅读 · 2021年1月26日
基于知识图谱的推荐系统研究综述
专知会员服务
327+阅读 · 2020年8月10日
专知会员服务
78+阅读 · 2020年8月4日
专知会员服务
219+阅读 · 2020年8月1日
深度学习目标检测方法综述
专知会员服务
273+阅读 · 2020年8月1日
实体关系抽取方法研究综述
专知会员服务
176+阅读 · 2020年7月19日
 图像内容自动描述技术综述
专知会员服务
85+阅读 · 2019年11月17日
相关资讯
图像修复研究进展综述
专知
18+阅读 · 2021年3月9日
小目标检测技术研究综述
专知
5+阅读 · 2020年12月7日
多模态视觉语言表征学习研究综述
专知
27+阅读 · 2020年12月3日
深度学习模型可解释性的研究进展
专知
25+阅读 · 2020年8月1日
实体关系抽取方法研究综述
专知
11+阅读 · 2020年7月19日
知识图谱最新研究综述
深度学习自然语言处理
45+阅读 · 2020年6月14日
相关论文
微信扫码咨询专知VIP会员