Nowadays, the Convolutional Neural Networks (CNNs) have achieved impressive performance on many computer vision related tasks, such as object detection, image recognition, image retrieval, etc. These achievements benefit from the CNNs outstanding capability to learn the input features with deep layers of neuron structures and iterative training process. However, these learned features are hard to identify and interpret from a human vision perspective, causing a lack of understanding of the CNNs internal working mechanism. To improve the CNN interpretability, the CNN visualization is well utilized as a qualitative analysis method, which translates the internal features into visually perceptible patterns. And many CNN visualization works have been proposed in the literature to interpret the CNN in perspectives of network structure, operation, and semantic concept. In this paper, we expect to provide a comprehensive survey of several representative CNN visualization methods, including Activation Maximization, Network Inversion, Deconvolutional Neural Networks (DeconvNet), and Network Dissection based visualization. These methods are presented in terms of motivations, algorithms, and experiment results. Based on these visualization methods, we also discuss their practical applications to demonstrate the significance of the CNN interpretability in areas of network design, optimization, security enhancement, etc.


翻译:目前,革命神经网络在许多与计算机视觉有关的任务上取得了令人印象深刻的成绩,如物体探测、图像识别、图像检索等。这些成就得益于CNN在通过神经结构的深层和迭代培训过程学习输入特征的杰出能力。然而,这些学到的特征很难从人类的视觉角度辨别和解释,导致对CNN内部工作机制缺乏了解。为了改进CNN的可判读性,CNN视觉化作为一种定性分析方法得到充分利用,将内部特征转化为可见模式。在文献中提出了许多CNN视觉化工程,从网络结构、运行和语义概念的角度对CNN进行解释。在本文中,我们期望提供对有代表性的CNN视觉化方法的全面调查,包括活动最大化、网络转换、进化神经网络(DeconvNet)和基于网络分解的可视化。这些方法以动机、算法和实验结果的形式提出。根据这些可视化方法,我们还讨论其实际应用情况,以展示CNN在网络设计、改进安全性方面的意义。

10
下载
关闭预览

相关内容

Networking:IFIP International Conferences on Networking。 Explanation:国际网络会议。 Publisher:IFIP。 SIT: http://dblp.uni-trier.de/db/conf/networking/index.html
强化学习最新教程,17页pdf
专知会员服务
116+阅读 · 2019年10月11日
[综述]深度学习下的场景文本检测与识别
专知会员服务
63+阅读 · 2019年10月10日
AI可解释性文献列表
专知
38+阅读 · 2019年10月7日
Hierarchically Structured Meta-learning
CreateAMind
16+阅读 · 2019年5月22日
IEEE | DSC 2019诚邀稿件 (EI检索)
Call4Papers
10+阅读 · 2019年2月25日
Unsupervised Learning via Meta-Learning
CreateAMind
35+阅读 · 2019年1月3日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
10+阅读 · 2018年12月24日
ResNet, AlexNet, VGG, Inception:各种卷积网络架构的理解
全球人工智能
17+阅读 · 2017年12月17日
【推荐】ResNet, AlexNet, VGG, Inception:各种卷积网络架构的理解
机器学习研究会
18+阅读 · 2017年12月17日
计算机视觉近一年进展综述
机器学习研究会
8+阅读 · 2017年11月25日
可解释的CNN
CreateAMind
16+阅读 · 2017年10月5日
【推荐】图像分类必读开创性论文汇总
机器学习研究会
14+阅读 · 2017年8月15日
A Comprehensive Survey on Graph Neural Networks
Arxiv
19+阅读 · 2019年1月3日
Arxiv
46+阅读 · 2018年12月11日
Arxiv
15+阅读 · 2018年2月7日
VIP会员
相关资讯
AI可解释性文献列表
专知
38+阅读 · 2019年10月7日
Hierarchically Structured Meta-learning
CreateAMind
16+阅读 · 2019年5月22日
IEEE | DSC 2019诚邀稿件 (EI检索)
Call4Papers
10+阅读 · 2019年2月25日
Unsupervised Learning via Meta-Learning
CreateAMind
35+阅读 · 2019年1月3日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
10+阅读 · 2018年12月24日
ResNet, AlexNet, VGG, Inception:各种卷积网络架构的理解
全球人工智能
17+阅读 · 2017年12月17日
【推荐】ResNet, AlexNet, VGG, Inception:各种卷积网络架构的理解
机器学习研究会
18+阅读 · 2017年12月17日
计算机视觉近一年进展综述
机器学习研究会
8+阅读 · 2017年11月25日
可解释的CNN
CreateAMind
16+阅读 · 2017年10月5日
【推荐】图像分类必读开创性论文汇总
机器学习研究会
14+阅读 · 2017年8月15日
Top
微信扫码咨询专知VIP会员