神经网络一键可视化!这个AI神器可以放大网络中的任何一层,显示特征图!

2022 年 1 月 24 日 CVer

点击下方卡片,关注“CVer”公众号

AI/CV重磅干货,第一时间送达

行早 发自 凹非寺
来源:量子位(QbitAI)

神经网络在工作的时候,里面到底是什么样?

为了能透视这个“AI黑箱”中的过程,加拿大蒙特利尔一家公司开发一个3D可视化工具Zetane Engine。

只需要上传一个模型,Zetane Engine就可以巡视整个神经网络,并且还可以放大网络中的任何一层,显示特征图,看清流水线上的每一步:

图注:卷积层的特征图(左)和特征图的3D可视化(右)

目前Zetane Engine不同系统的版本都可以在GitHub中找到(安装包见文末链接),话不多说,来看看Zetane Engine具体的用法吧~

可视化AI工作流程

首先,我们需要上传一个模型,例如一个识别手写数字的神经网络,输入的图片是一个手写的“2”:

上传之后,Zetane Engine就绘制出了一条“流水线”,每一层神经网络就像一个个工作间:

从输入到卷积,再到连接、激活、池化:

这些个小工作间的进展也是透明的,不信我们聚焦到一个卷积层工作间,点这个图片形状的按钮:

然后这个卷积层的所有特征图都会在上面显示出来,卷积数值的不同体现为颜色的不同,蓝紫色代表数值较小,红黄色代表数值较大:

只有这些还不够,高能现在才刚开始,注意图片按钮右边九个点形状的按钮了吗?

点击它,Zetane Engine会在界面右边展示出一个工具栏,把刚才显示在卷积层上面的图片呈现出各种各样的形式~

其中有排列成三维立体的、标注卷积结果数值的,以及纯数值的应有尽有:

二维视角
三维视角
标注卷积结果的平面图
纯卷积结果的数值平面图

这样的“工作报告”,谁看了不喜欢?不仅能够可视化地看到卷积过程,还可以调出每一个像素点上的卷积结果。

这还没完,这种多角度的图像处理在连接层、激活层、池化层等工作间也同样适用:

图注:激活层特征图

图注:池化层特征图

一整个看下来,神经网络的工作流程都清清楚楚:

到了最后的全连接输出层,模型会输出一个十列的一维向量(下图右边),用来判断手写数字是0-9的哪一个。

在这个例子中,模型给出了可能性最高的就是数字2。

怎么样?有了这样可视化的工具,是不是感觉AI模型不再是一个黑箱了?

Zetane Engine用法速览

Zetane Engine不同系统的版本(Windows、Linux、Mac)都可以在GitHub中找到。

这里我们简单介绍一下Zetane Engine的界面和启动台,方便大家快速熟悉。

打开之后界面是比较简洁的,只有左上角和右上角有一些按钮。我们先看左上角。

上传模型的按钮在启动台左上角Z字标志这里,Zetane Engine支持ONNX、Keras(.h5)以及ZTN三种模型文件。

Z字按钮旁边两个按钮依次是启动模型和清除模型:

如果手头上还没有模型也没关系,点击界面右上角的Z形图标可以到Zetane Engine的模型库中下载模型:

图注:Zetane Engine的模型库

另外在启动台SNAPSHOTS按钮这里也有一些经典模型可以选择:

感兴趣的同学可以从文末链接中找到Zetane Engine的下载包,来试试吧~

参考链接:

[1]https://github.com/Zetane/viewer
[2]https://www.youtube.com/watch?v=J3Zd5GR_lQs

上述神器下载


后台回复:View,即可下载该工具


ICCV和CVPR 2021论文和代码下载


后台回复:CVPR2021,即可下载CVPR 2021论文和代码开源的论文合集

后台回复:ICCV2021,即可下载ICCV 2021论文和代码开源的论文合集

后台回复:Transformer综述,即可下载最新的3篇Transformer综述PDF


CVer-Transformer交流群成立


扫码添加CVer助手,可申请加入CVer-Transformer 微信交流群,方向已涵盖:目标检测、图像分割、目标跟踪、人脸检测&识别、OCR、姿态估计、超分辨率、SLAM、医疗影像、Re-ID、GAN、NAS、深度估计、自动驾驶、强化学习、车道线检测、模型剪枝&压缩、去噪、去雾、去雨、风格迁移、遥感图像、行为识别、视频理解、图像融合、图像检索、论文投稿&交流、PyTorch和TensorFlow等群。


一定要备注:研究方向+地点+学校/公司+昵称(如Transformer+上海+上交+卡卡),根据格式备注,可更快被通过且邀请进群


▲长按加小助手微信,进交流群

▲点击上方卡片,关注CVer公众号

整理不易,请点赞和在看
登录查看更多
0

相关内容

自编码器26页综述论文:概念、图解和应用
专知会员服务
27+阅读 · 2022年3月5日
如何用latext画神经网络?这个PlotNeuralNet能帮到你
专知会员服务
25+阅读 · 2022年1月15日
专知会员服务
20+阅读 · 2021年6月18日
专知会员服务
27+阅读 · 2021年6月2日
【XAUTOML】可解释自动机器学习,27页ppt
专知会员服务
62+阅读 · 2021年4月23日
三行代码可视化神经网络特征图
极市平台
1+阅读 · 2022年1月4日
一文搞懂反向传播
机器学习与推荐算法
18+阅读 · 2020年3月12日
你跳宅舞的样子很专业:不,这都是AI合成的结果
什么是深度学习的卷积?
论智
18+阅读 · 2018年8月14日
深度学习(可视化部分)-使用keras识别猫咪
北京思腾合力科技有限公司
10+阅读 · 2017年11月30日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
3+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
1+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Arxiv
0+阅读 · 2022年4月18日
2D Human Pose Estimation: A Survey
Arxiv
0+阅读 · 2022年4月15日
Arxiv
0+阅读 · 2022年4月14日
Arxiv
14+阅读 · 2020年9月1日
Domain Representation for Knowledge Graph Embedding
Arxiv
14+阅读 · 2019年9月11日
Arxiv
10+阅读 · 2018年4月19日
VIP会员
相关VIP内容
自编码器26页综述论文:概念、图解和应用
专知会员服务
27+阅读 · 2022年3月5日
如何用latext画神经网络?这个PlotNeuralNet能帮到你
专知会员服务
25+阅读 · 2022年1月15日
专知会员服务
20+阅读 · 2021年6月18日
专知会员服务
27+阅读 · 2021年6月2日
【XAUTOML】可解释自动机器学习,27页ppt
专知会员服务
62+阅读 · 2021年4月23日
相关资讯
三行代码可视化神经网络特征图
极市平台
1+阅读 · 2022年1月4日
一文搞懂反向传播
机器学习与推荐算法
18+阅读 · 2020年3月12日
你跳宅舞的样子很专业:不,这都是AI合成的结果
什么是深度学习的卷积?
论智
18+阅读 · 2018年8月14日
深度学习(可视化部分)-使用keras识别猫咪
北京思腾合力科技有限公司
10+阅读 · 2017年11月30日
相关基金
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
3+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
1+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Top
微信扫码咨询专知VIP会员