视频 | 2分钟论文:用谷歌「AI可解释性」看懂机器学习

2018 年 3 月 18 日 AI科技评论 雷锋字幕组

AI 科技评论按:这里是,雷锋字幕组编译的 Two minutes paper 专栏,每周带大家用碎片时间阅览前沿技术,了解AI领域的最新研究成果。

原标题:Building Blocks of AI Interpretability - Two Minute Papers #234

翻译 | 陈晓璇    字幕 | 凡江    整理 | 吴璇  逯玉婧


谁再说神经网络是黑盒,甩出这篇文章,给 TA 翻个白眼。

上周,谷歌 Jeff Dean 在推特上转发了一句话「还认为神经网络是黑盒吗?要不再想想 :)

还配上了《纽约时报》一篇名为《谷歌研究人正在搞懂机器学习》的文章。

点进这篇文章发现,Jeff Dean 意指论文《The Building Blocks of Interpretability》(译名:可解释性的基石)在神经网络可视化方面的新进展。

研究由谷歌大脑研究员 Chris Olah 带队完成,创建了一套神经网络可视化方法。

左图:可以被神经网络识别,比如说,告诉我们图片里有没有花瓶或柠檬。右图:神经网络中间层的可视化呈现,能够检测到图片中的每个点。看起来,神经网络正在检测,像花瓶的模型以及像柠檬的物体。

论文将独立的神经元、分类归属与可视化结合,从而提供一种理解神经元的方法。

我们通过观察「神经元可以被哪些图像激活神经元在找哪些图像神经元判定这个图像属于哪一类,可以判断出神经元的最终决策及贡献值

这个过程减少了神经元的总数,并且将神经元分解成一些小的语义组,得出有意义的解释方法。在论文中被称作因式分解或者神经元分组。通过做这项工作,我们可以得到高度描述性的标签,赋予它们直观的含义。

现在我们把一张图片放到拉布拉多组,神经网络开始观察拉布拉多的耳朵、额头、嘴巴还有毛发的组合。过程可以由一个活动地图来展示,通过观察,我们可以轻松看到神经元群组兴奋点。

我们这里仅仅概括了论文的表面含义,论文中还有许多其他的成果和互动的案例供大家赏析。

论文原址:

https://distill.pub/2018/building-blocks/

更多文章,关注 AI 科技评论。添加雷锋字幕组微信号(leiphonefansub)为好友,备注「我要加入」,To be an  AI  Volunteer !

对了,我们招人了,了解一下?

这里有个限时拼团---机器学习之数学基础课程

3 大模块,30 个课时,高校数学系教授带班,100%学员好评。

与 100+同学一起夯实数学基础,走稳机器学习入门第一步!

限时拼团中,点击阅读原文或扫码了解详情~

┏(^0^)┛欢迎分享,明天见!

登录查看更多
4

相关内容

广义上的可解释性指在我们需要了解或解决一件事情的时候,我们可以获得我们所需要的足够的可以理解的信息,也就是说一个人能够持续预测模型结果的程度。按照可解释性方法进行的过程进行划分的话,大概可以划分为三个大类: 在建模之前的可解释性方法,建立本身具备可解释性的模型,在建模之后使用可解释性方法对模型作出解释。
【哈佛大学】机器学习的黑盒解释性,52页ppt
专知会员服务
168+阅读 · 2020年5月27日
少标签数据学习,54页ppt
专知会员服务
196+阅读 · 2020年5月22日
【哈佛《CS50 Python人工智能入门》课程 (2020)】
专知会员服务
111+阅读 · 2020年4月12日
专知会员服务
109+阅读 · 2020年3月12日
《可解释的机器学习-interpretable-ml》238页pdf
专知会员服务
202+阅读 · 2020年2月24日
【机器学习课程】Google机器学习速成课程
专知会员服务
164+阅读 · 2019年12月2日
【哈佛大学商学院课程Fall 2019】机器学习可解释性
专知会员服务
103+阅读 · 2019年10月9日
AI可解释性文献列表
专知
42+阅读 · 2019年10月7日
发布论文“可解释性的基石”
机器学习研究会
4+阅读 · 2018年3月23日
神经网络可解释性最新进展
专知
18+阅读 · 2018年3月10日
谷歌机器学习速成课学前预备书单
图灵教育
4+阅读 · 2018年3月2日
视频 | 介绍卷积神经网络和图像识别(上)
AI科技评论
3+阅读 · 2018年2月27日
Arxiv
12+阅读 · 2019年2月28日
Arxiv
15+阅读 · 2018年4月5日
Arxiv
22+阅读 · 2018年2月14日
Arxiv
4+阅读 · 2017年11月14日
VIP会员
相关VIP内容
【哈佛大学】机器学习的黑盒解释性,52页ppt
专知会员服务
168+阅读 · 2020年5月27日
少标签数据学习,54页ppt
专知会员服务
196+阅读 · 2020年5月22日
【哈佛《CS50 Python人工智能入门》课程 (2020)】
专知会员服务
111+阅读 · 2020年4月12日
专知会员服务
109+阅读 · 2020年3月12日
《可解释的机器学习-interpretable-ml》238页pdf
专知会员服务
202+阅读 · 2020年2月24日
【机器学习课程】Google机器学习速成课程
专知会员服务
164+阅读 · 2019年12月2日
【哈佛大学商学院课程Fall 2019】机器学习可解释性
专知会员服务
103+阅读 · 2019年10月9日
Top
微信扫码咨询专知VIP会员