学界 | MIT CSAIL最新研究：Network Dissection可全自动内窥神经网络活动过程

300 + 明星创业公司，3000 + 行业人士齐聚全球人工智能与机器人峰会 GAIR 2017，一 同见证 AI 浪潮之巅！峰会抢票火热进行中。

AI科技评论按：据外媒TechCrunch最新报道，MIT CSAIL（麻省理工学院计算机科学与人工智能实验室）发明了一种可以全自动内窥神经网络活动的系统Network Dissection。相关的论文会在今年的CVPR（计算机视觉与模式识别大会）发表，AI科技评论届时也会对大会进行全程报道，敬请关注。

MIT计算机科学与人工智能实验室之前发明过一种内窥神经网络，用来揭示它们是如何做决策的。该方法最近又有了新改进，相比研究团队两年前提出的方案，这次升级为全自动版本的系统，效果可以和之前人工观察得到的相媲美。

通过研究全自动内窥神经网络做决策的过程可以帮助人们理解为什么神经网络能表现和人工观察一样的效果。目前深度学习技术围绕“系统是如何做到他们想要的结果”还有很多问题，比如，对于网络利用连续信号处理层对目标分类，文本翻译，或其他的一些功能，几乎没有办法深入了解网络的每一层是如何进行实际决策的。

MIT利用了医学神经网络的原理，通过每一个单独的节点对给定的一个输入图像的力度反馈报告，将反馈力度大的图片挑选出来再进行分析。这项分析之前是工作人员来做的，他们根据图像中的特殊视觉概念来归类。但是现在这项工作已经自动化了，分类也是机器完成的。

这项研究正在提供一些神经网络是如何运作的有趣见解，例如展示了训练一个神经网络对黑白图片填充颜色的过程，会发现它会集中大部分节点在识别图像纹理上。训练神经网络对视频中的物体识别，它会把很多节点集中在场景识别上。训练神经网络对场景识别则正好相反，它将很多节点集中在物体的身份证明上。

文中最后表明：因为目前还不能完全理解人类是如何思考，如何分类和识别信息，神经网络只是基于假设的人类思考模型提出来的。 MIT CSAIL的这项研究最终也可能会揭示神经科学的一些问题。相关论文将会发表在今年的CVPR，应该会引起人工智能研究界的极大兴趣。

论文地址：http://netdissect.csail.mit.edu/final-network-dissection.pdf

via TechCrunch；AI 科技评论编译

大会将于下周7月7日至7月9日在深圳举行，目前仅剩少量余票，购票优惠也已经截至。有需要的朋友不要错过最后的机会。识别图中二维码或点击文末阅读原文

AI科技评论招人啦！

作为国内顶尖人工智能学术媒体，AI科技评论一直秉承“洞悉学术前沿，连结产业未来”的理念，为读者奉上来自国内外的深度报道。

AI科技评论期待你的加入，和我们一起见证未来！现诚招学术主编（外聘）、学术编辑、外翻编辑等岗位，详情请 点这里

欢迎投递简历到：guoyixin@leiphone.com，AI 科技评论等你哦！