深度神经网络(DNNs)擅长于视觉识别任务,并日益被用作灵长类动物大脑神经计算的建模框架。就像单个大脑一样,每个DNN都有独特的连通性和表征特征。在这里,我们研究DNN实例之间的个体差异,产生只改变网络权值的随机初始化。使用通常用于系统神经科学的工具,我们表明,尽管相似的网络级别分类性能,但在训练前的初始条件的最小变化会导致中级和高级网络表征的实质性差异。我们定位效果的来源,在一个约束不足的类别样本对齐,而不是错位的类别中心点。这些结果对使用单个网络来获得神经信息处理洞察力的普遍做法提出了质疑,同时也暗示了从事DNNs研究的计算神经科学家可能需要将他们的推论建立在多个网络实例组的基础上。

成为VIP会员查看完整内容
13

相关内容

【Cell 2020】神经网络中的持续学习
专知会员服务
59+阅读 · 2020年11月7日
专知会员服务
112+阅读 · 2020年8月22日
基于多头注意力胶囊网络的文本分类模型
专知会员服务
76+阅读 · 2020年5月24日
基于深度神经网络的少样本学习综述
专知会员服务
166+阅读 · 2020年4月22日
【Nature论文】深度网络中的梯度下降复杂度控制
专知会员服务
38+阅读 · 2020年3月9日
Nature 一周论文导读 | 2019 年 8 月 8 日
科研圈
6+阅读 · 2019年8月18日
Nature 一周论文导读 | 2019 年 6 月 27 日
科研圈
8+阅读 · 2019年7月7日
Nature 一周论文导读 | 2019 年 4 月 4 日
科研圈
7+阅读 · 2019年4月14日
Nature 一周论文导读 | 2019 年 2 月 21 日
科研圈
14+阅读 · 2019年3月3日
Nature 一周论文导读 | 2018 年 5 月 24 日
科研圈
11+阅读 · 2018年5月27日
【学界】从可视化到新模型:纵览深度学习的视觉可解释性
GAN生成式对抗网络
10+阅读 · 2018年3月4日
【AAAI专题】论文分享:以生物可塑性为核心的类脑脉冲神经网络
中国科学院自动化研究所
15+阅读 · 2018年1月23日
一文帮你理解什么是深层置信网络(DBN)
【文章】深度神经网络中的对抗样本与学习7篇文章
GAN生成式对抗网络
6+阅读 · 2017年9月8日
Arxiv
0+阅读 · 2020年12月14日
Explanation from Specification
Arxiv
0+阅读 · 2020年12月13日
Phase-aware Speech Enhancement with Deep Complex U-Net
VIP会员
相关VIP内容
【Cell 2020】神经网络中的持续学习
专知会员服务
59+阅读 · 2020年11月7日
专知会员服务
112+阅读 · 2020年8月22日
基于多头注意力胶囊网络的文本分类模型
专知会员服务
76+阅读 · 2020年5月24日
基于深度神经网络的少样本学习综述
专知会员服务
166+阅读 · 2020年4月22日
【Nature论文】深度网络中的梯度下降复杂度控制
专知会员服务
38+阅读 · 2020年3月9日
相关资讯
Nature 一周论文导读 | 2019 年 8 月 8 日
科研圈
6+阅读 · 2019年8月18日
Nature 一周论文导读 | 2019 年 6 月 27 日
科研圈
8+阅读 · 2019年7月7日
Nature 一周论文导读 | 2019 年 4 月 4 日
科研圈
7+阅读 · 2019年4月14日
Nature 一周论文导读 | 2019 年 2 月 21 日
科研圈
14+阅读 · 2019年3月3日
Nature 一周论文导读 | 2018 年 5 月 24 日
科研圈
11+阅读 · 2018年5月27日
【学界】从可视化到新模型:纵览深度学习的视觉可解释性
GAN生成式对抗网络
10+阅读 · 2018年3月4日
【AAAI专题】论文分享:以生物可塑性为核心的类脑脉冲神经网络
中国科学院自动化研究所
15+阅读 · 2018年1月23日
一文帮你理解什么是深层置信网络(DBN)
【文章】深度神经网络中的对抗样本与学习7篇文章
GAN生成式对抗网络
6+阅读 · 2017年9月8日
微信扫码咨询专知VIP会员