We study the optimization problem associated with fitting two-layer ReLU neural networks with respect to the squared loss, where labels are generated by a target network. We make use of the rich symmetry structure to develop a novel set of tools for studying families of spurious minima. In contrast to existing approaches which operate in limiting regimes, our technique directly addresses the nonconvex loss landscape for a finite number of inputs $d$ and neurons $k$, and provides analytic, rather than heuristic, information. In particular, we derive analytic estimates for the loss at different minima, and prove that modulo $O(d^{-1/2})$-terms the Hessian spectrum concentrates near small positive constants, with the exception of $\Theta(d)$ eigenvalues which grow linearly with~$d$. We further show that the Hessian spectrum at global and spurious minima coincide to $O(d^{-1/2})$-order, thus challenging our ability to argue about statistical generalization through local curvature. Lastly, our technique provides the exact \emph{fractional} dimensionality at which families of critical points turn from saddles into spurious minima. This makes possible the study of the creation and the annihilation of spurious minima using powerful tools from equivariant bifurcation theory.


翻译:我们研究与平方损失相关的两层ReLU神经网络安装两层ReLU神经网络的优化问题,其中标签由目标网络产生。我们利用丰富的对称结构开发一套新颖的工具,用于研究虚假迷你家庭。与在限制制度下运作的现有方法相比,我们的技术直接解决了数量有限的投入(美元)和神经元(美元)的非Convex损失场景,并提供了分析性而非超常信息。特别是,我们得出了不同迷你损失的分析性估计,并证明Hesian频谱的模型($O(d ⁇ -1/2})的期价是接近微正常数的。除了在限制制度下运行的现有方法外,我们的技术直接解决了数量有限的投入(美元)和神经元(美元)的损失场景色,我们还进一步表明,全球的Hesian频谱和迷你迷你迷你迷你迷你迷你迷你的迷你空间与$O(d ⁇ -1/2}秩序相吻合,从而挑战了我们通过地方曲线(e curval) ortial) 将统计概括化能力争论通过地方的底结构进行争论的能力。最后,我们的技术提供了可能的翻动的策略, 的造型的翻动。

0
下载
关闭预览

相关内容

专知会员服务
14+阅读 · 2021年5月21日
专知会员服务
44+阅读 · 2020年10月31日
专知会员服务
52+阅读 · 2020年9月7日
神经常微分方程教程,50页ppt,A brief tutorial on Neural ODEs
专知会员服务
71+阅读 · 2020年8月2日
Fariz Darari简明《博弈论Game Theory》介绍,35页ppt
专知会员服务
109+阅读 · 2020年5月15日
神经网络的拓扑结构,TOPOLOGY OF DEEP NEURAL NETWORKS
专知会员服务
31+阅读 · 2020年4月15日
专知会员服务
159+阅读 · 2020年1月16日
《科学》(20190426出版)一周论文导读
科学网
5+阅读 · 2019年4月27日
已删除
将门创投
6+阅读 · 2019年4月10日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
16+阅读 · 2018年12月24日
Arxiv
0+阅读 · 2021年12月13日
Arxiv
0+阅读 · 2021年12月13日
Arxiv
0+阅读 · 2021年12月9日
Arxiv
0+阅读 · 2021年12月7日
Geometric Graph Convolutional Neural Networks
Arxiv
10+阅读 · 2019年9月11日
VIP会员
相关VIP内容
专知会员服务
14+阅读 · 2021年5月21日
专知会员服务
44+阅读 · 2020年10月31日
专知会员服务
52+阅读 · 2020年9月7日
神经常微分方程教程,50页ppt,A brief tutorial on Neural ODEs
专知会员服务
71+阅读 · 2020年8月2日
Fariz Darari简明《博弈论Game Theory》介绍,35页ppt
专知会员服务
109+阅读 · 2020年5月15日
神经网络的拓扑结构,TOPOLOGY OF DEEP NEURAL NETWORKS
专知会员服务
31+阅读 · 2020年4月15日
专知会员服务
159+阅读 · 2020年1月16日
相关资讯
《科学》(20190426出版)一周论文导读
科学网
5+阅读 · 2019年4月27日
已删除
将门创投
6+阅读 · 2019年4月10日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
16+阅读 · 2018年12月24日
Top
微信扫码咨询专知VIP会员