动量方法 (Polyak, 1964) 旨在加速学习,特别是处理高曲率、小但一致的梯度,或是带噪声的梯度。 动量算法积累了之前梯度指数级衰减的移动平均,并且继续沿该方向移动。
抽丝剥茧是为真 一片匠心落子辰 | Ising专栏
知社学术圈
0+阅读 · 2017年10月22日
18张癌症人体地图,揭秘致癌真相
私募工场
0+阅读 · 2019年9月9日
关于不确定性原理,海森堡错了吗?
中国物理学会期刊网
1+阅读 · 2019年6月18日
十大不可思议的自然奇观,绝大多数人恐怕一个都没见过!
中国物理学会期刊网
0+阅读 · 2017年11月20日
基本粒子物理学未来展望
中科院高能所
0+阅读 · 2019年3月15日
如何吃成一个大胖子?
中科院之声
0+阅读 · 2018年8月12日
中子散射——探索微观世界的奥妙
中科院之声
0+阅读 · 2018年1月11日
不追女孩,去追风?全因我不羁爱自由
果壳网
0+阅读 · 2017年9月25日
从北京谱仪到未来CEPC上的高能实验
中国物理学会期刊网
0+阅读 · 2019年9月20日
17张令人震撼的物理动图,世界好奇妙!
科学出版社
0+阅读 · 2017年11月3日
关于先知创新大会的那些"为什么"?
阿里云安全
0+阅读 · 2017年11月22日
参考链接
微信扫码咨询专知VIP会员