会员服务
动量方法 (Polyak, 1964) 旨在加速学习，特别是处理高曲率、小但一致的梯度，或是带噪声的梯度。 动量算法积累了之前梯度指数级衰减的移动平均，并且继续沿该方向移动。
暂无数据
参考链接
父主题
机器学习
神经网络
子主题
Nesterov 动量
微信扫码咨询专知VIP会员
Top