成为VIP会员查看完整内容
VIP会员码认证
首页
主题
发现
会员
服务
注册
·
登录
动量
关注
56
动量方法 (Polyak, 1964) 旨在加速学习,特别是处理高曲率、小但一致的梯度,或是带噪声的梯度。 动量算法积累了之前梯度指数级衰减的移动平均,并且继续沿该方向移动。
综合
百科
VIP
热门
动态
论文
精华
A discussion on numerical shock stability of unstructured finite volume method: Riemann solvers and limiters
Arxiv
0+阅读 · 11月28日
Lion Secretly Solves Constrained Optimization: As Lyapunov Predicts
Arxiv
0+阅读 · 11月28日
Large Catapults in Momentum Gradient Descent with Warmup: An Empirical Study
Arxiv
0+阅读 · 11月25日
Lion Secretly Solves Constrained Optimization: As Lyapunov Predicts
Arxiv
0+阅读 · 11月23日
Signal Processing Meets SGD: From Momentum to Filter
Arxiv
0+阅读 · 11月24日
Asymptotic-Preserving Neural Networks for Multiscale Kinetic Equations
Arxiv
0+阅读 · 11月24日
Acceleration and Implicit Regularization in Gaussian Phase Retrieval
Arxiv
0+阅读 · 11月21日
Signal Processing Meets SGD: From Momentum to Filter
Arxiv
0+阅读 · 11月17日
Scalable Sequential Optimization Under Observability Don't Cares
Arxiv
0+阅读 · 11月16日
On the convergence analysis of the greedy randomized Kaczmarz method
Arxiv
0+阅读 · 11月14日
SoK: Evaluations in Industrial Intrusion Detection Research
Arxiv
0+阅读 · 11月6日
Canonical momentum based numerical schemes for hybrid plasma models with kinetic ions and massless electrons
Arxiv
0+阅读 · 11月3日
NoxTrader: LSTM-Based Stock Return Momentum Prediction for Quantitative Trading
Arxiv
0+阅读 · 10月31日
On discrete ground states of rotating Bose-Einstein condensates
Arxiv
0+阅读 · 10月31日
Momentum Provably Improves Error Feedback!
Arxiv
0+阅读 · 10月30日
参考链接
父主题
机器学习
神经网络
子主题
Nesterov 动量
提示
微信扫码
咨询专知VIP会员与技术项目合作
(加微信请备注: "专知")
微信扫码咨询专知VIP会员
Top