会员服务
动量方法 (Polyak, 1964) 旨在加速学习，特别是处理高曲率、小但一致的梯度，或是带噪声的梯度。 动量算法积累了之前梯度指数级衰减的移动平均，并且继续沿该方向移动。
A discussion on numerical shock stability of unstructured finite volume method: Riemann solvers and limiters
Arxiv
0+阅读 · 11月28日
Lion Secretly Solves Constrained Optimization: As Lyapunov Predicts
Arxiv
0+阅读 · 11月28日
Large Catapults in Momentum Gradient Descent with Warmup: An Empirical Study
Arxiv
0+阅读 · 11月25日
Lion Secretly Solves Constrained Optimization: As Lyapunov Predicts
Arxiv
0+阅读 · 11月23日
Signal Processing Meets SGD: From Momentum to Filter
Arxiv
0+阅读 · 11月24日
Asymptotic-Preserving Neural Networks for Multiscale Kinetic Equations
Arxiv
0+阅读 · 11月24日
Acceleration and Implicit Regularization in Gaussian Phase Retrieval
Arxiv
0+阅读 · 11月21日
Signal Processing Meets SGD: From Momentum to Filter
Arxiv
0+阅读 · 11月17日
Scalable Sequential Optimization Under Observability Don't Cares
Arxiv
0+阅读 · 11月16日
On the convergence analysis of the greedy randomized Kaczmarz method
Arxiv
0+阅读 · 11月14日
SoK: Evaluations in Industrial Intrusion Detection Research
Arxiv
0+阅读 · 11月6日
Canonical momentum based numerical schemes for hybrid plasma models with kinetic ions and massless electrons
Arxiv
0+阅读 · 11月3日
NoxTrader: LSTM-Based Stock Return Momentum Prediction for Quantitative Trading
Arxiv
0+阅读 · 10月31日
On discrete ground states of rotating Bose-Einstein condensates
Arxiv
0+阅读 · 10月31日
Momentum Provably Improves Error Feedback!
Arxiv
0+阅读 · 10月30日
参考链接
父主题
机器学习
神经网络
子主题
Nesterov 动量
微信扫码咨询专知VIP会员
Top