成为VIP会员查看完整内容
VIP会员码认证
首页
主题
发现
会员
服务
注册
·
登录
动量
关注
57
动量方法 (Polyak, 1964) 旨在加速学习,特别是处理高曲率、小但一致的梯度,或是带噪声的梯度。 动量算法积累了之前梯度指数级衰减的移动平均,并且继续沿该方向移动。
综合
百科
VIP
热门
动态
论文
精华
Amplifying Main Memory-Based Timing Covert and Side Channels using Processing-in-Memory Operations
Arxiv
0+阅读 · 10月10日
Variance-reduced first-order methods for deterministically constrained stochastic nonconvex optimization with strong convergence guarantees
Arxiv
0+阅读 · 10月10日
Neural network solvers for parametrized elasticity problems that conserve linear and angular momentum
Arxiv
0+阅读 · 10月9日
Class of codes correcting absorptions and emissions
Arxiv
0+阅读 · 10月4日
A 9T4R RRAM-Based ACAM for Analogue Template Matching at the Edge
Arxiv
0+阅读 · 10月4日
GIST: Gibbs self-tuning for locally adaptive Hamiltonian Monte Carlo
Arxiv
0+阅读 · 10月3日
The AdEMAMix Optimizer: Better, Faster, Older
Arxiv
0+阅读 · 9月27日
Riemannian conjugate Sobolev gradients and their application to compute ground states of BECs
Arxiv
0+阅读 · 9月25日
Acceleration Methods
Arxiv
0+阅读 · 9月24日
High-order finite element methods for three-dimensional multicomponent convection-diffusion
Arxiv
0+阅读 · 8月30日
Gradient-Free Method for Heavily Constrained Nonconvex Optimization
Arxiv
0+阅读 · 8月31日
Byzantine-Robust and Communication-Efficient Distributed Learning via Compressed Momentum Filtering
Arxiv
0+阅读 · 9月13日
A fully conservative and shift-invariant formulation for Galerkin discretizations of incompressible variable density flow
Arxiv
0+阅读 · 9月2日
TCDformer-based Momentum Transfer Model for Long-term Sports Prediction
Arxiv
0+阅读 · 9月16日
Momentum Dynamics in Competitive Sports: A Multi-Model Analysis Using TOPSIS and Logistic Regression
Arxiv
0+阅读 · 9月4日
参考链接
父主题
机器学习
神经网络
子主题
Nesterov 动量
提示
微信扫码
咨询专知VIP会员与技术项目合作
(加微信请备注: "专知")
微信扫码咨询专知VIP会员
Top