会员服务
随机梯度下降，按照数据生成分布抽取m个样本，通过计算他们梯度的平均值来更新梯度。
Stochastic gradient descent estimation of generalized matrix factorization models with application to single-cell RNA sequencing data
Arxiv
0+阅读 · 2024年12月29日
Learning Operators with Stochastic Gradient Descent in General Hilbert Spaces
Arxiv
0+阅读 · 2024年12月29日
Communication-Efficient, 2D Parallel Stochastic Gradient Descent for Distributed-Memory Optimization
Arxiv
0+阅读 · 1月13日
Increasing Batch Size Improves Convergence of Stochastic Gradient Descent with Momentum
Arxiv
0+阅读 · 1月15日
A Mapper Algorithm with implicit intervals and its optimization
Arxiv
1+阅读 · 2024年12月16日
Coupling-based Convergence Diagnostic and Stepsize Scheme for Stochastic Gradient Descent
Arxiv
1+阅读 · 2024年12月15日
Learning of deep convolutional network image classifiers via stochastic gradient descent and over-parametrization
Arxiv
1+阅读 · 2024年12月13日
Semi-Discrete Optimal Transport: Nearly Minimax Estimation With Stochastic Gradient Descent and Adaptive Entropic Regularization
Arxiv
1+阅读 · 2024年12月9日
Stochastic Gradient Descent Revisited
Arxiv
0+阅读 · 2024年12月8日
Hanke-Raus heuristic rule for iteratively regularized stochastic gradient descent
Arxiv
0+阅读 · 2024年12月7日
Matching the Statistical Query Lower Bound for $k$-Sparse Parity Problems with Sign Stochastic Gradient Descent
Arxiv
0+阅读 · 2024年12月6日
Limit Theorems for Stochastic Gradient Descent with Infinite Variance
Arxiv
0+阅读 · 2024年12月5日
Hanke-Raus heuristic rule for iteratively regularized stochastic gradient descent
Arxiv
0+阅读 · 2024年12月3日
Derivatives of Stochastic Gradient Descent in parametric optimization
Arxiv
0+阅读 · 2024年11月20日
An Energy-Based Self-Adaptive Learning Rate for Stochastic Gradient Descent: Enhancing Unconstrained Optimization with VAV method
Arxiv
0+阅读 · 2024年11月10日
参考链接
父主题
深度学习
神经网络
微信扫码咨询专知VIP会员
Top