会员服务
梯度下降法是一个最优化算法，通常也称为最速下降法。最速下降法是求解无约束优化问题最简单和最古老的方法之一，虽然现在已经不具有实用性，但是许多有效算法都是以它为基础进行改进和修正而得到的。最速下降法是用负梯度方向为搜索方向的，最速下降法越接近目标值，步长越小，前进越慢。可以用于求解非线性方程组
【博士论文】Stein变分梯度下降与基于共识的优化：趋向于收敛分析与泛化，195页pdf
【博士论文】Stein变分梯度下降与基于共识的优化：趋向于收敛分析与泛化，195页pdf
专知会员服务
18+阅读 · 6月2日
【NeurIPS2021】非凸从动件的基于梯度的双层优化
专知会员服务
12+阅读 · 2021年10月12日
【Google】梯度下降，48页ppt
【Google】梯度下降，48页ppt
专知会员服务
80+阅读 · 2020年12月5日
【Nature论文】深度网络中的梯度下降复杂度控制
【Nature论文】深度网络中的梯度下降复杂度控制
专知会员服务
38+阅读 · 2020年3月9日
【ICLR2020】深度神经网络优化轨迹的平衡点，The Break-Even Point on Optimization Trajectories of Deep Neural Networks
【ICLR2020】深度神经网络优化轨迹的平衡点，The Break-Even Point on Optimization Trajectories of Deep Neural Networks
专知会员服务
33+阅读 · 2020年2月27日
【独立研究者I-Sheng Yang论文】因果机器学习损失函数（A Loss-Function for Causal Machine-Learning）
【独立研究者I-Sheng Yang论文】因果机器学习损失函数（A Loss-Function for Causal Machine-Learning）
专知会员服务
19+阅读 · 2020年1月7日
【机器学习与深度学习基础性算法】Foundational ML and DL Algorithms
【机器学习与深度学习基础性算法】Foundational ML and DL Algorithms
专知会员服务
33+阅读 · 2019年12月27日
【论文推荐】深度学习中贝叶斯不确定性简单基线（A simple baseline for bayesian uncertainty in deep learning）
【论文推荐】深度学习中贝叶斯不确定性简单基线（A simple baseline for bayesian uncertainty in deep learning）
专知会员服务
45+阅读 · 2019年12月25日
【斯坦福大学】深度学习技巧速查清单《CS 230 - Deep Learning Tips and Tricks Cheatsheet》
【斯坦福大学】深度学习技巧速查清单《CS 230 - Deep Learning Tips and Tricks Cheatsheet》
专知会员服务
28+阅读 · 2019年12月19日
【NeurlPS2019论文总结】一致收敛可能无法解释深度学习中的泛化现象，Uniform convergence may be unable to explain generalization in deep learning
【NeurlPS2019论文总结】一致收敛可能无法解释深度学习中的泛化现象，Uniform convergence may be unable to explain generalization in deep learning
专知会员服务
14+阅读 · 2019年12月17日
【NeurIPS2019 论文】一致收敛可能无法解释深度学习中的泛化现象（Uniform convergence may be unable to explain generalization in deep learning）
【NeurIPS2019 论文】一致收敛可能无法解释深度学习中的泛化现象（Uniform convergence may be unable to explain generalization in deep learning）
专知会员服务
3+阅读 · 2019年12月10日
【ECML-PKDD 2019】微分和加权模型集成（Differentiation and Weighted Model Integration），Pedro Zuidberg Dos Martires
【ECML-PKDD 2019】微分和加权模型集成（Differentiation and Weighted Model Integration），Pedro Zuidberg Dos Martires
专知会员服务
2+阅读 · 2019年9月16日
【IPAM 】张量主元分析中的高维成本景观和梯度下降及其推广（High-dimensional cost landscape and gradient descent in Tensor PCA and its generalisations），附41页pdf
【IPAM 】张量主元分析中的高维成本景观和梯度下降及其推广（High-dimensional cost landscape and gradient descent in Tensor PCA and its generalisations），附41页pdf
专知会员服务
12+阅读 · 2019年11月22日
【AAAI 2019 Tutorial】想象科学:超越数据科学（Imagination Science: Beyond Data Science），Sridhar Mahadevan
【AAAI 2019 Tutorial】想象科学:超越数据科学（Imagination Science: Beyond Data Science），Sridhar Mahadevan
专知会员服务
9+阅读 · 2019年11月18日
【干货】深度学习的深度思考，49页pdf，Deep Thoughts on Deep Learning
【干货】深度学习的深度思考，49页pdf，Deep Thoughts on Deep Learning
专知会员服务
29+阅读 · 2019年11月14日
参考链接
父主题
机器学习
神经网络
子主题
学习速率
梯度下降优化
随机梯度下降法
微信扫码咨询专知VIP会员
Top