会员服务
反向传播一词严格来说仅指用于计算梯度的算法，而不是指如何使用梯度。但是该术语通常被宽松地指整个学习算法，包括如何使用梯度，例如通过随机梯度下降。反向传播将增量计算概括为增量规则中的增量规则，该规则是反向传播的单层版本，然后通过自动微分进行广义化，其中反向传播是反向累积（或“反向模式”）的特例。 在机器学习中，反向传播（backprop）是一种广泛用于训练前馈神经网络以进行监督学习的算法。对于其他人工神经网络（ANN）都存在反向传播的一般化–一类算法，通常称为“反向传播”。反向传播算法的工作原理是，通过链规则计算损失函数相对于每个权重的梯度，一次计算一层，从最后一层开始向后迭代，以避免链规则中中间项的冗余计算。
Self-Supervised Motion Magnification by Backpropagating Through Optical Flow
Arxiv
0+阅读 · 11月28日
As-Plausible-As-Possible: Plausibility-Aware Mesh Deformation Using 2D Diffusion Priors
Arxiv
0+阅读 · 11月28日
Training a Hopfield Variational Autoencoder with Equilibrium Propagation
Arxiv
0+阅读 · 11月25日
Evolutionary algorithms as an alternative to backpropagation for supervised training of Biophysical Neural Networks and Neural ODEs
Arxiv
0+阅读 · 11月21日
Online Arbitrary Shaped Clustering through Correlated Gaussian Functions
Arxiv
0+阅读 · 11月20日
Evolutionary algorithms as an alternative to backpropagation for supervised training of Biophysical Neural Networks and Neural ODEs
Arxiv
0+阅读 · 11月17日
Zenkai -- Framework For Exploring Beyond Backpropagation
Arxiv
0+阅读 · 11月16日
Limitations of neural network training due to numerical instability of backpropagation
Limitations of neural network training due to numerical instability of backpropagation
Arxiv
0+阅读 · 11月15日
Reducing the Need for Backpropagation and Discovering Better Optima With Explicit Optimizations of Neural Networks
Arxiv
0+阅读 · 11月13日
Boolean Variation and Boolean Logic BackPropagation
Arxiv
0+阅读 · 11月13日
Explicit Foundation Model Optimization with Self-Attentive Feed-Forward Neural Units
Arxiv
0+阅读 · 11月13日
Online learning of long-range dependencies
Arxiv
0+阅读 · 11月6日
Efficient Explainable Face Verification based on Similarity Score Argument Backpropagation
Arxiv
0+阅读 · 11月7日
Numerical influence of ReLU'(0) on backpropagation
Arxiv
0+阅读 · 11月3日
Assessing Fidelity in XAI post-hoc techniques: A Comparative Study with Ground Truth Explanations Datasets
Arxiv
0+阅读 · 11月3日
参考链接
父主题
机器学习
数据挖掘
神经网络
子主题
梯度消失与爆炸问题
微信扫码咨询专知VIP会员
Top