会员服务
反向传播一词严格来说仅指用于计算梯度的算法，而不是指如何使用梯度。但是该术语通常被宽松地指整个学习算法，包括如何使用梯度，例如通过随机梯度下降。反向传播将增量计算概括为增量规则中的增量规则，该规则是反向传播的单层版本，然后通过自动微分进行广义化，其中反向传播是反向累积（或“反向模式”）的特例。 在机器学习中，反向传播（backprop）是一种广泛用于训练前馈神经网络以进行监督学习的算法。对于其他人工神经网络（ANN）都存在反向传播的一般化–一类算法，通常称为“反向传播”。反向传播算法的工作原理是，通过链规则计算损失函数相对于每个权重的梯度，一次计算一层，从最后一层开始向后迭代，以避免链规则中中间项的冗余计算。
$μ$PC: Scaling Predictive Coding to 100+ Layer Networks
Arxiv
0+阅读 · 11月28日
AdLift: Lifting Adversarial Perturbations to Safeguard 3D Gaussian Splatting Assets Against Instruction-Driven Editing
Arxiv
0+阅读 · 12月8日
Linear Gradient Prediction with Control Variates
Arxiv
0+阅读 · 11月7日
On-Device Fine-Tuning via Backprop-Free Zeroth-Order Optimization
Arxiv
0+阅读 · 11月14日
Collapsing Taylor Mode Automatic Differentiation
Arxiv
0+阅读 · 11月24日
A Basic Evaluation of Neural Networks Trained with the Error Diffusion Learning Algorithm
Arxiv
0+阅读 · 11月3日
Towards Predicting Any Human Trajectory In Context
Arxiv
0+阅读 · 11月4日
Towards Predicting Any Human Trajectory In Context
Arxiv
0+阅读 · 10月30日
Adversarial Disentanglement by Backpropagation with Physics-Informed Variational Autoencoder
Arxiv
0+阅读 · 10月16日
Optimal Control Theoretic Neural Optimizer: From Backpropagation to Dynamic Programming
Arxiv
0+阅读 · 10月15日
Forward-Forward Autoencoder Architectures for Energy-Efficient Wireless Communications
Arxiv
0+阅读 · 10月13日
Scaling Equilibrium Propagation to Deeper Neural Network Architectures
Arxiv
0+阅读 · 10月13日
Intelligent backpropagated neural networks application on Couette-Poiseuille flow of variable viscosity in a composite porous channel filled with an anisotropic porous layer
Arxiv
0+阅读 · 10月9日
Expressive Value Learning for Scalable Offline Reinforcement Learning
Arxiv
0+阅读 · 10月9日
RTGS: Real-Time 3D Gaussian Splatting SLAM via Multi-Level Redundancy Reduction
RTGS: Real-Time 3D Gaussian Splatting SLAM via Multi-Level Redundancy Reduction
Arxiv
0+阅读 · 10月9日
参考链接
微信扫码咨询专知VIP会员
Top