会员服务
在人工神经网络中，给定一个输入或一组输入，节点的激活函数定义该节点的输出。一个标准集成电路可以看作是一个由激活函数组成的数字网络，根据输入的不同，激活函数可以是开(1)或关(0)。这类似于神经网络中的线性感知器的行为。然而，只有非线性激活函数允许这样的网络只使用少量的节点来计算重要问题，并且这样的激活函数被称为非线性。
LayerAct: Advanced Activation Mechanism for Robust Inference of CNNs
Arxiv
0+阅读 · 12月20日
MetaSymNet: A Tree-like Symbol Network with Adaptive Architecture and Activation Functions
Arxiv
0+阅读 · 12月19日
Semi-Periodic Activation for Time Series Classification
Arxiv
0+阅读 · 12月13日
ProSparse: Introducing and Enhancing Intrinsic Activation Sparsity within Large Language Models
Arxiv
0+阅读 · 12月12日
Generalization Bounds and Model Complexity for Kolmogorov-Arnold Networks
Arxiv
0+阅读 · 12月4日
Deep Learning 2.0: Artificial Neurons That Matter -- Reject Correlation, Embrace Orthogonality
Deep Learning 2.0: Artificial Neurons That Matter -- Reject Correlation, Embrace Orthogonality
Arxiv
0+阅读 · 12月2日
Solution space and storage capacity of fully connected two-layer neural networks with generic activation functions
Arxiv
0+阅读 · 11月29日
KANs for Computer Vision: An Experimental Study
Arxiv
0+阅读 · 11月28日
KANs for Computer Vision: An Experimental Study
Arxiv
0+阅读 · 11月27日
Universal approximation with complex-valued deep narrow neural networks
Arxiv
0+阅读 · 11月26日
Learnable Activation Functions in Physics-Informed Neural Networks for Solving Partial Differential Equations
Arxiv
0+阅读 · 11月22日
Activation Functions for "A Feedforward Unitary Equivariant Neural Network"
Arxiv
0+阅读 · 11月17日
Deriving Activation Functions via Integration
Arxiv
0+阅读 · 11月21日
AmpliNetECG12: A lightweight SoftMax-based relativistic amplitude amplification architecture for 12 lead ECG classification
Arxiv
0+阅读 · 11月21日
Graph Neural Networks and Arithmetic Circuits
Arxiv
0+阅读 · 11月21日
参考链接
父主题
深度学习
神经网络
微信扫码咨询专知VIP会员
Top