会员服务
在人工神经网络中，给定一个输入或一组输入，节点的激活函数定义该节点的输出。一个标准集成电路可以看作是一个由激活函数组成的数字网络，根据输入的不同，激活函数可以是开(1)或关(0)。这类似于神经网络中的线性感知器的行为。然而，只有非线性激活函数允许这样的网络只使用少量的节点来计算重要问题，并且这样的激活函数被称为非线性。
激活的三十年:神经网络400个激活函数的全面综述
激活的三十年:神经网络400个激活函数的全面综述
专知会员服务
68+阅读 · 2月18日
深度学习激活函数全面综述论文
深度学习激活函数全面综述论文
专知会员服务
70+阅读 · 2021年10月1日
【论文推荐】 Bidirectional Self-Normalizing Neural Networks：双向自归一化神经网络
【论文推荐】 Bidirectional Self-Normalizing Neural Networks：双向自归一化神经网络
专知会员服务
16+阅读 · 2020年6月22日
花书《深度学习》笔记，深度学习规则，帮你抓住精髓！(附下载)
花书《深度学习》笔记，深度学习规则，帮你抓住精髓！(附下载)
专知会员服务
61+阅读 · 2019年12月25日
Diganta Misra等人提出新激活函数Mish，在一些任务上超越RuLU
Diganta Misra等人提出新激活函数Mish，在一些任务上超越RuLU
专知会员服务
14+阅读 · 2019年10月15日
参考链接
父主题
深度学习
神经网络
微信扫码咨询专知VIP会员
Top