项目名称: 脉冲神经网络的新结构与学习算法研究

项目编号: No.11201051

项目类型: 青年科学基金项目

立项/批准年度: 2013

项目学科: 数理科学和化学

项目作者: 杨洁

作者单位: 大连理工大学

项目金额: 22万元

中文摘要: 脉冲神经网络由于对生物神经系统的高度仿真性已经受到越来越多的关注,被称为第三代神经网络。本项目旨在研究新的脉冲神经网络结构和更好的学习算法。首先,针对我们最近提出的一种新的网络结构,研究如何将脉冲激发强度(即状态函数x(t)达到阈值时的导数)嵌入到脉冲网络的网络构造与运行机制中去,探索脉冲激发强度对突触后神经元信息处理能力的影响程度与影响方式,同时进一步探寻其它影响脉冲激发因素,使脉冲神经网络在不影响训练精度前提下减小网络规模,改善推广精度。其次,结合申请者主持的前一个国家自然科学基金的工作,研究脉冲神经网络的模糊化问题,提出几种基于s-t模的模糊脉冲神经网络结构,从而扩展脉冲神经网络的信息处理能力。另外,我们已经证明传统BP算法也完全适用于脉冲神经网络,希望以此为基础,对脉冲神经网络的BP算法及其它学习算法进行分析与比较,探讨适用于脉冲神经网络的更高效的学习算法。

中文关键词: 脉冲神经网络;BP算法;鲁棒性;L_1/2 正则化;

英文摘要: With the high simulation to biological neural systems, the spiking neural network has increasingly attracted attentions and is called the third generation neural network. However, it has a large computation and its accuracy is easily affected by the network's structure. These disadvantages are considered the brief bottlenecks of this network. The aim of this project is to improve the network and to accelerate learning through the studies of network constitution methods and learning algorithms. Firstly, the problem of embedding the spike stimulating strength (the gradient of the state function at the firing time) is studied. With this approach, we will explore the influence degree and pattern of the spike stimulating strength on the information processing ability of the postsynaptic neuron. Meanwhile, we will further seek other factors which effect the neuron stimulating to present improved network operation mechanism. Secondly, with the research results funded by the prior National Natural Science Foundation, we will study the fuzzification of spiking neural networks and present several network structures which are based on s-t norms to expand the information processing ability for spiking neural networks. In addition, as for learning algorithms, we have proved that the traditional BP algorithm is fully suitabl

英文关键词: Spiking neural network;BP algorithm;Robustness;L_1/2 regularization;

成为VIP会员查看完整内容
1

相关内容

类脑超大规模深度神经网络系统
专知会员服务
55+阅读 · 2022年1月21日
专知会员服务
61+阅读 · 2021年9月20日
专知会员服务
33+阅读 · 2021年9月18日
专知会员服务
44+阅读 · 2021年8月5日
专知会员服务
41+阅读 · 2021年6月2日
MIT《图神经网络的任务结构与泛化》,22页ppt
专知会员服务
23+阅读 · 2021年2月28日
【博士论文】解耦合的类脑计算系统栈设计
专知会员服务
30+阅读 · 2020年12月14日
【Nature通讯】深度神经网络模型中的个体差异
专知会员服务
13+阅读 · 2020年11月16日
专知会员服务
44+阅读 · 2020年9月3日
【论文】结构GANs,Structured GANs,
专知会员服务
14+阅读 · 2020年1月16日
脉冲神经网络(SNN)概述
人工智能前沿讲习班
60+阅读 · 2019年5月30日
脉冲神经网络与小样本学习【附PPT】
人工智能前沿讲习班
47+阅读 · 2019年2月1日
SNN,像你的大脑一样工作
中国科学院自动化研究所
80+阅读 · 2018年11月7日
【AAAI专题】论文分享:以生物可塑性为核心的类脑脉冲神经网络
中国科学院自动化研究所
15+阅读 · 2018年1月23日
脉冲神经网络,下一代机器学习?
专知
12+阅读 · 2018年1月13日
前沿 | 简述脉冲神经网络SNN:下一代神经网络
机器之心
36+阅读 · 2018年1月13日
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
3+阅读 · 2011年12月31日
国家自然科学基金
3+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2008年12月31日
Arxiv
0+阅读 · 2022年4月20日
Arxiv
17+阅读 · 2022年1月11日
Arxiv
15+阅读 · 2021年2月19日
小贴士
相关VIP内容
类脑超大规模深度神经网络系统
专知会员服务
55+阅读 · 2022年1月21日
专知会员服务
61+阅读 · 2021年9月20日
专知会员服务
33+阅读 · 2021年9月18日
专知会员服务
44+阅读 · 2021年8月5日
专知会员服务
41+阅读 · 2021年6月2日
MIT《图神经网络的任务结构与泛化》,22页ppt
专知会员服务
23+阅读 · 2021年2月28日
【博士论文】解耦合的类脑计算系统栈设计
专知会员服务
30+阅读 · 2020年12月14日
【Nature通讯】深度神经网络模型中的个体差异
专知会员服务
13+阅读 · 2020年11月16日
专知会员服务
44+阅读 · 2020年9月3日
【论文】结构GANs,Structured GANs,
专知会员服务
14+阅读 · 2020年1月16日
相关资讯
脉冲神经网络(SNN)概述
人工智能前沿讲习班
60+阅读 · 2019年5月30日
脉冲神经网络与小样本学习【附PPT】
人工智能前沿讲习班
47+阅读 · 2019年2月1日
SNN,像你的大脑一样工作
中国科学院自动化研究所
80+阅读 · 2018年11月7日
【AAAI专题】论文分享:以生物可塑性为核心的类脑脉冲神经网络
中国科学院自动化研究所
15+阅读 · 2018年1月23日
脉冲神经网络,下一代机器学习?
专知
12+阅读 · 2018年1月13日
前沿 | 简述脉冲神经网络SNN:下一代神经网络
机器之心
36+阅读 · 2018年1月13日
相关基金
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
3+阅读 · 2011年12月31日
国家自然科学基金
3+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2008年12月31日
微信扫码咨询专知VIP会员