脉冲神经网络(Spiking Neural Network, SNN)包含具有时序动力学特性的神经元节点、稳态-可塑性平衡的突触 结构、功能特异性的网络环路等,高度借鉴了生物启发的局部非监督(如脉冲时序依赖可塑性、短时突触可塑性、局部稳 态调节等)、全局弱监督(如多巴胺奖赏学习、基于能量的函数优化等)的生物优化方法,因此具有强大的时空信息表征、 异步事件信息处理、网络自组织学习等能力。SNN 的研究属于交叉学科,将深入融合脑科学和计算机科学,因此对其研究 也可以主要分为两大类:一类是以更好的理解生物系统为最终目的;另一类是以追求卓越计算性能为优化目标。本文首先 对当前这两大类 SNN 的研究进展、研究特点等进行分析,重点介绍基于 Spike 的多类异步信息编码、基于 Motif 分布的多 亚型复杂网络结构、多层时钟网络自组织计算、神经形态计算芯片的软硬结合等。同时,介绍一种融合生物多尺度、多类 型神经可塑性的高效 SNN 优化策略,使得 SNN 中的信度分配可以从宏观尺度有效覆盖到微观尺度,如全部的网络输出、 网络隐层状态、局部的各个神经节点等,并部分解答生物系统是如何通过局部参数的调优而实现全局网络优化的问题。这 将不仅为现有人工智能模型提高其认知能力指明一种可能的生物类优化方向,还为反向促进生命科学中生物神经网络的可 塑性研究新发现提供启发。本文认为,脉冲神经网络的发展目标不是构建人工神经网络的生物版本替代品,而是通过突破 生物启发的多尺度可塑性优化理论,去粗取精,最终实现具有生物认知计算特色的新一代高效脉冲神经网络模型,使其有 望获得更快的学习速度、更小的能量消耗、更强的适应性和更好的可解释性等。
http://cjc.ict.ac.cn/online/onlinepaper/ztl-2021912113619.pdf