黄铁军教授解析类脑机体系结构

2019 年 6 月 6 日 计算机研究与发展

类脑机的思想与体系结构综述


导  读


经典计算机的理论边界在1936年就由图灵确定了,冯·诺依曼体系结构计算机也受限于图灵机模型.囿于神经形态器件的缺失,神经网络模型一直在经典计算机上运行.然而,冯·诺依曼体系结构与神经网络的异步并行结构及通信机制并不匹配,表现之一是功耗巨大,发展面向神经网络的体系结构,对于人工智能乃至一般意义上的信息处理都是重要方向.

类脑机是仿照生物神经网络、采用神经形态器件构造的、以时空信息处理为特征的智能机器.类脑机的思想在计算机发明之前就提出了,研究开发实践也已经进行了30多年,多台类脑系统已经上线运行,其中SpiNNaker专注于类脑系统的体系结构研究,提出了一种行之有效的类脑方案.

未来20年左右,预计模式动物大脑和人脑的精细解析将逐步完成,模拟生物神经元和神经突触信息处理功能的神经形态器件及集成工艺将逐步成熟,结构逼近大脑、性能远超大脑的类脑机有望实现.类脑机像生物大脑一样都是脉冲神经网络,神经形态器件具有真正的随机性,因此类脑机具备丰富的非线性动力学行为.已证明任何图灵机均可由脉冲神经网络构造出来,类脑机在理论上是否能够超越图灵机,是需要突破的一个重大问题

1 类脑基本思想

 1.1 图灵机

 1.2 冯诺依曼体系结构

 1.3 人工神经网络

 1.4 生物神经网络

 1.5 类脑机

 1.6 大脑解析进展

2 类脑机研究进展

 2.1 斯坦福大学的 Neurogrid与 BrainStorm

 2.2 从软件仿真到IBM TrueNorth芯片

 2.3 欧洲的SpiNNaker和 BrainScaleS

 2.4 我国相关进展

脉冲神经网络体系结构SpiNNaker

 3.1 体系结构

 3.2 海量脉冲异步传输机制

 3.3 SpiNNaker软件系统

类脑机的信息处理潜力

 4.1 脉冲神经网络

 4.2 脉冲神经网络的能力不低于图灵机

 4.3 噪声可以提高脉冲神经网络的性能

5 总结与展望

黄铁军,余肇飞,刘怡俊. 类脑机的思想与体系结构综述[J]. 计算机研究与发展, 2019, 56(6): 1135-1148.
Huang Tiejun, Yu Zhaofei, Liu Yijun. Brain-like Machine: Thought and Architecture. Journal of Computer Research and Development, 2019, 56(6): 1135-1148.

点击“阅读全文”可至期刊主页全文下载。

登录查看更多
17

相关内容

黄铁军,北京大学信息科学技术学院教授、国家杰青、CAAI Fellow、北京大学计算机科学技术系系主任,数字媒体研究所所长,数字视频编解码技术国家工程实验室副主任,国家杰出青年科学基金获得者,教育部“长江学者”特聘教授。主要研究方向为视觉信息处理(图像识别与视频编码)和类脑计算,累计主持国家级科研项目十多项,发表(含合作)学术论文200多篇,作为主要起草人制定国家标准、ISO/IEC标准 和IEEE标准十数项,申请发明专利八十多项,两次荣获国家科学技术进步二等奖,四次荣获省部级一等奖,并获“中国科协求是杰出青年成果转化奖”和 IEEE计算机学会Computing Now Award。兼任国家数字音视频编解码技术标准工作组(AVS)秘书长(2002~)、中国电子学会理事(2006~)ISO/IEC运动图像专家组 (MPEG)中国代表团团长(2010~)等。
【学科交叉】抗生素发现的深度学习方法
专知会员服务
23+阅读 · 2020年2月23日
阿里巴巴达摩院发布「2020十大科技趋势」
专知会员服务
105+阅读 · 2020年1月2日
【BAAI|2019】类脑神经网络技术及其应用,鲁华祥(附pdf)
专知会员服务
29+阅读 · 2019年11月21日
浅谈群体智能——新一代AI的重要方向
中国科学院自动化研究所
38+阅读 · 2019年10月16日
面向人工智能的计算机体系结构
计算机研究与发展
14+阅读 · 2019年6月6日
脉冲神经网络(SNN)概述
人工智能前沿讲习班
60+阅读 · 2019年5月30日
Science 一周论文导读 | 2019年4月26日
科研圈
3+阅读 · 2019年5月5日
SNN,像你的大脑一样工作
中国科学院自动化研究所
79+阅读 · 2018年11月7日
CCCF专栏:黄铁军| 也谈强人工智能
中国计算机学会
5+阅读 · 2018年2月15日
【人工智能】重磅:中国人工智能40年发展简史
产业智能官
7+阅读 · 2017年11月12日
人工神经网络
平均机器
14+阅读 · 2017年7月17日
Arxiv
9+阅读 · 2020年2月15日
Optimization for deep learning: theory and algorithms
Arxiv
102+阅读 · 2019年12月19日
Logically-Constrained Reinforcement Learning
Arxiv
3+阅读 · 2018年12月6日
Arxiv
4+阅读 · 2018年9月11日
Neural Arithmetic Logic Units
Arxiv
5+阅读 · 2018年8月1日
VIP会员
相关资讯
浅谈群体智能——新一代AI的重要方向
中国科学院自动化研究所
38+阅读 · 2019年10月16日
面向人工智能的计算机体系结构
计算机研究与发展
14+阅读 · 2019年6月6日
脉冲神经网络(SNN)概述
人工智能前沿讲习班
60+阅读 · 2019年5月30日
Science 一周论文导读 | 2019年4月26日
科研圈
3+阅读 · 2019年5月5日
SNN,像你的大脑一样工作
中国科学院自动化研究所
79+阅读 · 2018年11月7日
CCCF专栏:黄铁军| 也谈强人工智能
中国计算机学会
5+阅读 · 2018年2月15日
【人工智能】重磅:中国人工智能40年发展简史
产业智能官
7+阅读 · 2017年11月12日
人工神经网络
平均机器
14+阅读 · 2017年7月17日
相关论文
Top
微信扫码咨询专知VIP会员