神经形态计算的新方法:人造神经元计算速度超过人脑

2018 年 2 月 7 日 深度学习世界




来源:科学网


【新智元导读】一种以神经元为模型的超导计算芯片,能比人脑更高效快速地加工处理信息。近日刊登于《科学进展》的新成果,或许将成为科学家们开发先进计算设备来设计模仿生物系统的一项主要基准。尽管在其商用之前还存在许多障碍,但这项研究为更多自然机器学习软件打开了一扇大门。


当下,人工智能软件越来越多地开始模仿人类大脑。而诸如谷歌公司的自动图像分类和语言学习程序等算法也能够利用人工神经元网络执行复杂的任务。但因为常规的计算机软件不能被设计运行类似大脑的算法,因此相比人类大脑而言,这些机器学习就需要更高的运算能力。


“肯定会有更好的方法来做这些,因为大自然都能够找到更好的办法。”该研究合作者、美国国家标准与技术研究所(NIST)物理学家Michael Schneider表示。


NIST是若干希望开发出能够模拟人类大脑的神经形态硬件,同时希望这种神经形态硬件能更有效地运行大脑样软件的团队之一。在常规的电子系统中,晶体管常常会以一定的间隔和精确的数量处理信息(二进制数字0或1)。但神经形态硬件则能够从多个来源积累少量信息,并且改变这些信息使其产生一种不同类型的信号,并在需要的时候发射一股电流,就好像神经元放电那样。因此这种神经形态硬件需要更少的能量运行。


然而这些设备至今还是无效的,尤其当晶体管需要跨越间隙或突触来传递信息时,因此,Schneider团队利用铌超导体制造出了神经元样的电极,其可以在无阻力的情况下进行导电。随后,研究人员利用数千个磁性锰纳米晶簇填补超导体的空隙。


通过改变突触中磁场的数量,这些纳米晶簇就可以在不同方向上对齐。这就能让该系统在电力水平和磁性方向上对信息进行编码,从而赋予该系统比其他神经形态系统更强大的计算能力,同时不会占据额外的物理空间。


这些突触每秒可以放电10亿次,比人类神经元的速度快几个数量级,同时该系统消耗的能量仅为生物性突触的万分之一。在计算机模拟过程中,在传递到下一个电极之前,合成神经元就能通过最多9个来源核对输入信息。但当基于该技术的系统用于复杂计算之前,需要成千上万个突触,Schneider表示,是否能够扩大到这个水平还有待进一步研究分析。


另外一个问题是,该突触只能在接近绝对零度的温度下运行,同时需要用液氮来冷却。英国曼彻斯特大学计算机工程师Steven Furber指出,这可能就会使芯片在小型设备中变得不实用,尽管大型数据中心可能能够对其进行维护。但Schneider表示,相比操作一个具有相当数量计算能力的传统电子系统而言,对该设备进行冷却或许需要更少能源。


美国加州理工学院电气工程师Carver Mead赞扬了这项研究,并将其称之为神经形态计算的新方法。“目前在该领域中充满了炒作,我们很高兴能够看到精细工作能以客观的方式呈现出来。”他说,但在芯片真正用于计算领域之前或许还需要一段很长的时间,而且,目前还存在来自许多其他神经形态计算设备的激烈竞争和挑战。


Furber还强调,这种新型设备的实际应用前景非常广阔。“这种设备技术也非常有趣,但如今我们还不能充分了解这些生物突触的关键特性,也并不知道如何更加有效地利用它们。”他说,例如,目前人们仍有许多问题需要解决,即当记忆形成过程中这些突触如何重塑自己?这就使得研究人员很难在记忆存储芯片中重建这个过程。


尽管如此,Furber表示,一种新型计算设备进入市场需要10年甚至更长时间,即便神经科学家很难理解人类大脑,但他们非常有必要开发出尽可能多的不同的技术手段。


论文地址:

http://advances.sciencemag.org/content/4/1/e1701329



点击下方“阅读原文”了解【人工智能实验平台】
↓↓↓
登录查看更多
1

相关内容

【CVPR2020】视觉推理-可微自适应计算时间
专知会员服务
12+阅读 · 2020年4月28日
专知会员服务
44+阅读 · 2020年3月6日
【Google】利用AUTOML实现加速感知神经网络设计
专知会员服务
29+阅读 · 2020年3月5日
深度学习算法与架构回顾
专知会员服务
80+阅读 · 2019年10月20日
大脑通过统计推理表征“自我”
人工智能学家
6+阅读 · 2019年9月4日
3D重建:硬派几何求解vs深度学习打天下?
机器之心
5+阅读 · 2019年7月8日
MorphNet:致力打造规模更小、速度更快的神经网络
谷歌开发者
6+阅读 · 2019年5月6日
《常用算法之智能计算 (五) 》:模糊计算
数盟
9+阅读 · 2018年12月24日
【AAAI专题】论文分享:以生物可塑性为核心的类脑脉冲神经网络
中国科学院自动化研究所
15+阅读 · 2018年1月23日
前沿 | 简述脉冲神经网络SNN:下一代神经网络
机器之心
36+阅读 · 2018年1月13日
人工神经网络是否模拟了人类大脑?
数说工作室
9+阅读 · 2017年7月19日
TResNet: High Performance GPU-Dedicated Architecture
Arxiv
8+阅读 · 2020年3月30日
Question Generation by Transformers
Arxiv
5+阅读 · 2019年9月14日
Arxiv
4+阅读 · 2018年9月25日
Arxiv
5+阅读 · 2018年9月11日
Arxiv
11+阅读 · 2018年5月13日
Arxiv
7+阅读 · 2017年12月28日
VIP会员
相关资讯
相关论文
TResNet: High Performance GPU-Dedicated Architecture
Arxiv
8+阅读 · 2020年3月30日
Question Generation by Transformers
Arxiv
5+阅读 · 2019年9月14日
Arxiv
4+阅读 · 2018年9月25日
Arxiv
5+阅读 · 2018年9月11日
Arxiv
11+阅读 · 2018年5月13日
Arxiv
7+阅读 · 2017年12月28日
Top
微信扫码咨询专知VIP会员