再登Nature！清华首次提出「类脑计算完备性」及计算系统层次结构

2020 年 10 月 17 日 专知

转载机器之心

编辑：泽南、蛋酱

自「天机」登上《自然》封面一年多以来，这已是清华大学的类脑计算研究最近第三次被自然杂志收录。

10 月 14 日，在最新一期《自然》杂志上，出现了一项类脑计算体系结构的突破性进展。

来自清华大学、北京信息科学与技术国家研究中心、美国特拉华大学（University of Delaware）科研团队的研究者在论文《A system hierarchy for brain-inspired computing》（一种类脑计算系统层次结构）中提出了「类脑计算完备性」（neuromorphic completenes）概念。该研究被认为会加速类脑计算，及通用人工智能等方向的研究。

目前，发展通用人工智能（AGI）通常有两种方法：神经科学导向和计算机科学导向。由于两种方法在公式和编码方式上存在根本差异，它们依赖于不同且不兼容的平台，阻碍了 AGI 的发展。

论文链接：https://www.nature.com/articles/s41586-020-2782-y

该研究的第一作者为清华大学计算机系研究员张悠慧，与清华大学教授、清华大学类脑计算中心主任施路平共同为该论文的通讯作者。

神经形态计算从生物大脑中获取灵感，为计算机技术和体系结构的下一波发展提供了方向。类脑计算与传统计算机架构不同，后者是围绕图灵完备和完善的冯诺依曼结构，前者目前还没有没有广义的系统层次结构，或对类脑性计算的完整性的理解。这会影响类脑计算软件和硬件之间的兼容性，从而阻碍了大类脑式计算的开发效率。

面对这一挑战，清华大学等机构的研究者们提出了「类脑计算完备」概念，它放宽了对硬件完整性的要求，并提出了相应的系统层次结构，其中包括图灵完备的软件抽象模型和通用的抽象神经形态架构。

使用这种层次结构，我们可以将各种程序描述为统一的表示形式，并转换为任何神经形态完整硬件上的等效可执行文件。这意味着，这一体系可以确保编程语言的可移植性、硬件完整性和编译可行性。

为了支持在各种典型硬件平台上执行不同类型的程序，研究人员实现了一系列工具链软件，进而证明了该系统结构的优势。

全新的系统层次结构

在这项研究中，研究者提出了一种具有高度通用性和普适性的类脑计算系统层次结构，该结构包括三个层次：软件、硬件和编译。

与传统的计算系统层次结构不同，对于类脑计算系统层次结构而言，软件层指的是神经形态应用和开发框架（如 Nengo 和 PyTorch）。相应地，研究者提出将 POG 作为软件的中间表征， EPG 作为硬件的中间表征（CFG，控制流图），并引入编译工具将 POG 转换为 EPG。对于硬件层，研究者提出了抽象神经形态结构（ANA），包括调度单元、处理单元、内存和互连网络，作为神经形态硬件（TrueNorth、SpiNNaker、Tianjic 和 Loihi）抽象。

考虑到类脑计算的相似性，研究者进一步提出了「类脑计算完备性」的概念，引入了逼近等价（approximation equivalence）和近似等价（precise equivalence）。

类脑计算机系统与传统计算机系统的层次结构对比。

软件

图中的软件是指编程语言或框架，以及以它们为基础构建的算法或模型。在这一层面上，研究者提出了一个统一的、通用的软件抽象模型——POG（programming operator graph）——来适配多种类脑算法和模型设计。POG 由统一的描述方法和事件驱动的并行程序执行模型组成，该模型集成了存储和处理。它描述了什么是类脑程序并定义了如何执行该程序。由于 POG 是图灵完备的，它能够最大程度上支持多种应用、编程语言和框架。

硬件

硬件部分包括所有类脑芯片和架构模型。研究者设计了抽象神经形态结构作为硬件抽象。它有一个 EPG（ execution primitive graph），用作和上一层之间的接口，来描述它可以执行的程序。EPG 有一个混合的「control-flow–dataflow」表示，用来最大化其对不同硬件的适应性，同时也符合一个流行的硬件趋势——混合架构。

编译

编译是将一个程序转化为硬件所支持的一种等价形式的中间层。为了提高可用性，研究者提出了一组基本的硬件执行原语，这些原语在主流的类脑芯片中得到了广泛的支持，同时证明了配备了这套原语的硬件是神经形态完备的。此外，研究者还以一个工具链软件作为编译层的实例，论证了该层次结构的可行性、合理性和优越性。

研究者提到：「这一层次结构避免了硬件和软件之间的紧密耦合，确保任何类脑程序都可以用图灵完备 POG 来表示，然后在任何神经形态完备的硬件上编译成等效的可执行 EPG。我们确保了编程的可移植性、硬件的完整性和编译的可行性，并通过实验验证了神经形态完备性引入的系统设计维度优化效果。这一层次结构也促进了软硬件的协同设计。」

与当今常规计算机的「图灵完备性」概念与「冯诺依曼」体系结构相对应，全新的类脑计算完备性及软硬件去耦合的类脑计算系统层次结构证明了自身的可行性，同时又扩展了类脑计算系统应用范围，使之能支持通用计算。

这项研究为处于起步阶段的类脑计算方向，填补了完备性理论与相应系统层次结构方面的空白，有利于自主掌握新型计算机系统核心技术。

《自然》杂志的一位审稿人认为，「这是一个新颖的观点，并可能被证明是神经形态计算领域以及面向人工智能研究的重大发展。」

专知便捷查看