美国三院院士图灵奖得主Manuel Blum: 如何为机器赋予意识?

---

  新智元推荐  

来源： 知社学术圈  （ID： zhishexueshuquan） 

整理编辑：张佳

【新智元导读】1995年，Manuel Blum 因计算复杂性理论及其在密码系统和程序检验中的应用而获图灵奖。在今年的第三届世界智能大会上，Manuel Blum 发表了题为“迈向有意识的人工智能，受神经科学启发的计算机体系结构”的演讲，一起来聆听大师的智慧。

Manuel Blum, 1995年，因计算复杂性理论及其在密码系统和程序检验中的应用而获图灵奖。 美国国家科学院院士，美国国家工程院院士，美国艺术与科学学院院士。 现任美国卡内基梅隆大学计算机科学学院教授。 2019年5月16日，Manuel Blum在第三届世界智能大会上，以“迈向有意识的人工智能，受神经科学启发的计算机体系结构”为题展开演讲。

Manuel Blum： 朝着有意识的人工智能发展，这是电脑的架构，是由一个神经科学家所开发的。 这是一项联合研究，我们就这个理论也发布了一篇论文。 我们所讲的认知神经科学，要求我们去理解大脑的运作。 1980年，Bernard Baars提出这样的一个理论。 我们去理解所开发的项目，也就是全球空间模型，这个模型可以帮助我们更好地理解什么是意识。 而且有一个正式的计算机架构，因为这个模型的启发而得以开发出来。

这个模型是由认知神经科学家所提出来。 基于这个模型可以开发出更为灵活高效的机器，这也是未来机器发展的走向。

曼纽尔·布卢姆（右一）

我在这里探讨的是意识。 为什么要讲意识？ 这个架构和意识又有什么关系呢？ 我们认为意识能够让人有能力和灵活性。 同样基于意识的架构，能够赋予计算机和机器人以非常强大的能力和灵活性。 这里有很多的学生，我希望你们未来能够打造出有意识的电脑。

首先，什么是意识？ 人的意识或者人的感知能力，就是我们所注意到的任何事情。 无论是处于清醒状态还是睡眠状态，当然如果你睡觉的时候没有做梦，那是没有意识的。 但是只要你能够看到、听到、感受到、闻到、品尝到，这都是意识。 你的感受、你的喜悦、你的悲伤、你的恐惧，这都是意识。 我们内心的自我独白也是意识。 我们每天无时无刻不在自己内心和自己进行对话。 我们在晚上做梦的时候会梦到各种各样的图像，这些图像看上去栩栩如生，反映出我们大脑的故事。 基本上我们大脑内部所感知到的东西，这也是意识。

我们举几个例子。 什么是有意识的计算？ 什么是没有意识的计算？ 你们去参加过party吗？ 当你看到一个人，感觉非常面熟就是不知道他叫什么名字。 他叫什么名字呢？ 想不起来。 你没有在意这件事，算了吧，想不起来就想不起来吧。 但是过了半小时，你突然想起来他叫什么名字了。 这就是你的潜意识或者无意识地在进行计算。

如果我们生命中没有意识，那什么样的状态？ 就是睡觉，而且是没有梦的睡觉。 有一种疾病就是人有意识，但是却看不到东西。 患者的视觉功能是正常的，但是他们却看不到东西，这就是所谓的盲视。 患者看到东西却没有意识，因此觉得自己是盲人。 但是他们真的是盲人吗？ 把患者放到一个房间，这个房间有入口，里面有很多的障碍物，让他们避开这些障碍物，到房间的另一端，他们是能够做到的。 他们往往做到之后也感到非常惊奇，觉得难以置信。

图片来自大科技

意识让我们的生命充满了活力。 意识来自于哪里？ 认知神经科学家Bernard Baars指出，意识来自大脑的结构。 这里讲的不是神经元，而是在神经元更基础之上，更高一个层面的架构系统设计。 神经科学家于1989年提出来一个理论叫做剧场意识，这是一个聪明绝顶的理论，就是以剧场作为类比来描述“什么是意识”。 意识就是在舞台上的演员凭借短期的记忆从事一系列的表演。 短期记忆，一个非常非常短的记忆，它就是你的意识。 舞台上的演员凭借这个短期的记忆在进行表演，有很多很多的观众坐在暗处观看。 这些观众不见得有意识，那这就是长期意识，长期记忆。

基于这个理论进一步的完善，让它成为一个正式严谨的理论。 我们看一看，左边是输入，我从上面开始讲吧。 这个顶端有一个中央指挥员，就像是一个导演，剧场上这些演员怎么调动由他说了算。 右边的这个图像是我们短期记忆，也就是短暂的存储，短暂的信息库存。 基于此，我们再进一步地前进到输出这个环节。 在最下面，是各种各样的长期记忆处理。

这是个聪明绝顶的模型。 我多年来就想找到这样的模型，但是一直没有找到。 后来幸运的是Bernard Baars发明了这个模型，但是这不是一个“放之四海皆准”的蓝图，你不能凭着这个模型就造出一个有意识的机器。 作为计算机科学家，我和其他的联合研究员对这个模型的完善也做出一些贡献，就是对人工智能、智能图灵机器给出一个正式的定义，而且有相应的理论。

有意识的图灵机器不是要做无法计算的任务，这是没办法做到的。 只是能够把那些可以计算的任务以更加高效的方式做出来，能够给我们提供一个打造有意识的机器的图纸，能够让我们更好地去理解意识，让我们知道为什么机器有可能是变成有意识的。

现在，这样的机器已经在建造之中，至少有一个这样的软件。 有两个团队在做，其中一个团队负责人是华盛顿大学的教授，另外一个团队负责人是哈工大的王长喜教授。 这是意识的架构，由简单的图灵机器所启发的。 还有Bernard GWM的模型，这两者结合在一起我们就可以对有意识的图灵机器给出一个定义，界定已具备的几个特点。

这里我们看一看一个正式的、有意识的图灵机器。 在这上面有一个钟表在计时间。 每一个有意识的机器，它的每一步都在进行计算，而且在周遭有一个环境，包括有意识的个体本身。 有意识的AI，有7个层级，像输入输出、短期记忆、长期记忆、向下的数向上的数。 这里我用一个深入浅出的方式来讲，给大家看一个图表，就像Bernard的图表一样。

这是有意识的图表机器架构，看起来像Baars提出的模型，短期记忆是黄色的部分，这是我们感知到的有意识的部分。 中央指挥官在最上面这个导演我们是没有的，在我们的机器中取消了这个东西，直接输入，从这条直线没有直接输入到短期记忆，在这个模型中短期记忆并没有直接的输出。 但是我们有外界的输入进入下面长期记忆，长期记忆也在运作。 长期记忆处理发出信号产生产出。 长期记忆的处理经历了某种类型的竞争，来决定到底哪些东西是可以进入到短期记忆。 一旦进入短期记忆，就要进行广播，向所有的长期记忆处理器进行广播。

我们提出一个观点就是，我们所开发出的这种意识，短期记忆中的东西都进行广播，向所有的长期记忆处理器进行广播，让长期记忆知道你对什么东西是有意识的。

这就是竞争的进行。 而这个竞争必须要简单地竞争，而且要求的速度非常快，几十亿个长期记忆进行竞争，经过竞争后只有一个长期记忆进入短期记忆，所以要非常地快。

短期记忆非常短，就是一个小块。 大家知道小块是什么意思吗？ 经济学家经常用这个词，这个小块也就是所谓的数字或者一个词或者一个字母，或者是一个字母表比如说英文的字母表。 我们对字母表其实是没有意识的，我们只知道ABCD，我们可以一直数下去，但是这个小块呢，指的是一个提示器。 它能够指到你想要的东西。

比如说下面减5，如果是痛苦的话，减7，如果是高兴的话，又是另外的一个数值。 那5比3要大，所以痛苦的分值要比高兴的分值要高，所以痛苦就在竞争中脱颖而出，胜出进入短期记忆。 我们可以看到像恐惧是负5的得分，所以他们胜出了，在竞争中向上传负7，痛苦的分值是负7，在竞争中胜出，往上传，往短期记忆传。 所以像这样的活动持续不断的，总是有些东西在竞争中胜出，而进入短期记忆。

在这个模型里面有这样一个小块，会进入短期记忆，那心理学家就说短期记忆能够容纳2个小块，但是在我们模型里面我们只设置了一个小块。

图片来自网络

我给大家展示一下，长期记忆处理器到底长什么样子。 它对外界的输入进行采集，然后再经过竞争，输入到短期记忆，再形成产出，进入外界。 这是一个很有意思的点，当一个婴儿出生的时候，是没有这样的连接的。 当有知觉的、有意识的图灵机器刚刚创造出来的时候也是没有知觉的，就像一个刚刚生出的婴儿一样。 但是随着婴儿不断的成长，也就是随着机器不断的成长，这些处理器反反复复的进行竞争，反反复复地在竞争中胜出，进入短期记忆。 比如说其中一个长期记忆处理器，处理的东西胜出了，然后他会反反复复问一个问题。 其他的一些处理器会试图回答这个问题，产生了想要的答案。 比如说和A回答B的问题，A和B就形成链接。 这样一个链接让意识的程序逐渐变成了无意识的程序，然后就中断了，基本上就意识不到它的存在了。

接下来给大家看一个例子，展示它运作的机制。 这里可以看到模型，有意识的模型。 比如说你摸了一个炉子，你的手指被烫了，这个输入就进入长期记忆的处理器，被标注定义为痛苦。 这个痛苦传到旁边的处理器，很快就产生了输出。 这个输出就是你把手很快从滚烫的炉子边挪开。 与此同时，这个产出也会进入到短期记忆。 因此，你只是会在你被烫的时候才感知到这个痛苦。 然后进行广播，其他的一些处理器，比如控制水的处理器，这个东西太烫不能喝。

那到底什么是有意识的图灵机器？ 它对什么有意识？ 就是短期记忆有意识，它的小块能够对信息所在的地方进行定位。 为什么短期记忆如此短，如此微小，这也是有答案的。

哪些东西能够进入短期记忆？ 长期记忆的处理器是如何产生的？ 什么样的长期记忆处理器才能够形成意识？ 这有很多很多的问题，都是需要解答的。

本文经授权转载自知社学术圈  （ID：zhishexueshuquan）