图灵奖得主提出「意识图灵机」！CMU学术伉俪新研究登美国国家科学院院刊

---

  新智元报道  

编辑：拉燕 好困

【新智元导读】卡内基梅隆大学夫妻二人共同研究意识图灵机，用模型解释意识。

1936年，计算机科学之父阿兰·图灵提出了图灵机（TM）。

 

 

图灵机之所以厉害，我们之所以把图灵叫做计算机科学之父，就是因为他把本来只能由人工做的计算任务，交给了机器。

 

模型是关键词。

 

而今天，一对卡内基梅隆大学的夫妇首次提出了意识图灵机（CTM）的概念，并被刊登在了《美国国家科学院院刊》PNAS上。

 

这对夫妇认为，我们可以通过提供一种简单的框架，应用计算复杂性理论和机器学习的工具，来理解「意识」。

 

论文地址：https://www.pnas.org/doi/full/10.1073/pnas.2115934119#sec-4

 

图灵机就是一种简单的模型，能够定义并探索何为计算。

 

有意识的图灵机（Conscious Turing Machine，CTM）也是一种简单模型，而它的目的是则用来定义「意识」，以及和意识相关的概念。

 

而这对夫妇的成就还远不止于此。

 

一对学术伉俪！甚至还把儿子拉进了学术圈

 

说实话，学术圈的伉俪还真是不多见。

 

一看这牛的不行的文章和idea，咱就知道这夫妇二人哪一个单拎出来都是一顶一的大佬。

 

不禁让人想起了居里夫妇。

 

妻子名叫Lenore Blum，她是MIT的博士。同时，她还是卡内基梅隆大学计算机科学荣誉退休的杰出职业教授。

 

此外，她也是Olympus项目的创始主任，Swartz创业中心的教员主任，主持了首届科技创业系主任讲座。

 

 

其中，Olympus计划必须拿出来好好说道说道。

 

因为这项计划是Lenore下定决心要在学术界、乃至整个世界范围辐射自己影响力的关键一环。

 

简单来说，Olympus计划有两个目标，其中之一是弥合尖端大学在研究与创新方面和商业化之间的差距。

 

另一个则是为了造福社区，创造一种适合人才和想法蓬勃发展的学术氛围。

 

 

Lenore为了提高女性在科学技术、工程、数学等理工科领域的参与，做了不少有价值的工作。

 

她也因此受到了国际上的广泛认可。

 

她是女性数学协会，以及初高中女学生「拓展视野」项目的创始人。在卡内基梅隆大学，她创立了Womn@SCS项目。

 

2004年，她获得了美国总统卓越科学、数学，以及工程指导奖。

 

2009年，她获得了卡内基「科学催化剂」奖项，旨在表彰她的Olympus项目。

 

该项目完美地落实了Lenore一开始的两个目标：既促进了匹兹堡地区的经济增长，也提高了女性在计算机科学领域的参与度。

 

 

得益于Lenore的努力，如今女性占卡内基梅隆大学计算机科学专业本科生的一半，是全美平均水平的两倍还要多。

 

同时，她的研究建立了连续域上的计算和复杂性理论，为科学计算奠定了理论基础。

 

2012年6月，艾伦·图灵诞辰100周年前夕，她在英国剑桥大学图灵百年庆典上担任了发言人。

 

目前，她和她的丈夫Manuel Blum、儿子Avrim Blum一同研究有意识的AI开发计算机架构。

 

 

说完了媳妇，咱再看看她的丈夫。

 

Manuel Blum是卡内基梅隆大学布鲁斯尼尔森大学计算机科学荣誉退休教授，理论计算机科学领域的先驱。

 

他在1995年获得了图灵奖，以表彰他对计算复杂性理论基础和在密码学、程序检查上的应用，这是一种编写能检查工作的程序的数学方法。

 

 

Manuel出生在委内瑞拉的加拉加斯，他的父母在19世纪30年代逃离了欧洲，定居在委内瑞拉。

 

Manuel记得，在他小时候他就对大脑是如何工作的很好奇。

 

说起原因，只是因为他想变得更聪明。

 

Manuel表示，「我可不是什么神童。」

 

 

在MIT的时候，他的专业是电气工程，于是他认为电路方面的东西有可能提供答案。

 

到了大三，他在Warren McCulloch的实验室继续研究大脑。

 

最终，他终于得出了结论，我们的大脑与计算的复杂性有关。

 

这也就是他为什么踏上改变该学科以及计算机科学的终身旅程的方式。

 

他不断加深自己对思维和大脑的理解。同时，他还专注于数理逻辑和递归理论。

 

他在人工智能先驱，Marvin Minsky（马文·明斯基）的指导下完成了他的博士工作，并获得了博士学位。

 

Marvin Minsky 

1964年，他从MIT数学系毕业。

 

毕业后，Manuel在MIT担任数学助理教授，由此开始了他的教学生涯。

 

后来，他在1968年加入了加州大学伯克利分校。

 

2001年，Manuel从加州大学伯克利分校离开，加入了卡内基梅隆大学。

 

在卡内基梅隆，Manuel指导了总共35名博士生的论文写作。

 

如今，这些被他辅导过的博士生几乎遍布全国所有主要院校的计算机科学系。

 

不光是他自己，就连他的学生在理论计算机科学领域所开创的东西都是划时代的。

 

 

其实说起来，Blum夫妇和中国还有点奇妙的渊源。

 

二十年前，2002年10月18日，微软亚洲研究院和国家自然科学基金委员会联合举办了第四届「二十一世纪的计算」大型国际学术研讨会。

 

而举办地点，恰好就是在北京大学的百年纪念堂。

 

可以说，这是中国有史以来最盛大的学术会议。而本次会议的主题为「高信度计算」。

 

下图就是Blum夫妇在研讨会现场留下的合影。

 

如今这么多年过去了，也不知道Blum夫妇有没有再来中国看看。

 

 

更有意思的是，两年前，Blum夫妇又一次和北大建立起了奇妙的联系。

 

2020年6月15日，北京大学首次「云聘任」仪式在北京大学静园五院举行，北京大学校长郝平为Blum夫妇颁发了北京大学访问讲席教授聘书。

 

而且，刚刚完成Blum教授夫妇有意识的图灵机短期课程的近20名图灵班同学，还通过视频连线的方式共同见证了云聘任的仪式并隔空送上了祝福。

 

仪式是由北京大学前沿计算研究中心执行主任陈宝权教授主持的。

 

 

除此之外，Manuel Blum还是我们如今耳熟能详的验证码的创始人。

 

2000年，Manuel和他的学生以及其他人的合作下，提出了所谓「视觉挑战」的想法，作为一种测试，来区分机器和人。

 

他们将其称为「完全自动化的公共图灵测试，以区分计算机和人类」，或简称为 CAPTCHA（Completely Automated Public Turing test to tell Computers and Humans Apart）。

 

这就是我们今天所使用的验证码之一。

 

 

意识图灵机是什么？

继续说回夫妻二人的意识图灵机。

 

首先我们要厘清一个概念，CTM并不是大脑模型或者认知模型，而仅仅是一个计算模型。只不过，是一个与意识有关的计算模型。

 

更详细地说，只是一种简单的substrate-independent的计算结构。

 

对于意识的探索，曾经是哲学家和神学家的研究范围。然而，如今各行各业、越来越多的科学家也都在追寻意识的奥秘。

 

Blum夫妇的这项研究则展示了理论计算机科学（TCS）的观点和见解是如何帮助科学家理解意识，以及相关概念的。

 

在TCS的精神的指导下，二人定义了一个简单的数学模型，将其命名为意识图灵机 (CTM)。

 

该方法将理论计算机科学与认知神经科学巧妙地结合在了一起，潜力无穷。

 

 

CTM的灵感来自阿兰·图灵的计算模型——图灵机（TM），以及意识的全局工作空间理论（GWT）。

 

其中，TM是一个定义和探索计算的简单模型，而CTM则作为一个简单的模型来定义和探索意识及相关概念。

 

 

最后我们再来看看论文的部分结论。

 

既然是「有意识」的，那么CTM理论上就会经历各种与意识相关的现象。

 

对此作者认为，可以借助模型得出，关于意识体验是如何产生的更高层次的理解。

 

梦的创造

 

梦是终极的幻觉。

 

人的梦可能是有关视觉的、听觉的或者触觉的等等，而内容则往往与情感历程有关。

 

在CTM中，一个内置的睡眠处理器记录着时间、习惯、日/夜等，并有内部算法来监测睡眠的需要。

 

如果睡眠处理器确定需要睡眠，它就会通过提高自己的块的强度来进入反应意识的短期记忆处理器（STM）。这与降低其他非意识的处理器（LTM）的块的强度的效果大致相同。

 

此外，睡眠处理器还会阻止或大大降低各种输入（眼睛和耳朵）的强度，并阻止激活输出的信号（如对四肢）。

 

此时，CTM进入睡眠状态

 

睡眠处理器不断监测睡眠的需要，并随着这种需要的减少，按比例降低其自身各块的强度，让块中那些与梦有关的信息摘要（gist）达到STM。

 

此时，就是做梦的状态了。

 

最后，当睡眠处理器释放其对输入和输出的抑制时，CTM就会醒来。

 

当CTM处于梦境状态时，一个作为梦境创造者的处理器开始活跃起来（也就是让它的块进入STM状态）。

 

这些块中的信息摘要（gist）包含想法的内核（通常是基于早期CTM的活动、关注、想象）。

 

当这些块被广播时，所有的处理器，包括那些在意识感觉中起关键作用的处理器，都会收到这些广播，并竞相作出反应。这使CTM在梦境中具有与清醒时相同的活着的感觉。

 

在CTM离开睡眠状态进入梦境后，一小部分LTM处理器，如内视处理器，可以将它们的块进入STM。因此，在做梦时，CTM是有意识的，可以生动地体验事件。

 

梦也使CTM能够在未知和可能的危险情况下测试自己。在人类和CTM中，梦都可以成为实验各种可能解决方案的实验室。

 

然而，与清醒意识中发生的情况不同，由于CTM在其世界模型处理器中的 "一致性检查器 "没有从环境中获得输入，不一致的情况在梦中比清醒时更容易发生而不被注意。因此，CTM可以在梦中飞行。

 

研究证明，在人类中，当一个人看到一张脸，从记忆中带回这张脸，或者当这张脸出现在梦中时，都会出现同样的神经活动模式。他们还指出，在快速眼动睡眠中，当人有运动的感觉时，梦中运动皮层的激活与清醒时的激活是一样的。

 

Zadra和Stickgold断言，在人类中，梦境并不完全重放记忆，而是创造了一种叙述，其要点与最近的一些记忆相同。其中，快速眼动睡眠提供了一种大脑状态，此时，弱的和意外的联想比正常的强联想更强烈地被激活，这也许解释了我们快速眼动睡眠梦中的怪异性。

 

自由意志

 

自由意志的问题是非常古老的，甚至可以追溯到公元前一世纪。

 

Stanislas Dehaene认为：「我们大脑的状态既不是无缘无故的，也没有逃脱物理学定律。但只要我们的决定是基于有意识的思考且没有受到任何阻碍，并在采取某种行动之前仔细地权衡了利弊。这时，我们所做的决策就是自由的，即使它最终是由基因和环境造成的」。

 

对于CTM来说，为了作出决定，它在需要时间的评估中对其备选方案进行评估，在这段时间里，CTM是自由的。事实上，它可以感觉到自由，选择它认为（计算）最好的那一个结果。

 

自由意志是计算不同行动路线的后果的自由，或者在可用资源（时间、空间、计算能力和信息）范围内尽可能多地计算这些后果，并从中选择最适合自己目标的行动路线。这个定义包含了预测性动态（计算不同行动方案的后果）和资源限制（时间、空间、计算能力和信息）。

 

例如，CTM在下国际象棋时，不同的处理器会给出不同的建议。其中，主要负责下棋的处理器（假设存在；否则，就是一个对游戏有「高层次」看法的处理器）认识到它可以选择的步骤，并且决定仔细研究每一步的后果。这时，CTM便可以在时间限制内自由选择它认为最好的行动。

 

可以证明的是，关于自由意志感觉的论证仍然适用于完全确定的CTM（例如，使用伪随机性的CTM）。

 

最后作为结论，同时也是一个潜在的争论焦点，作者认为，即使在一个完全确定的世界中，CTM也会感觉到它自己是有自由意志的。

参考资料：

https://www.pnas.org/doi/full/10.1073/pnas.2115934119#sec-1

https://www.cmuportugal.org/events/talk-towards-a-conscious-ai-a-computer-architecture-inspired-by-cognitive-neuroscience-by-lenore-blum-and-manuel-blum/

https://csd.cmu.edu/news/theory-consciousness-theoretical-computer-science-perspective-insights-conscious-turing-machine