熵最大导致智能？

来源：陶勇科学网博客

摘要：20世纪50年代开始，现代宏观经济学在研究经济增长时，发现了一个神秘的变量“技术进步（或者知识）A”，这个变量所带来的经济增长被称作“索洛剩余”。

2010年时笔者在Physical Review E发表了一篇利用统计物理学研究经济系统的文章[1]。文章中，笔者将“经济系统”类比作“热力学系统”，将“人”比作“微观粒子”，从而像统计物理学推导宏观热力学定律那样，也推导出宏观经济学定律。20世纪50年代开始，现代宏观经济学在研究经济增长时，发现了一个神秘的变量“技术进步（或者知识）A”，这个变量所带来的经济增长被称作“索洛剩余”。

有意思的是，一旦将统计物理学方法应用到经济系统，笔者发现这个所谓的“技术进步A”就是经济系统的“熵T”[1]，见下面方程（1）。众所周知，物理熵S度量的是一个物理系统的无序程度。而笔者发现经济系统的“熵T”具有类似的性质：经济系统的“熵T”度量一个经济系统中社会成员的“选择自由”[1-2]。简单来说就是，社会成员的“集体选择策略空间”的自由度越大，那么社会的技术进步就会越快。

 T=lnW(N)                                                    (1)

其中W(N)代表社会成员的“集体选择策略空间”中元素的数目，N为社会成员数目。

笔者是2007年10月份左右首次得到方程（1），那时刚刚进入硕士研究生一年级。一开始，笔者感到这个结论很违反直觉，因为熵最大往往被联系到“热寂说”，所以很难想象将熵最大联系到社会的技术进步方向。不过，一想到Shannon将“信息”等同于“熵”，所以方程（1）似乎也有道理：信息增加，从而技术进步。

再后来，笔者接触到国内一个叫做“集智俱乐部”的网站，其中谈到蚂蚁的“群体智能”深深的触动了我。如果把社会的技术进步考虑作人类群体智能的提高，那么智能岂不就是熵最大的结果？按照方程（1），一个有趣的结果跃然纸上：智能就是个体寻求“选择自由”最大化的结果[3]。

方程（1）非常的简洁，笔者妄自揣测它应该符合爱因斯坦对于物理方程的偏爱标准——“方程的美在于优雅和简洁”。大家所知道的质能方程就是爱因斯坦对方程偏爱的标准。

但是如何利用方程（1）来实现“智能”呢？由于之前笔者不在人工智能领域，所以就放过了。

 

2017年5月一个偶然的原因，笔者在北京大学向几位经济学家介绍熵与技术进步、智能的关系时，为了寻求潜在的证据，上网搜索了“Maximizing Entropy”和“Intelligence”的词条。有趣的是，笔者惊奇的发现2013年哈佛大学的物理学家A. D. Wissner-Gross和夏威夷大学的数学家C. E. Freer在Physical Review Letters发表了一篇名为“因果熵力”的论文[4]。这篇论文按照最大因果熵产生原理的假设推测：一个主体为了确保未来的行动自由而不断尝试，智能行为通常便会在这个过程中自发出现。

什么是“熵力”呢？论文[4]的作者用了一个简单的例子来说明（见图1）：粒子在一个盒子内运动，为了保证它可以运动的路径最多（路径选择自由最大），它应该处于盒子中的哪个位置呢？显然，粒子应该前往盒子的中心。这个把粒子从盒子边缘驱动到中心的力就是“熵力”，这个力保证了粒子前往熵最大的状态。粒子受到熵力而引发的行为可以想象为围棋游戏中，一位好的棋手会尽可能地保障更多的行动自由。论文[4]的作者认为这就是智能产生的本质：智能就是主体为了确保未来的行动自由最大化的产物。

图1：熵力驱动粒子从边缘向中心运动

为实现利用熵力驱动熵最大化，A. D. Wissner-Gross与他的同事合作开发了一个名为Entropica的软件[5]。Entropica通过模拟熵力来演示复杂的动物与人类行为，比如人类直立行走、工具使用以及社会合作。

这里笔者仅以直立行走一例来说明A. D. Wissner-Gross的想法。A. D. Wissner-Gross利用“推车+木棍”（见图2）的这个系统来模拟人类“从猿到人”的转变。

在“推车+木棍”系统中，木棍最初是（向下）倒悬的，如果给推车“熵力”的作用，最终倒悬的木棍会旋转到（向上）直立的状态。并且木棍会稳定在（向上）直立的状态，这是因为木棍直立起来之后，就有了向下摆动的各种可能性，熵力正是要把系统驱动到未来选择最多的方向上去。

图2：熵力驱动木棍从下向上

   图2的视频地址：https://physics.aps.org/articles/v6/46

 A. D. Wissner-Gross想通过这个例子来说明人类直立行走的原因：人类有灵巧的双手，只有直立起来，双腿行走，灵巧的双手才被解放出来做各种事情（见图3），即行动自由更大。从这个意义上来说，熵力推动了这个“进化”的过程，进化的方向正是熵最大的方向。

图3：人类直立行走的演化 

目前，A. D. Wissner-Gross利用开发的软件Entropica注册了一个公司。下面是他在TED就“熵最大与智能”所做的一个演讲：

https://www.ted.com/talks/alex_wissner_gross_a_new_equation_for_intelligence

 

将熵最大作为解释智能的产生确实是一个很有吸引力的想法。不仅如此，甚至有人寄希望于利用熵最大来理解生物的进化，即用熵最大的“最可能者幸存”机制替代达尔文的“适者生存”机制[6]。

众所周知，目前人类利用两套不同的理论来描述“演化”[6]。在物理学中，人类利用“无序（熵最大）”来理解物理世界的演化，而在生物学中，人类又利用完全不同的“有序的进化”来理解生物世界的演化。这种天然的演化割裂非常的让人困惑和不自然。

就以熵最大导致智能的例子，人们很容易提出反驳：熵最大代表无序最大，一个很脏的房间里面的微粒混乱到了极点，难道能说这个房间的微粒拥有智能？另外，大脑结构总是进化到“有序”而“复杂”，这与熵最大难道不是矛盾的吗？

这两个问题的确是非常重要的问题。它们其实联系到一个更加根本的问题：

熵最大是否可能导致高度有序的结构？

答案是肯定的。这就是笔者最新的一个工作，下一篇博文将对此作出介绍。

参考文献：

 [1]. Yong Tao, Competitive market for multiple firms and economic crisis, Physical Review E 82 (2010) 036118

[2]. Yong Tao, Spontaneous economic order, Journal of Evolutionary Economics (2016) 26 (3): 467-500

[3]. Yong Tao, Swarm intelligence in humans: A perspective of emergent evolution. Physica A 502 (2018) 436-446

[4]. A. D. Wissner-Gross and C. E. Freer, Causal Entropic Forces. Phys. Rev. Lett. 110 (2013) 168702

[5]. https://www.insidescience.org/news/physicist-proposes-new-way-think-about-intelligence

[6]. J. Whitfield, Survival of the Likeliest? PLoS Biol 5 (2007) e142.

未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能，互联网和脑科学交叉研究机构。

未来智能实验室的主要工作包括：建立AI智能系统智商评测体系，开展世界人工智能智商评测；开展互联网（城市）云脑研究计划，构建互联网（城市）云脑技术和企业图谱，为提升企业，行业与城市的智能水平服务。

  如果您对实验室的研究感兴趣，欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”