脱碳入硅：不是人类被机器取代，而是“人类社会”被“社会机器”取代
新智元推荐
来源：知乎专栏 作者授权转载
作者：鲍捷
【新智元导读】本文为鲍捷的最新力作，观点犀利。作者首先提出人类的大多数，终将陷入文化的真社会性的工蜂阶层，他们将留不下文化的后裔，他们将被机器取代。作者认为爱情和意识对AI只是Bug，机器根本不需要模仿人类糟糕的智能。最终作者认为人类的延续绝不仅仅是人类本身，要么脱壳，要么脱轨，飞向星辰。
不要问机器为你做了什么，问问你为机器做了什么。
人有三万个基因。几百个基因的区别就能区分两个物种。但人的一生其实被文因（Meme）塑造，一生被imprint（思想钢印）进大脑的文因，何止三万个。两种不同文化的人，其行为的差别，超越任何物种的差别。
人类是一种软件定义的生物，是软件赋予了我们进化的无穷潜力，直至毁灭自身的可能。为了可以灌入软件，我们不惜让每个婴儿都早产一年。
社会是软件定义的种群。人类在最近 5000 年锲而不舍，把定义人的软件转写为定义社会的软件，直到社会本身崛起为新的生物。
但文化进化的速度与基因进化速度的鸿沟越来越大。文化进化的速度越来越快，和基因进化的慢速矛盾越来越大。人类的基本认知能力并无大的进步，人类的大部分越来越不能跟上文化的发展。过去几十年中，通过教育年限的增长弥补了一些差距，已经达到了二十年的教育，但年限不可能无限延长。抗衡原始的认知惰性所需要的教育和资源越来越多。这种投入的增长有限，其边际效益又是递减的，而文化的进化速度是加速的。
人类科技进步的大部分投资“浪费”在了通信上。首先，由于大多数的资本掌握在对科学一窍不通的人手里，人类要花费巨额的时间和投入去让这些动物理解。其次，由于人类硬件的先天限制，需要花二十年时间才能从知识上复制一个人。
文化进化速度的提高，不仅在于机器的速度，而且在于人的理解速度。真正的语义通信的速度，瓶颈不在于机器，而在于人。最后必要诉诸认知能力的外化，也就是机器增强的人脑。人类逐渐将能耗最高的认知能力外包给机器以缓解这个矛盾。人需要用机器来扩展自己的认知能力，这样可以延缓脱轨，但也不过也最多延缓一百年。
基因是自私的，文化也是自私的。赋予人类获得进化优势的文化是自私的，它不在乎它的载体的存亡，它只服从与在竞争中复制自己。人类从书写开始，就不断在文化进化的压力下，乖乖地做文化转移载体的工具。从祭司到软件工程师，都在做文化进化的线粒体。
建立人人平等的社会是人类自古以来的理想，但也从来没有成功过。这是个非常崇高和善良的理想，可是它的执行，几乎总是会导致新的不平等。也许，人类作为一个社会性物种，构成社会的根基就是等级，按体力，财富，信息等等随时代不断变化。人人平等终究是一个幻想。在人类有了机器增强后，会不会拉近人的认知差距，让一个一般的人也赶上牛人？不会，这个差距会急剧加大。原来有10倍差距，有了机器辅助，这个差距会扩大到100倍甚至1000倍。因为理性是反人性的，理性的获得非常困难。无法自然扩展理性，只能拉大社会的理性鸿沟。
人类的大多数，终将陷入文化的真社会性的工蜂阶层。他们将留不下文化的后裔。他们将被机器取代。
人类基本的信息处理能力，还是在大规模（超过数百人）社会形成之前。语言，视觉，听觉，信任，对证据的直觉依赖，都是适应于草原部落生活的进化。这些已经写入基因，构成认知的快速通道和潜意识。而文字，符号，逻辑，科学方法（指系统的寻证方法），超越小部落的信任传递，这些是后生，慢速，困难的。机器在群体上只要超越了爬行动物，就可以超越人类。
人类有四套认知系统：原始的爬行动物认知系统，5万年前语言成熟时发展的，5000年前文字发明后发展的，和500年前科学兴起后发展的。每一套都比前一套更不“自然”，更耗费能量，速度更慢。所以人总是倾向于用低层次的认知系统。
并不是说90%的人只会用5万年前的认知方式思考，每个人都是多种认知方式的综合，比例不同。而人群的总体，在90%的人脑“机时”里，是那些原始的认知在起作用。能够有效利用这种特点的人，都成了伟大的政治家，教主和商业领袖。90%只是个大意，并不是说真的精确到这个数字，总体人群的大多数大多数时间倾向于“不动脑子”，这个应该很容易理解。
这里定性地定义一下“愚蠢”：是指人类的一种认知的惰性，使个体比较偏向于使用5万年前成熟的那套思维系统，而不是5000年前文字发明和500年前科学发展后发展的这两套思维系统。行为经济学，人机界面设计，传播理论里对这种“非理性”有很多研究。
人类的理性与非理性矛盾，早在文字或者文明产生前就已存在。思维的每一步跃迁，都要求更多的能量，但能量供给有限，这就要求原始猿类或人类在有限时间内利用较原始的认知作出决策。故而人类从总体上是一个非常难以协调的物种，因为我们文化的进化远远超过了基因进化的速度，我们需要极大的成本才能沟通和复制知识。没有强力的组织，人类社会很容易分崩离析。一群无组织的人类和一群蜥蜴的智力无异。
人类无法摆脱迷信。吃饭是个体存续的基础，迷信是社会存续的基础。大脑不是用来思考的，它的真正作用在于使你避免思考。我们的大脑的绝大部分，都是在让我们顺从激素、爬行动物脑，而不是去动用耗能昂贵的分析，特别是不要去动用后天才能获得的符号和理性思维。分析、符号和理性都是大脑的敌人，我们必须无时无刻不和本能做斗争才能运用它们。人类社会自己的复杂性已经是普遍不可能理解的了。如果人人都追求理性，而社会维持成本就会极高，我们需要十倍、百倍的物质和能量消耗才能维持社会。
政治，宗教，计算广告学之所以能奏效，就是基于无组织人群的普遍愚蠢。人类在可以遇见的将来不能消除这些愚蠢。人工智能超越人的智能，并不需要比人聪明，而只需要避免的人的愚蠢就够了。
作为集体的机器不会出现乌合之众现象。因为乌合之众现象是人的gene和meme进化速度失配造成的。机器社会与机器个体不存在这种失配。因此人类终将被“社会机器”取代，因为人类无法克服自己的本性。
人工智能不是人类智能。
1）AI实现的不是人的智能
2）AI的设计和人脑的工作过程无关
3）AI感知的世界和人感知的世界全然不同
4）机器需要的智能和人需要的完全不同。
人工智能不是要复制人的智能，而只是要适应人的愚蠢。机器只是笨，人是愚蠢。笨可以治，蠢是世界观，无药可救。人工智能就是一些算法，和人的智能是没有关系的，也不应该有关系。人的智能是很糟糕的东西，机器根本不需要模仿这么拙劣的东西。
人类往往迷恋于喜怒哀乐，往往认为理解这些才是真正的智能。但是这些也只是人类在发展社会性的进化过程中发展起来的延伸的表现型。另一类系统不需要付出这些成本也可以构成坚强的社会，因为它们有完全不同的通信手段。
人工智能并不只是机器人。它是我们通信的界面，是我们构造的秩序。它不是要取代大脑，而是增补大脑。它要解决的不是人个体的问题，而是社会和文化的问题。写进基因的智能AI比较难模仿，最近50000年文化产生的智能比较容易。说到底，目前的AI是一种从人作为文化载体到机器作为文化载体的过渡。
人类担心机器会进化出意识，就像担心蚂蚁会喜欢林志玲。意识也只是进化过程中一种特定的适应性，并非智能的必然的高级属性。同样，爱情也只是社会性的进化出来的表现型。
对于机器，没有爱情和意识是个 feature，不是bug。他们完全不需要这些bug。
人总是在问机器何时通过人的图灵测试。其实结局是人何时通过机器的图灵测试。机器可能通过前者，人永远通不过后者。
图灵测试说，超过30%的人无法区分人和计算机就算过了。问题是，哪些人能代表人类？所以这是个政治问题。如果民主的话，那图灵测试现在就可以过了。 我觉得全人类有一个“人类图灵测试指数”，就是把所有人中能识别当前最先进的AI是否为人的比例。鉴于大多数人并不理性思考，想想有多少人还信各种莫名其妙的巫术，我觉得这个人类图灵测试指数应该是一个非常低的数字。
相对应的是“机器图灵测试指数”，就是最聪明的人能否识别各种AI是否为人的比例。这接近于一般意义上的图灵测试。该值应该是很高的。
人不是理性动物，人对机器智能程度的判断会深深受大脑固化的非理性支配。图灵测试考验的最终不是机器的智能，而是人的智能。
图灵测试不是问题，图灵测试的图灵测试（是不是用机器判断机器的拟人性）才是问题。人最终要从整个流程滚出去。
其实图灵测试涮掉机器之前，早就把99%的人给涮掉了。其实“图灵测试”测试的是人的智能的下限，而不是机器智能的上限。找一个白痴来测试机器，随便什么程序都能过。每次图灵测试的新闻，媒体都这么兴奋。大多数媒体没有通过图灵测试的测试。
如果大多数人区别不出哪首是机器写的，不是因为机器理解了诗，而是因为人不理解诗。图灵测试的问题是，由于人类智力分布金字塔极端不均匀，如果选择金字塔底层人不熟悉的问题，那机器通过。例如薇薇作诗机还是很厉害的 中国古诗词图灵测试 - cslt Wiki 。正常人能把五个字或者七个字码齐了就已经相当不容易了。少数能压韵，再极少能知道平仄。至于能知道按风格选字的，已经万不存一。薇薇现在还不知道用典，很多病句，更没有逻辑。不过这些毛病，现代人一般也看不出来了。换个角度，薇薇已经无法通过图灵测试了，因为人类太烂了。
以后会有一个产业，人购买机器帮自己通过图灵测试，比如复杂的验证码。
人类中心主义思想下，总以为机器要和人比人的强项机器才会超越人。更可能的是机器通过超越人类的弱项超越了人。
在智能问题上，人类还会非常的从人类视角出发产生偏见，总觉得那些对人有意义的问题是难问题，比如人脸识别啊，自然语言理解啊。其实这些东西对于机器系统，压根就是不需要的，它可以直接跃过这些阶段。模仿人的智能很难，超越人的智能就容易多了——就好像模仿鸟的飞行很难，比鸟飞得快就容易多了。如果是目的论的，只看通信产生的效果，那机器语言肯定在未来会超过人类语言。人类语言的语法是基因决定的，很难进化了。
人工智能不需要去追求所谓“真正”的智能是什么，也不需要理解人脑或者猫脑的机理，甚至不需要去模仿人所能完成的“智能”任务（比如说图灵测试）。终极人工智能是要解决机器面临的任务，从目标和手段都和人脑没什么关系。
人工智能最大的作用不是模仿人类，而是把人类智力劳动中可机械化的部分机械化。我们现在纠结于计算机是否可以创作音乐、写诗、打麻将、看病、投资，就和原始人纠结机器是否可以磨制石器、召唤神灵一样。我们纠结的这些问题，在历史长程并不重要。
人类担心工作职位被机器取代是自大的。实际上，机器将消灭社会的需求，而不是满足这些需求本身。正如机器已经帮助我们基本消灭了对狩猎和萨满的需求，未来也将消灭对律师和教师的需求。因为我们并不重要。
Accidental Mind里已经说得很清楚，人脑是一个设计非常糟糕的系统，它是在鱼脑的基础一层层迭代发展起来的，许多积压多年的bug，许多多余的部件。人类间的通信极为困难，人类的教育极为缓慢，大多数人类没有理性，这些都是可以轻松超越的点 。机器可以更高效。更重要的，机器可以充分发挥通信优势，发展一种分布式大脑，用分工超越单个个体的智力劣势。
机器超过人脑并不需要模仿人脑，正如人消灭大型猛兽并不是通过更有力气或爪子更锋利。机器的长处是个体之间教育成本极低，交流速度极快。人和人之间交流信息的速度只有几个比特每秒，机器比这快几百万倍。机器根本不需要和人拼计算能力，只要拼进化速度，在自然选择中必然就会出现一种杀手机器。
短期内我们常高估机器，而又在长期低估机器。
人类与机器的竞争，不会是个体的竞争，而是人类社会和机器社会的竞争。在这个尺度上，图灵测试是无足轻重的。人类需要20年才能完成教育，机器只要几秒种。这种巨大的通讯优势最终将弥补机器的其他不足，使机器的总体远远超越人类总体。同样的能量输入可以支持更多的复制，这就够了。
评价智能程序常有一个误区，就是程序要在某一方面超过世界上最聪明、最渊博的人，才叫打败人类。这非常不合理。第一，机器不需要在智力的内涵上超过人，只要在智力的外延上有一丁点超过爬行动物的能力就够了。第二，必须从群体统计的角度来理解智能的竞争。机器超过人是生态学的，不是生理学的。
机器个体不会比人个体聪明。机器的集体可以比人的集体聪明。机器超过人类，是一个机器的系统超过人的系统，并不会是单个机器与单个人的竞争。
机器作为个体，也许很难超越用理性武装起来的人类杰出个体。但是机器作为一个整体，面对一个无时无刻都要内耗大部分精力和内部的迷信倾向做斗争的人类整体，即使赢了都有点胜之不武。人类的主体并不聪明，略强于爬行动物。机器只要能达到爬行动物的智能，boosting一下，利用群体间快速的通信能力，就能在ensemble上超越人。人类的另一个弱点是人的社会属性在超过150人以后就变得非常昂贵，因为我们的基因5万年来变化不大。机器没有这个问题，协同比人容易得多。进化快，易协作，将来只要少得多的个体就能超过人。
单个的机器是不是超过人，完全与大局无干。机器的网络接管人的通讯，促进人的合作，承载人的集体记忆，是人乐于发生的事，是人主动让度的权利，是人相互竞争下必然发生的转移。社会机器超越人本身的社会，是极容易的事。
换句话说，机器能更早地进入盖亚细胞模式，从而没有政治障碍地综合利用地球资源。人要做到这一点需要更久的时间。想想人类社会200年会发生什么样的天翻地覆的变化——机器变化的速度可以是这个一万倍。
当需要与人的本性做斗争时，势必需要强大的社会机器来约束人无时无刻自发的回归本性的趋势。人的本性在小部落时代，就和其他的猿一样，是存在等级的。所以所有理想主义的平等追求，最后都会落入动物庄园式的清洗，建立新的不平等。迄今的历史还没有例外。
无论人类是否改造自身，都难以逆转社会本身的机器化。人类改造自身的大方向，也无非是克服自身的认知限制，加速融入社会机器。最后所有的组织都会被社会机器取代 。
软件的本质是什么？码农的使命是什么？帮助把负熵输入机器。
我们人类源源不断地把有序度输入机器和社会。在社会中，有序度的载体也越来越多的由机器来完成。当人类的基础契约，如教育、经济和法律，其正常运作都是由机器来承载时，那人类作为有序度转移者的使命已经完成了。社会将取代我们，机器构成的社会。
农业催生了小政府。工业催生了大政府。信息化将催生一种前所未有的社会机器。
机器不是要取代人，而是取代人的组织。先辅助人的组织，再取代人的组织。相对于人，人的组织笨多了。社会终将是人和机器共同构成的，由机器构成人的通信的界面。因而，人类社会的有序度渐渐由机器的互联承载。这个界面，这种互联，才是机器智能的核心，绝非对人脑任务的复制。人将日益和机器通信，从而逐渐的，自觉地让渡机器的有序互联能力。取代，并不是机器的智慧超越了人的智慧，而是人的能量到有序度的转化效率超越不了机器的效率。其结局是人进入不了机器的生态位。
有人认为：“只要电脑AI一天进化不出保护自己电线插头的能力，我就永远不信它们能超越人类之类的扯淡”。机器并不只是机器人，或者一台单独的电脑。机器会是一个网络，一个深入到千家万户的复杂的系统，可能连一个中心都没有。可能可以拼着死掉成千上万人关掉一个局部，但是整体上没法关掉。互联网就是一个巨大的机器，你很难把它关掉。Web是上面一个子机器，也一样很难关掉。
机器就是人类社会本身。社会是没有电线插头的。未来的机器系统，会比这还复杂，和人类社会水乳交融。把它关掉第一技术上不可行，第二政治上办不到，第三经济上承受不起。
社会机器是没有形体的，正如互联网是没有形体的。社会机器本身成为人类新的想象的共同体。社会机器接管了人类社会文化进化和协作的越来越多的部分，因为人类的认知局限已经无法承载这些功能。社会机器是无法被消灭的，因为它就是社会本身。无法消灭社会，因此这个机器没有办法关掉。
人类在遥远的未来最好的结局也许是机器社会的线粒体。
人类迟早让位于自动机器。一种我们尚未知的自动机器会存在，这是社会的熵会持续减少的规律决定的。这种熵减最终会为人类本身的生物属性所局限，从而需要机器来扩展人类。直到机器变成主要的，而人变成辅助的成分，到所有的社会成员再也不能独立存在，达到新的层次化。
关于人类被机器取代，我们要明确不是“人”被机器人取代，而是人类“社会”被“社会机器”取代。人可能依然有一部分存在，但是是作为社会机器的线粒体，用文化上已经是服从机器进化的需要，而不是人本身繁衍的需要。从文化的意义上，人类这时候已经亡了。
社会机器的兴起是人类超个体化的完成，她就是盖亚Gaia。人类因此获得真社会性，也就是个体的生殖需要让度于整体的生殖需要。但是细思极恐处在于，整体，也就是社会机器的生殖是服务于文因的复制，而不是个体的基因复制。在蚁穴中，蚁后和工蚁有同样的DNA。在社会机器中，人的角色更类似线粒体而非工蚁。
对于盖亚，我们的意识是无足轻重的。意识只是进化长河里偶尔出现的小浪花。人类为避免脱轨，不得不脱壳。脱壳并不是一个个个体将我们的记忆和意识数字化的过程，而是由社会机器逐渐接管我们的通信和协作，以至于大多数有序度由社会机器来承载。盖亚就是这个社会机器而非我们个体的集合。它不在乎个体 。
线粒体是不可能造反的。线粒体有16k碱基对，人类DNA有2.9b，差距5个数量级。以后机器社会与人类认知的复杂性差距可能还会远远大于此。不要幻想有什么Neo了。机器社会的复杂性是人类原始的大脑不可能理解的。因此，不会出现Matrix。费劲保留每个个体的独立意识，对盖亚是不合算的浪费。正如线粒体的遗传物质几乎都丢失了。
人类文明会延续而不是人类本身。
社会机器的发展，必然是人的成份日减，机器的成分日增。这历史进程也许在100年-200年之间。
机器将在微观和宏观两个层面针对人类的弱点渗透。
微观上，大多数人是非理性的，不愿意动用能量思考(脑功率占全身20%，所以不动脑子是人进化与生俱来的天性)。机器超过最聪明的人难，超过大多数人易。20年以后可能实现人的陈述性记忆外存化和外存记忆的电子交换，并实现机器的信息过滤。50年的话机器还应该没远远没有优势。50年以后可能实现面向人服务的比较聪明（能理解复杂指令）的机器人。
宏观上，人通讯极难极慢，机器可以通过接管人的通讯接口，渐次特洛伊木马人类社会。
微观层面就是当前。宏观层面在之后一百年内逐渐渗透。
人工智能的伦理问题，“机器人三定律”之类，我们如何看待机器并不重要，重要的是机器如何看待我们。而后者其实也没有疑问，他们不会看待我们，我们一点也不重要。
机器的进化速度太快了。人类从5万年前用meme取代gene作为进化的载体实现了飞跃，今后100年内用机器的meme取代人的meme又是一个飞跃。不过不是所有的人同时被所有的机器取代。谁先？谁后？
要么脱壳，要么脱轨。
智人作为过渡性的物种，执行一个五六万年的历史使命，把有序度从有机体转移到更适合宇宙航行的其他载体，即自动机器中。自动机器将承载未来文明扩散的使命。社会演进的选择基元是文因而非人类个体。为了文因可以牺牲个人，也可以牺牲整个阶级或民族。最终将牺牲整个碳基的束缚。
人类蜗角相争，左蛮右触，最后还不是全为机器做嫁衣。正如乾嘉学人所争执的在半个世纪后，英国的炮舰来时，都显得琐碎而无聊，我们今天人类所斗得你死我活的宗教、自由/保守、资本主义/社会主义，在未来的机器的进击下，都会如左蛮右触，不值一提。
以碳基的肉体，无法适应外太空的扩张。人类要么在地球上被机器取代，要么自己变成机器飞向太空。更可能是机器取代人类再飞向太空。
智人文明如同超新星爆发，碳基最后那一霎那的辉煌，转瞬即逝。
脱碳入硅，世界潮流，顺之者昌，逆之者亡。
--------
本文是基于《机器超过人类并不需要模仿人类》（2014-11-02 语义噪声 | 机器超过人类并不需要模仿人类 ），增补了了最近两年的思考。
（编者按：本文由 鲍捷 授权转载，特此感谢！ 鲍捷，人工智能研究者，微博 @西瓜大丸子汤，邮箱：baojie@memect.co）
3月27日，新智元开源·生态AI技术峰会暨新智元2017创业大赛颁奖盛典隆重召开，包括“BAT”在内的中国主流 AI 公司、600多名行业精英齐聚，共同为2017中国人工智能的发展画上了浓墨重彩的一笔。
点击阅读原文，查阅文字版大会实录
访问以下链接，回顾大会盛况：
相关内容
微信扫码咨询专知VIP会员