通往未来人机关系的神秘之路

2017 年 10 月 15 日 德先生 王晓

“谁渴望预见未来，就必须征询过去，因为人类的事务从来都是与过往的时代类似”。

——尼可罗•马基亚维利

“ 赛博（Cyber）是什么？”是Thomas Rid在其最新力著《机器崛起（Rise of the Machines）》一书中追寻的问题。既然题关赛博，为什么书名却关于机器？同样，今年暑假上映的《变形金刚5：最后的骑士》中，也提到了这一单词，机器人与汽车人的“母星”被起名为赛博坦（Cybertron）。到底，机器与赛博有什么关系？几十年来，对赛博的探索不停地引发新的思考甚至想象，重塑我们对科技的思考，从赛博战争（Cyberwar）、赛博空间（Cyberspace）、赛博朋克（Cyberpunk）到赛博安全（Cybersecurity）等等。而这一切的一切，可以追溯到一位神经兮兮的MIT数学教授在1948年出版的一本著作。

时值第二次世界大战结束不到3年的时间，一方面，战争的阴影仍然笼罩着人们；另一方面，军事力量开始逐渐渗透到工业和私营经济中，具备“负反馈”功能的机器们突然具有了根据环境调整自身行为的能力，这令许多人惊恐不已，如果机器学习的速度超过人类学习的速度，它们是否能够获得超越人类智能的智能？公众亟需有人来解释这些新技术以及他们出现的目的。

诺伯特•维纳划时代的巨著《控制论（Cybernetics）》应时而生。整本书中充满了对于未来的大胆猜测：能够思考和学习、并且变得比人“更聪明”的自适应机器将会出现，而这些猜测又因书中强大的数学公式和深奥的工程术语而被大众深信不疑。公众们庆贺维纳成为了第二次工业革命的先知：第一次工业革命时，发动机和生产设备取代了人力劳动；第二次工业革命，《控制论》的机制将取代人类大脑。

《控制论》的出现，是对20世纪40年代史诗般的武力对决中出现的各种新式武器及革新技术的回应。它出版后不久，少数科学家就以“机器的通用理论（General Theory of Machines）”之名对其进行了解释，说明控制论并不局限于已被制造出的机器，而是适用于所有机器的一种理论，包括那些尚未被发明的机器。而制造了世界上第一台“思维机器”的英国神经生理学家罗斯•阿什比则认为，控制论之于机器就像几何学之于空间中的物体，没有数学家会受限于厨房柜台上放着的5个苹果，那么为什么控制论要受限于已经研发出来的机器呢？

维纳在《控制论》一书中提出了三个核心思想：控制、反馈与人机交互，仍在影响今天之智能科技的发展。有趣的是，我们之所以担心今天之人工智能与智能机器，一定程度上正是因为大规模人群与泛在的智能机器的交互为之提供了更为便捷的学习途径，赋予了机器控制其他机器、机器控制我们的环境、甚至夺取我们对环境的控制的能力。控制与反馈，可能有些抽象；但人机交互，却激发了丰富的想象，使不同学科碰撞出了绚烂的火花。回到1950年图灵的“模仿游戏”对于机器智能的定义，正是将机器使用人类的语言与人类进行交互的能力作为了衡量机器是否具有智能的重要标准。

实际上，生命和智能一直是人类最美丽的两类追求。当人们开始设想自己的创造物——机器，是否终有一天能够获得生命与智能时，人类与机器的关系，也引发了新的思考与探讨。其中，两股对立的力量共同塑造了未来科技与生活的愿景。一方认为控制论将带来一个更加美好的世界：机器将把人类从繁重、重复的体力劳动中解放出来，工作更加人性化，游戏更加自由化，战争不再那么血腥；另一方则对控制论带来的未来充满恐慌，机器人是否会使工人陷入失业，机器是否会伤害人类，当人类把大量的控制委托于机器，机器是否会反过来控制人类？

70年科技发展，历史轮回，我们仍在为相同的曾经困扰了维纳、图灵、冯诺依曼、麦卡锡、明斯基等科学思想家们的问题而争论不休。也许，这正是未来的迷人之处，充满了未知与不确定。正如Thomas在书中所说，通往未来的神秘之路可能是一条标示明确且笔直的道路，也可能是一条隐蔽的、向后而不是向前循环的道路，我们可能会反复地遭遇早已被克服的障碍。但毫无疑问的是，人与机器的关系，将是我们关注的一个重点，也是决定未来社会形态的关键之所在。

近年来所谓的人工智能，无一不是以挑战人类作为机器智能或者智能技术先进性的唯一标准。它似乎在传达这样一种讯息，机器在棋类游戏中战胜了人类，即可代表机器的智能超越了人类的智能。实际上，科学家们一直非常热衷于让AI跟人类玩棋类游戏。从最早的井字棋、跳棋，20年前的国际象棋，以及近来非常热门的围棋和德州扑克，AI不停地在不同的智力计算游戏上成功地击败人类选手。但不管是跳棋、国际象棋亦或围棋，本质上都是一种确定性、零和且完全信息的博弈。

首先，它们均是由两名玩家参与，每个玩家在任意时刻都能看到全部信息，因此这其中不存在“隐藏”信息；
其次，游戏的局面只能是对一方有利且对另一方无利，每走一步，算法就会对搜索计算以后各种情况下自己的胜率进行计算，存在一种明确的“输赢”判断；
同时，这些游戏都是确定性博弈，其中不存在“运气”，也不会引入任何的随机性。从计算的角度来讲，计算机在确定、零和且完全信息的博弈中超过人类是迟早的事情。

早在1997年，在卡斯帕罗夫输给IBM的深蓝象棋程序之后，他便开始探索计算机如何下棋并将它与人类的玩法进行了比较。随后，他提出了一种“高级象棋游戏”的形态：对战的每一方都是一个拥有一台计算机进行协助的人类。术语“国际象棋半人马”由此被提出，以神话中半人半马的生物来类比这一半人半计算机的象棋比赛团体。几十年来，象棋半人马的表现逐渐超越了表现最优的人类玩家和表现最优的计算机，展示了一种人类能够基于自己的象棋知识进行选择、然后借助计算机来搜索最佳下法的混合力量。但到了2012年左右，随着计算机能更快地搜索并计算更多可能局势的能力得到日渐增长，半人马开始输给越来越强大的专门下象棋的计算机了。就在最近，一种被称为“自由体”的高级象棋游戏出现了。在“自由体”比赛中，博弈在线进行，两名进行对抗的玩家能够利用所有可能的资源，包括计算机以及其它象棋玩家。到了2016年，世界上最好的象棋玩家已经是“自由体”形式的团队们，他们已能够打败最好的象棋机器。

几十年来的科技发展与进步，使得汽车、飞机、轮船、潜艇甚至宇宙飞船，拓展了人类腿脚的可到达范围；螺丝刀、斧头、鼠标甚至触摸屏，扩展了人类手的应用范围；传声筒、军队号角以及电话，扩展了人类语言的传播范围。现在，在新一代人工智能技术与社会网络的协同促进下，计算机、手机以及各种智能设备，正在扩展我们大脑的计算、推理、认知和理解能力。更甚者，机器联通之后形成的内部空间（赛博空间），亦可看做对于我们物理世界的扩展。不管是在物理空间还是在赛博空间，引用中国科学院自动化研究所王飞跃研究员的一句话来表达未来人与机器/技术的关系：

以人工智能和机器人为代表的智能技术是时代的呼唤，对此我们要有激动之心；智能科学是多少前辈科学家努力的结果，是科学发展的必然，对此我们要有敬畏之心；智能科技同其他科技一样，是把双刃剑，既能造福人类，但用不好也会对人类造成伤害，对此我们要有平常之心。

最后，请大家不要忘了加利福尼亚大学人类学系教授Sherwood Washburn曾经说过的一句话：“正是人类对于最简单工具的成功运用，开启了人类进化的整个历程，才有了如今的社会文明”。以及著名的计算机科学家、1972年图灵奖得主Edsger Dijkstra曾说过的另外一句话“我们所使用的工具影响着我们的思维方式和思维习惯，从而也将深刻地影响着我们的思维能力。”

本文作者：王晓，社会计算学科首位博士，中科院自动化研究所助理研究员，译有《决策知识自动化》《机器崛起》两本著作。
参考文献：
《控制论》中文译本：诺伯特•维纳. 控制论：或关于在动物和机器中控制和通信的科学[M]. 郝季仁译. 北京：北京大学出版社, 2007.
王晓，王帅，王佼译，社会机器，机械工业出版社，北京，2017年11月。

📚往期文章推荐