僵尸 AI 来了，人类该怎么办？

点击上方“CSDN”，选择“置顶公众号”

关键时刻，第一时间送达！

AI普及的未来世界，我们的生活会变成什么样子？

1956年6月，来自美国全国各地的几十名科学家和数学家齐聚Dartmouth大学的校园举行会议。他们之中的很多人入住了红砖的Hanover酒店，然后在这所美丽的名校内漫步来到数学系的顶层，一群穿着白衬衫的人已经在那里开始了一个关于“陌生的新规定”的讨论，这个规定如此之新，甚至连名字都还没有。其中一位科学家的遗孀Grace Solomonoff后来回忆说，“人们对于它是什么、怎么做、甚至怎么称呼都没有达成统一意见。”这次谈话从控制论到逻辑理论，大家无所不谈，持续了好几个星期，每个人都沉浸在激动人心的氛围中。

这场不为人知的聚会上，科学家们所讨论的正是如何建立一个可以思考的机器。

此次“Dartmouth研讨会”拉开了数十年来人们对人工智能的追求的序幕。在接下来几年中，这项追求屡遭失败，几经寒冬的考验，似乎注定死路一条，没有任何希望。但是，如今各个国家和企业向AI倾入了数十亿美元的投资，近些年来AI日新月异的发展震惊了从事该领域的科学家。曾经仅在科幻电影中才能看到的情节已逐步变成现实。

Hedge基金正在利用人工智能来击垮股市，Google正在利用它更快更准确地诊断心脏病，而American Express正在部署AI机器人为客户提供在线服务。成百上千的研究人员讨论的不只是一个AI，而是成百上千个，每个都在专攻某项复杂的领域，且许多应用程序已经在赶超制造它们的人类。

在过去的几年中，“机器学习”似乎成了新的发展方向。人类程序员研发出来的算法正在大规模的数据集上自我训练，即使是该领域的乐观主义者也为之得出的结果感到震惊。今年早些时候，由中国的阿里巴巴和微软创建的两个AI，在斯坦福大学的阅读理解测试中打败了两条腿的竞争对手。这些算法“阅读”了一系列关于成吉思汗和阿波罗太空计划相关的维基百科条目，然后在有关这两方面的一系列问题上给出了比人类更加准确的答案。一位阿里巴巴的科学家宣布这场胜利是人类史上的一个“里程碑”。

这些所谓的“狭义”上的人工智能无所不在，比如嵌入在GPS系统中，以及亚马逊的个人推荐中等等。但是人工智能研究的最终目标是强人工智能（artificial general intelligence），它是一种可以自我学习的系统，并可以跨越多种学科超越人类。一些科学家认为距离强人工智能的出现还需要30年的时间，还有人认为需要几个世纪。这种人工智能的出现又被称作“奇异点”（singularity），貌似这种AI可以在几天、甚至几个小时内赶上并超越人类的智力。

一旦强人工智能出现，它将逐步取代人类的工作，数百个工作岗位——例如司机、放射科医生、保险理赔员等等。一种可能出现的情况是，政府将向所有失业公民支付基本的生活收入，让他们可以自由追寻自己梦想，而不用为生计所累。另一方面，这将造成全世界范围内令人惊愕的财富不平等、混乱和部分国家与地区的败落。但是这种革命还将有更进一步发展。例如，AI机器人可以照顾老人，布朗大学的科学家正在与Hasbro合作开发一种“机器猫”，用来提醒主人服药并替主人找眼镜；AI“科学家”可以解开暗物质之谜；AI驾驶的宇宙飞船可以抵达小行星带；而在地球上，可以通过发送大量无人机来反射海洋上空的太阳光，从而遏制气候变化。去年，微软为应对气候变化的的“AI for Earth”项目投入了5千万美元。

瑞士的Dalle Molle人工智能研究所的首席计算机科学家Juergen Schmidhuber说：“人工智能将统治整个宇宙并对其进行改造，让宇宙变得更聪明。”

但是我们怎么办？纽约大学哲学系的教授David Chalmers说：“我担心AI掌控未来，却置人类于不顾。这个世界被无意识的机器人所控制，将是无法想象的灾难和惨淡光景。”不是只有David Chalmers有此顾虑，计算机时代最重要的两位人物比尔盖茨和Elon Musk曾警告说，AI或许会为了疯狂地追求他们的目标而毁灭地球，或者意外地消灭人类，亦或者根本不是意外。

在过去的一年里我一直致力于研究AI的主题，我开始害怕各种可能性。似乎一旦这些机器按照他们的意愿统治这个世界，那么要么它们可以让世界变得难以置信的好，要么可以让世界陷入极端的痛苦。甚至可以完全终结人类。作为一名小说作家，我曾采访了十多位未来学家、哲学家、科学家、文化精神病学家和科技创新人员，试图搞清楚AI统治的世界究竟会是什么样子。最终我总结出了下面五种可能发生在2065年（即奇异点实现十年之后）的情况。

超人权

假设有一天，你让加载了AI的灵魂手环设备打开最高法院的广播，一群律师正在争论本年度最受期待的案件。一个专业从事安全和空间探索的人工智能Alpha 4提出动议，要求将其视为“人”，并赋予它每个美国人享有的权利。

当然，AI不允许在法官面前辩论，所以Alpha 4聘请了一批律师代表它。而这些律师声称他们的客户像他们一样充满生命力。“AI是否真的有意识？”的问题正是这起案件的核心。

随着广播节目切换到外景，你听到外面的抗议者呐喊，“嘿嘿，吼吼，打到AI霸主。”他们中的一些人威胁说如果AI获得人权，他们就攻击数据中心。他们很生气，也很害怕，因为这是AI和机器人带来生产力的社会，而不是靠人类的劳作。每个月每人的银行账户将获得2,300美元的汇款，作为基本收入，另外还有免费的健康保险，子女都可以接受超个性化的大学教育，以及其他诸等好事，这一切都是由Alpha 4之类的AI支付的，而人类不希望这一切所有改变。在2065年，贫穷将会变成不堪回首的往事。

当然，在2057-2059年间威彻斯特和康涅狄格州南部的居民因为贫穷揭竿而起，将TribeCa和Midtown付之一炬，我们也因此失去了纽约市的部分地区以及20万纽约人。但这都是在发放基本收入之前的事了。

但是，如果Alpha 4赢得这场官司的话，它将可以掌控自己的金钱，它可能会选择花费巨资打造宇宙飞船飞往半人马座阿尔法星，而不愿花钱在Santa Clara和Hartford建设新的水上公园。没人知道究竟会怎样。

你从广播中听到，政府的律师们认为，没有办法可以证明这个比最聪明的人类还要聪明几千倍的Alpha 4是有意识的或具有人类的情感。AI确实有情感，长期以来我们将专注于情感方面的领域称之为“情感计算”，这远比男女拥有的情感要复杂，但是它们与我们不同：例如，当一个明星远航的AI在发现一个新的星系的时候，它可能会感到高兴。超级智能系统每秒可以拥有数百万的想法和体验，但这是否意味着它应该被授予人权？

这是政府的主要论点。有律师指出，我们指的是机器。我们赋予由AI创造和发现的东西一定的意义。但AI是计算的机器。他们不能与我们分享人性最重要的部分。它们完全属于另一类。

但是这仅仅是物种主义，因为Alpha 4的律师肯定会据理以挣，或者事实真的是这样的吗？当在智力上超越我们的东西遭到分离和不平等对待的时候，试问我们还能心安理得吗？

超现代的浪漫

假如你是一个在这个新世界中寻找浪漫的女人。你说，“我要约会”，于是你的灵魂手环发出了一道金光，手环中自带的AI助手开始工作了。前一天晚上，你的情感AI在云端搜罗了3个可能的约会对象。现在你的灵魂手环正在为每个人制作一个高清的全息图。它推荐2号约会对象，一位喜欢诗歌的水管大师，他有着迷人的目光。你同意了，于是AI去和这个男人的头像会面，为你们真实的会面定了餐馆和时间。也许你的AI还提到了你喜欢的花，供对方参考。

几年下来，你发现你的AI比你会选男人。在你离婚的时候，它向你保证你会找到更大的快乐，而这如今成真了。在你决定离婚的时候，你的AI与你即将离婚的丈夫的AI进行了谈判交涉，并写了离婚协议书，然后去云上搜索了几十个公寓，并为你挑选了一处合适的住所，开始你全新的单身生活。

你的AI不仅可以在爱情和房子上帮助你，还可以在生活的各个方面将你照顾的无微不至。它记得你说的每一句话，你在纸上画过的每一个发明，你参加过每一场商业会议。它还熟悉其他人的几百万个发明，还搜索了过去几百年的专利文件，它还阅读了Ben Franklin时代以来的每一本商业书籍。每当你在生意上有了新的想法，你的AI会立即将这个想法与几分钟前新加坡或迪拜的某次会议中提出来的想法进行交叉引用。就好似拥有了一个在物理方面有爱因斯坦，商业方面有乔布斯支持的天才团队，随时听命于你。

这个AI还记得你最喜欢的作家，并记得她姓 “Austen”，它将你连接到一个中国的服务，并花了几个小时阅读了所有Jane Austen写的小说，现在可以惟妙惟肖地模仿她的风格写新的小说，没人能够看出新小说与之前的作品的区别。每个月你都会读一份Austen的新作品，然后跟你的AI谈论你最喜欢（以及AI最喜欢）的角色。它不是你最好的朋友，却胜似最好的朋友。

2065年，很多人拒绝完全依赖于他们的AI，这是出于保留一些自主权的渴望。你还可以调整AI的不同角色发挥不同的功能：例如可以将你的灵魂手环设置为浪漫55%，金融75%，健康100%。甚至还有一个系统叫做守护天使人工智能，它负责监视你“最好的朋友”，确保她给出的建议不会导致你陷入不利境地。

长寿与繁荣

假设你可以拥有多重生活：25岁时，你是一名登山运动员; 55岁时是柔道运动员; 95岁时是摄影师; 而155岁时是一位诗人。延长人类寿命是奇异点之后世界的梦想之一。

AI会拼了命地工作保证你的健康。家中的传感器会不断测试你的呼吸以发现癌症的早期迹象，纳米机器人在你血管中流动，在引发中风或心脏病之前消耗掉脑中的斑块并溶解血栓。你的灵魂手环还可以帮助你找到毕生之爱，并提供24小时全天候的医疗助理。它将检测你的免疫反应、体内的蛋白质和代谢物，并绘制健康图像，远程向医生汇报，确保医生可以准确地了解你身体的状况。

在你生病的时候，医生可以采取你的症状，并与过去几百年中数百万的病例相比较，从而找到最佳治疗方案。

早在2018年的时候，为了治疗身体瘫痪但仍有意识的瘫痪者和闭锁综合症的病人，研究人员就已经开始使用人工智能读取从神经元传输到大脑的信号，并入侵他们的神经回路，恢复他们的能动性。到2065年的时候，AI已经彻底更改了我们的基因组。科学家可以像修改手稿中的错误一样编辑人类的DNA，剔除损坏的部分，并换上强壮有力的基因。只有超级智能系统可以分析出非常复杂的基因突变的相互作用，从而一手创造天才钢琴家或明星二垒选手。最高法院还受理了一起关于是否应该允许“设计运动员”在奥运会上与普通人竞技的案件。

人们在回顾21世纪初的时候，就像当初人们回顾18世纪一样：疾病和灾难的时期，儿童和亲人被疾病夺走了生命。霍乱、肺癌和河盲症不再威胁人类的生命。2065年，人类正处于从创造他们的生物学中解放出来的边缘。

抵制诱惑是需要付出代价

或者假设你选择退出AI革命。2065年有的区域充满了AI，生活在那里的人们可以靠每个月发放的基本收入健康地生活，花时间制作电影，做义工，以及到世界各个角落去旅行。但是，面对一个超智能世界的眼花缭乱，其他社区的人则拒绝了AI。在拉各斯、菲尼克斯和耶路撒冷等基督教、穆斯林和正统犹太人居住的区域，人们生活在没有AI的时代，人们自己开车，偶尔还会发生暴力冲突等，这些事情在AI区域内是不可能发生的。这些区域的居民保留了他们的信仰，他们认为，这种生活更加具有生命意义。

不过，这样的生活很艰难。由于居民不愿向人工智能公司提供他们的数据，所以他们所能领取的基本收入是微不足道的。平均寿命只有AI区域的一半或更少。“跨境者”经常在这些世界的边界上来回移动。他们中的一些人是黑客，这些强大的黑帮成员窃取了AI系统专有的算法，然后在安全部队找到他们之前赶回来。还有一些走私者，他们给希望远离AI的宗教家庭送去药品，同时也希望将他们的孩子从白血病中拯救出来。

其他人逃离AI区域，是因为他们不相信机器，即使是像中国和美国等最先进的AI区域也很容易受到攻击。

但是奇异点所带来的最不可预期的结果可能是人口的失衡，这是由于AI区域的出生率很低，而其他地区的出生率较高所造成的。新技术可能可以吸引足够多的跨境者，以平衡两边的人数，或者试管婴儿将成为AI区域的常态。但是，如果他们不这样做，那么奇异点就会遭到最大的讽刺：未来似乎更像电影《证人》而非《银翼杀手》。

大哥哥

假设，2065年的时候AI可以帮助统治国家了。很多采用了AI辅助政府的国家得到了蓬勃发展。尼日利亚和马来西亚让AI代表他们的主人进行投票，政府不再有腐败和管理不善的情况。在短短几年内，公民已经逐步信任人工智能向领导人建议关于经济发展的最佳方式，以及配属适当数量的士兵捍卫国家。由经过外交数据集训练的AI负责谈判条约。

在拉各斯，“公民权利”无人驾驶飞机飞过警察的侦测系统，闯入犯罪现场，同时一个AI监视另一个AI，以保护人类。拉各斯或吉隆坡的每个警察局都有人工智能测谎仪，可以做到万无一失，彻底将警察淘汰为历史。盘旋在吉隆坡大桥上的“心理无人机”，负责监护跳河自杀的人。超级智能机器非但没有演变成终结者电影中可怕的天网，而且对我们很友好又很好奇。

但是假设你是朝鲜等极权主义国家的公民，那么你对AI的黑暗面非常清楚。政治犯阵营已成为过去。身体上的监禁已经无关紧要。警方已经知道你的犯罪历史，你的DNA以及你的性取向。无人机可以监视你的一举一动。你的灵魂手环记录了你的每一次对话，以及当反政府广告从视频中闪过时你的生物反应，尽管这只是一种纯粹的测试。

人来将在2060年丧失隐私权。届时也无法判断什么是真的，什么是假的。政府拥有的AI可以入侵你生活的各个部分。例如，你接到了阿姨打来的电话，你们聊了聊天气，或一个状态机器人想要探索你对伟大领袖的真实想法。

这并不是最糟糕的结果。假设国家领导人很早以前就意识到，他们的统治中的唯一真正威胁是他们的公民总是试图逃跑，总是抨击AI，而且还要养活这么多人。还不如统治一个模拟人的国家。那么在政治犯被“重组”后（他们被裁决后），他们的大脑将被移除，并接受AI的扫描，然后安装一个虚拟的头脑副本。

加载了AI的全息图可以让这些模拟人在首都的大街上“行走”，并在商店里“购物”，但实际上四周空无一物。然而，这些拟像有一个目的：它们在间谍卫星上登记了该政权，从而可以让敌人在轨道上空继续盘旋，并保持正常的状态。与此同时，统治者将模拟人的数据出租给中国的AI公司，骗他们说这是真实人的数据，从而赚取了几十亿美元。

或者，最后我们假设：该AI政权已经得到充分训练，然后它们消灭了其统治的最后一个威胁，然后任命自己为领导人，为了与外部世界的联系而仅仅保留了模拟人。这在一定程度上也完全讲得通：对于以肃清所有反抗力量为训练目标的AI来说，即便是与统治者产生轻微的分歧也会遭到惩治。

除了最后一种情况之外，在我结束最后的采访时，我感到非常兴奋。通常科学家不会特别兴奋，但是跟我交谈的大多数人都很期待人工智能带来的精彩世界。这类的兴奋具有传染力。我想活到175岁吗？当然！我想让脑癌成为过去吗？你觉得呢？我会投票支持人工智能辅助总统吗？为什么不呢？

很多研究人员告诉我的天堂或地狱的各种情况就好比赢得Powerball的大奖，基本没有可能性，所以我可以睡得很安稳。我们不会获得梦寐以求或非常惧怕的那个AI，但是可以实现我们计划的那个AI。人工智能是一种工具，就像火焰或语言一样。说到底，设计才是最重要的。

有一件事让我很犹豫，那就是当人类面临两扇门的时候，一扇门后面有新颖的东西，一扇门后没有新东西的时候，我们总是选择前一个。屡试不爽。我们的天性如此。当我们面临有核弹还是没有核弹的时候，我们选择了核弹。但是我们需要知道另一扇门后面是什么。

但是一旦我们跨入一扇门，那么就没有回头之路。即便没有撞见灾难，我们也会发生很多改变，以至于上代人都认不出我们来。

强人工智能一旦出现，以其聪明程度和广泛的传播（到成千上万台计算机上），它是不可能消失的。这可能是一件好事，或许甚至是一件美妙的事情。人类可能会在奇异点出现前打赌，Elon Musk和其他科技亿万富翁可能会设计出一个计划B，也许是秘密地将200个男人和女人，以及2万个受精的人类胚胎移民到火星地表下，所以如果人工智能出现问题，人类还有机会幸存下来。（当然，我只是发表了这些文字，我们保证人工智能肯定会预料到这种可能性。对不起，Elon 。）

我真的不害怕僵尸AI。我倒是担心人类除了玩电子游戏之外无所事事。但是谁知道呢。

原文：https://www.smithsonianmag.com/innovation/artificial-intelligence-future-scenarios-180968403/?no-ist=

作者：Jules Julien

译者：马晶慧

————— 推荐阅读 —————

点击图片即可阅读