【LeCun专访】别再拿“终结者”说事儿，人们过度解读Hinton的话

2017 年 11 月 1 日 新智元

【AI WORLD 2017世界人工智能大会倒计时 7 天】

AI World 2017世界人工智能大会终极指南：嘉宾演讲与议程

在2017年11月8日在北京国家会议中心举办的AI World 2017世界人工智能大会上，我们邀请到微软全球资深副总裁，微软（亚洲）互联网工程院院长王永东发表演讲，他将介绍《未来AI的点定义》。此外，在计算机视觉这一领域，阿里巴巴副总裁、iDST副院长华先胜，旷视科技Face++首席科学家、旷视研究院院长孙剑博士，腾讯优图实验室杰出科学家贾佳亚教授，以及硅谷知名企业家、IEEE Fellow Chris Rowen等多位领袖将共论人脸识别等前沿技术。

抢票链接：http://www.huodongxing.com/event/2405852054900?td=4231978320026

大会官网：http://www.aiworld2017.com

新智元编译

来源：The Verge

作者：James Vincent

编译：Cecilia

【新智元导读】Yann LeCun近日在接受The Verge采访时表示，近期到中期范围内，人工智能并不具备危险，“AI终结者”的言论完全是错的。人工智能若要发展到婴儿水平的智商，还有漫漫长路。

Yann LeCun是AI界最负盛名的人之一。所以当他说目前人工智能的最新进展并没有使我们更接近于超级智能时，您就需要注意了。

LeCun已经在AI界工作了数十年，并且是卷积神经网络的共同发明者之一。现在，作为Facebook AI研究机构FAIR的负责人，他帮助AI从实验室走向现实世界。其团队研发的软件能够自动为盲人用户描述照片，每天机器翻译次数达45亿次。

Facebook使用人工智能为盲人用户／视觉受损用户提供照片描述。用户在iOS设备上使用这款屏幕阅读器时，该工具可对照片进行自动文本处理，从而让用户听到照片上的内容描述。

Facebook为用户提供自动翻译功能。

“我们对产品的影响比Zuckerberg预期的大。”LeCun近日表示。但是，正如他在采访中所解释的那样，很明显人工智能在达到婴儿甚至动物的智商之前，仍然有很长的路要走。 LeCun 会因为我们不在文章中使用类似“终结者”的配图而感到高兴。

Q: 最近关于Facebook AI工作的最大新闻之一是“AI机器人” 在发明自己的语言后遭到关闭。有很多报道严重歪曲了最初的研究。你和同事如何应对这些报道？

第一次看到时，会笑。当这种报道被广泛传播后，我们的感觉就像被扯住头发一样痛苦：“他们完全错了！”

这件事启发了我们，我们了解到媒体所能造成的影响，也明白了我们能有好几种应对方法。我在Facebook上发表了一个帖子，试图以幽默的方式说明这很荒谬。我们和一些注重新闻真实性的记者交谈，并写了一些报道，表明之前的报道完全失实陈述。

Q:在过去几年中，您认为这种报道变得更多还是更少了？

少一些。感觉媒体人士和公众在逐渐了解事实。之前，关于人工智能的新闻里配图永远是终结者。百分之百。现在少了很多，这是一件好事。但偶尔也会出现完全误读的报道。

Facebook Prineville数据中心

Q:当你看到这种报道时，你想跟公众解释清楚哪些内容？

每当我和公众进行交谈时，我都会重复一遍：我们离建立真正的智能机器还很远。你现在看到所有AI的成就，如无人驾驶、自动医学图像识别、AlphaGo击败围棋冠军等，都是非常局限的智能。它们是为特定的目的进行训练。我们能够做到这些是因为可以为它们收集很多的数据来做训练。

我并不是说DeepMind在AlphaGo上所做的工作不重要，但是人们将AlphaGo的发展解读为通用智能的重要一步，是错误的。一台机器赢得了人类棋手，不代表很多机器人能在街上跑来跑去。这是两个完全分离的问题。其他人可能会有别的看法，但这是我个人的意见。

距离机器以人类和动物的方式学习最基本的事情还很远。的确，机器在某些领域具有超人的表现。但在通用智能方面，甚至比不上一只老鼠。因此很多人的提问都为时过早。这不代表我们不应该考虑这些问题，而是因为在眼下甚至中期人工智能都没有什么危险。 AI的确存在着一系列风险，但绝不是终结者。

Q：DeepMind谈起AlphaGo的工作时，提到了他们创建的算法可用于科学研究（蛋白质折叠和药物研究）。你认为在世界其他领域应用这种技术容易吗？

AlphaGo使用强化学习。强化学习适用于游戏; 它适用于只有少量离散动作的情况，并且它能够运行是因为它需要大量试验来运行复杂的操作。AlphaGo Zero（AlphaGo的最新版本）在几天或几周内打过数百万场围棋比赛，这远远超过了几千年来围棋大师下过的围棋局数总和。这是很有可能的。因为围棋是一个非常简单的环境，你可以在多台计算机上以每秒几千帧的速度进行模拟。但是，这在现实世界中不起作用，因为你不能比时间跑得更快。

解决这个问题的唯一办法就是让机器能够通过学习建立自己的内部世界模型，从而模拟比真实时间还快的世界。我们缺少的关键科学技术是如何用机器建立世界模型。

举个例子，当一个人学开车时，他有一个真实世界的模型。这会让他意识到，如果他开错路或撞到树，就会发生不好的事儿，这并不是一个好主意。我们有一个很好的整体模型，即使我们在开车时，我们知道：在道路上开车，不要冲下悬崖或者撞到树上。但是，如果你使用纯粹的强化学习技术，用模拟器训练出一套系统来驾驶汽车，那么在撞了四万次树之后，它才能意识到这样做是不对的。所以需要强调：“强化学习是智能进步的关键”这种观点是错误的。

Q: 你是否认为，AI仍然缺少一些基本工具来克服目前的局限性？ AI先驱Geoffrey Hinton 最近提到了这个话题，他说这个领域需要“把它全部丢弃，重新开始”

我认为人们对他的话有点过度解读，（但）我完全同意（我们需要更多的AI基础研究）。例如，Hinton喜欢的模型之一就是他在1985年提出的一个名叫Boltzmann的机器。对他而言，这是一个美丽的算法，但实际上它并不好用。我们想要找到的东西，不仅要具有Boltzmann机器般的优美性和简单性，还要有反向传播的效率（用于优化AI系统的一种计算）。这正是我们许多人（Bengio,Geoff和我）在21世纪初期重新开始研究深度学习时一直求索的。让我们惊讶的是，最终在实践中奏效的是深度网络。

Q: 因此，鉴于AI的巨大变化，您认为短期内对消费者来说，用处最大的是什么？ Facebook在这方面的计划是什么？

我认为虚拟助手会成为爆点。目前的助手大多数基于脚本化和一些可能答案树形结构，从而回答用户的问题。尽管机器人在某些场景下能发挥作用，如客户服务，但创建那种机器人真的很乏味，昂贵和脆弱。下一步将是具有学习能力的系统，这是Facebook正在做的。当你有一台能够阅读长文本并且回答相关问题的机器，这就很有用了。

接下来一步就是是常识，机器与人有相同的背景知识。但是，除非能找到一些方法来让机器通过观察来了解世界如何运行（比如看视频或看书），否则我们做不到。这就是未来几年的关键科技挑战。我称之为预测学习，有人称之为无监督学习。

在接下来的几年里会有不断的进步，虚拟助手变得越来越有用，人们和它们交流也会越来越不费劲。它们将拥有更多的背景知识，并为人们做很多设计者没有写到脚本中的事情。Facebook对此非常感兴趣。