对话LSTM之父Jürgen Schmidhuber：为什么我觉得“AI奴役人类”的说法很愚蠢？

AI科技评论按：9月12日上午，南京金秋洽谈会“2017中国人工智能峰会（CAIS 2017）”在南京国际博览会议中心盛大开幕。本次峰会以“创新、变革、突破”为主题，并设两大主题论坛，共吸引了30余位人工智能领域著名的科学家、企业领袖亲临现场，1500余名专业观众报名参会，雷锋网作为受邀媒体参加了本次峰会并进行了报道。

在大会上，瑞士人工智能实验室 IDSIA 主任、“LSTM之父”Jürgen Schmidhuber发表了名为《True Artifical Intelligence Will Change Everything》的演讲。LSTM近年来取得了长足的发展，今天，基于 LSTM 的系统被广泛应用在机器人控制、图像分析，文档总结，视频识别、手写识别、聊天机器人、智能助手、推荐系统、预测疾病和股票市场等商业领域，但Jürgen Schmidhuber认为，现在的人工智能离真正的人工智能，即具备自我学习能力的通用人工智能还有不小的差距。

（Jürgen Schmidhuber在CAIS 2017大会上演讲）

在演讲中，Jürgen Schmidhuber对20世纪的人工智能进行了简要的回顾，并结合自己对递归式自我改进算法的研究，对未来做出自己的展望。在他看来，目前被各大科技巨头采用的LSTM只是通用人工智能的前序工作，具备自我学习能力的通用人工智能可能比人类更聪明，也具备改变一切的能力。

Jürgen Schmidhuber 还对未来的世界进行了展望。根据其研究发现，宇宙历史的重大事件之间的间隔时间存在一定规律性，每个大事件到来的时间是前一个大事件的四分之一。通过仔细研究了这一模式发现，这些大事件将会收敛于2050年，即“奇点”，而根据这一规律，Jürgen Schmidhuber预计，在2038年前后，廉价家用电脑或将具备人脑的能力。

在会后，Jürgen Schmidhuber接受了雷锋网的采访，以下为采访实录：

AI科技评论：您在机器学习领域有着诸多的杰出贡献，您自己最引以为傲的一项研究成果是？

J.S： 我觉得我所有研究中有一项，虽然在商业上认知不是很广，但是却是非常重要的研究：这是在我1987年的毕业论文中，我设想有一种算法，在学习的过程中可以同时提升自己如何去学习的能力。这是一种自我监督型的算法，我认为在宏观来讲这在商业应用上不是很好，但却是更宏大的命题：如何让机器具备自我学习、更聪明的能力。

AI科技评论：在您的这篇毕业论文中提到一个具有自我学习能力的机器人，这也使得您在此后的30年来一直为此努力。在您看来，您现在的研究和30年前的研究有什么样的差别？

J.S：当我还是一个男孩的时候，我就希望最大化我的影响力。我意识到，我必须建立一个具备自我学习能力的AI，学会变得比我更聪明，这样让AI解决我无法解决的所有问题，然后我就可以退休了。在我1987年的论文中，我描述了元学习（雷锋网(公众号：雷锋网)注：Meta Learning，或者叫做 Learning to Learn，已经成为继增强学习之后人工智能研究的一个重要的研究分支）计划的第一个具体研究，即不仅学习如何解决问题，而且学习提高自己的学习算法，通过递归自我学习最终成为超级人工智能。但这种设想受限当时的计算性能力无法进得到验证。

我仍然在为实现这一30年前的目标而努力，而且有越来越多的人对此感兴趣。为什么？由于我们在实现这一目标的道路上创造的方法正在渗透到我们生活的现代世界，每天有数十亿次的计算。截至2017年8月，五家最有价值的上市公司分别是苹果，谷歌，微软，Facebook，亚马逊。所有这些巨头都在使用LSTM。具体来讲，Facebook正在应用LSTM完成每天45亿次的翻译，Google 29%的数据中心计算能力使用LSTM（CNN仅占5%），LSTM不仅改善了近10亿部iPhone手机中的Siri和QuickType功能，更为超过20亿部Android手机语音识别提供支持，LSTM还是亚马逊Alexa和Google语音识别器的核心。

基于LSTM的系统还被广泛应用在机器人控制、图像分析，文档总结，视频识别、手写识别、聊天机器人、智能助手、推荐系统、预测疾病和股票市场等领域。你可以参考我们实验室的相关网页：http://people.idsia.ch/~juergen/impact-on-most-valuable-companies.html。

AI科技评论：要研发出这种自我完善的AI，最大的挑战在那里？

J.S：深度学习主要是通过监督学习进行模式识别。LSTM本身也是一种监督学习方法，因此在没有“老师”的情况下，它是无法成为能解决未知环境中各种问题的“真正的AI”。这就是为什么在30年的时间里，我一直在研究更加通用的AI。

元学习来是最近30年来关注焦点之一，自上世纪90年代，无监督学习展现出了我所说的“机器好奇心”（Artifical curiosity）和创造力，它们创造了自己的目标和试验来了解世界的运作方式以及能做的事情，这种AI可能会使用LSTM作为其学习预测行为的一个子模块，像孩子一样不断去解决发现和解决它们自己的全新的问题，最终成为一个能解答通用问题的AI。在这当中，最大的挑战在于，如何将这些通用类型的元学习和“机器好奇心”进一步扩大。

（Jürgen Schmidhuber接受媒体采访）

AI科技评论：最近François Chollet（Keras的作者）发推称，深度学习的研究进入了一个平台期。您怎么看这一观点？

J.S：如果要说平台期的话，深度学习的基础研究可能在上一个千年就进入了平台期了，我们做的无非在旧的方法下做小的改进而已（笑）。今天的深度学习主要基于LSTM和CNN，二者都是在上个世纪提出的理论，但近几年来，随着计算能力的提升和成本的下降，它们开始被广泛应用于商业领域。

一个比摩尔定律更古老的趋势是，一美元能买到的计算力在5年间大约增长10倍，从Konrad Zuse在1935-41年发明了第一台可以编程工作的计算机来，75年后，我们现在的计算能力大约是当时的千万亿倍。

问：在您看来，深度学习能力现在发展到了什么程度？

J.S：现在的深度学习主要是模式识别，比如你问Google，最近的餐馆在哪里？这是一种被动的方式。现在人工神经网路会对外部的信号做一个认知，观察，对它做一个简单的处理，但这远远没有达到人类那样收集到信号后对其可以进行深度加工和解析的程度。要达到这种程度，我们需要做一些更精细的人工智能，比如说增强学习，它可以通过奖励回馈的机制，去优化它的深度学习这种表现形式。我们现在没有的，就是让机器人像我们的婴儿一样的，看着你做东西就可以把它识别出来的通用能力，这方面的研究刚刚兴起，但远远没有达到人的程度。

现在大家能接触到的应用主要在手机里面，比如翻译、识别等，这里面的主要技术是LSTM，是我在97年提出的理论，随着近期计算能力的飞跃提升，这一方法的优势开始体现出来，与传统的机器学习方法相比最大的不同是，传统的机器学习是一种单向的向前进的学习方式，但LSTM是一种递归式、回馈上一个节点，通过不断的循环的机器学习方式，这也是LSTM最大的优势所在。

传统的单向式学习方法是一种预编程式的计算方法，需要人去预先编程，而LSTM可以进行通用计算，这也使得LSTM可以进行各种层次的运算，不管是并行的还是串行的，都可以通过这种通用的方式来进行计算，特别是在翻译、机器识别方面很有效。

具体应用上，我不知道微信是否有在用LSTM，但Facebook每天会基于LSTM进行45亿次的计算，主要应用在它的语言翻译方面。Google也在翻译上应用LSTM，一开始机器对于语言是一无所知的，你给了它两个语言翻译前后的对比，它会去逐步学习这当中的语言结构、语义等，渐渐的机器就学会了语言的翻译。我听说在2016年的11月前，Google翻译中文是会闹出很多笑话的，但在那之后，因为Google使用了LSTM，翻译的效果有了显著提升。同样在2015年，Google开始在翻译中将老的技术换成基于LSTM的模型的时候，当时不是有5%、10%的效果提升而是50%的飞跃式的效果提升。

问：您认为在未来5年内人工智能会如何发展？

J.S：在五年内，我们最好的自我学习机器人可能还无法达到孩子甚至某些动物的智能水平，但我认为不久后我们有望建立一个基于NN的人工智能（NNAI），通过逐步学习成为至少和动物一样聪明、具有好奇心、可以持续学习进行规划和推理，将各种各样问题分解为可快速解决（或已解决）的子问题的AI。

问：您认为现在的AI应用是更加贴近于企业机构还是更贴近于个人？

J.S：我们公司现在做的是一个B2B的生意，但如果你看我们公司（Nnaisense）的Logo，当中的A是一个倒A，在数学里这是“For All”的意思，我们希望AI的应用最终是能够造福全人类的。以后可能有一段可以赋予AI学习能力的源代码，而这样的源代码可以被所有人使用，而不仅仅是现在的巨头可以使用AI的这种能力一样。在未来AI可能会发展成像生物圈这样一个多层次、多样化的情况。

问：最近Facebook有两个机器人对话，大家觉得很危险，后来这个项目被Facebook关掉了，现在对于人工智能的争议也很大，想问一下未来机器人会不会取代人类？

J.S：早在1990年代，科学家已经做过了类似的机器人对话。从更宏观的角度来讲，我们应该去讨论我们是否去担心，当AI应用在军事用途的时候会不会造成一些不好的影响。现在AI技术也有被用在如控制军用无人机上，但宏观角度讲， 我不是很担心AI带来的变化，因为我们已经达到了自我毁灭能力的最大可能性，全世界有数千核弹头和运载它们的导弹，即使没有AI，如果我们打起核战争，几小时内地球会毁灭掉，所以我并不是很担心AI带来的附加威胁。AI并没有把我们自我毁灭能力变得更大。

从生物学的角度，我们应该担心的是和你相近的物种、而且和你有着共同目标的种群。有着共同的目标意味着你们或者会有合作，或者是竞争。最极端的合作方式就是婚姻，最极端的竞争方式就是战争。当有相同目标的时候，它会更倾向于被彼此吸引，政客对其他政客感兴趣、CEO对其他CEO感兴趣，7岁的小女孩对其他7岁的小女孩感兴趣，袋鼠关心袋鼠。同样，当超人工智能出现的时候，它关心的不是我们，而是其他超人工智能的更可能是另一个超人工智能，而非人类或者袋鼠。

在终结者或者黑客帝国里，我们看到AI奴役人类的情景，在我看来是非常愚蠢的，因为人类对AI来说是非常不好用的，它完全可以在很短时间内制造一大批效率比我们高的机器人，更快地完成他们的目标，人远远不是他们要奴役的工具。

—————  给爱学习的你的福利  —————

3个月，从无人问津到年薪30万的秘密究竟是什么？答案在这里——崔立明授课【推荐系统算法工程师-从入门到就业】3个月算法水平得到快速提升，让你的职业生涯更有竞争力！长按识别下方二维码（或阅读原文戳开链接）抵达课程详细介绍~

————————————————————