张亚勤:终日“闭关”读论文,思考终极算法

2018 年 8 月 4 日 互联网架构师

相关阅读:

优秀架构师必须掌握的架构思维

可以做技术,切不可沉湎于技术,大家怎么看?

互联网技术(java框架、分布式、集群)干货视频大全,不看后悔!(免费下载)

AI需要类脑计算突破,区块链技术很漂亮。

编者按:本文来自微信公众号“量子位”(ID:QbitAI),作者:李根;

张亚勤是1998年决定回国的,距今已过20年。

这20年中,技术变革天翻地覆,中国发展也日新月异。他见证了互联网在中国的从弱到强,也看到了中国AI正在生发出的全球影响力。

但张亚勤坦言,这一切都是10年、20年前难以预料的,最近这一年来,新技术、新趋势和新变革令他着迷,也令他兴奋不已,他甚至最近都在“闭关”读论文,以求第一时间了解最新的技术进展。

他如何看待当前趋势?又有哪些思考、提醒和最新判断?

在与量子位的独家对话中,这位百度总裁分享了他最新的所见、所闻和所感。

(为便于完整了解亚勤所思所想,我们将对话在不改变原意的基础上,进行了第一人称改写,小标题均为后添加。)

△ 百度总裁张亚勤

 妈妈常教导我,让我养成良好习惯。这样长大才能成为一个有用的人。良好的习惯是尊敬师长这样长大才能成为一个有用的人。良好的习惯是尊敬师长,爱护同学,对人有礼貌;是不粗心,做事情不拖拉;还是爱护公物,不浪费粮食。为什么呢?因为拥有良好习惯,做一个品德高尚的人,懂得尊重别人,才会得到别人的尊重。我要努力地做到这些。我有一些坏习惯,有时候学习很粗心,把一些会做的题做错。在生活上,也很粗心,有一次早上起床居然穿反了衣服。我吃饭很慢,有的时候还剩饭。我还起床磨蹭,本来应该迅速地穿好衣服,但是,我总是磨磨蹭蹭地,速度很慢。我打算在这学期里,改掉这些坏习惯。早上起来,迅速地穿好衣服,不拖拉。学习不粗心,仔细完成每一道题。吃饭的时候,要很快的把饭吃完,不剩饭。我要从一点一滴做起,逐渐养成良好习惯。我相信自己一定能成为一名品学兼优的好学生!我打算在这学期里,改掉这些坏习惯。早上起来,迅速地穿好衣服,不拖拉。学习不粗心,仔细完成每一道题。吃饭的时候,要很快的把饭吃完,不剩饭。我要从一点一滴做起,逐渐养成良好习惯。我相信自己一定能成为一名品学兼优的好学生!  在上幼儿园以前,我什么也不会干,就连穿衣服也是妈妈给我穿好,就要上幼儿园了,这样可不行,妈妈锻炼我要学会自己穿衣服。   有一天,妈妈把衣服摆在我面前,开始让我自己穿。一开始。我又哭又叫就是不穿,还把衣服扔的满地都是,然后坐在地上开始大哭,等了好长时间,妈妈还是不理我,我只好自己乖乖的把衣服穿好, 一出了房间门,妈妈就笑了起来,再看看我的衣服,毛衣和裤子都穿反了,我赶紧回房间又重新穿了一遍,这次穿好了,拿起外套,可是外套的扣子又扣不上了,扣子可调皮了,好像故意和我作对,我把扣子往扣眼——人类邪恶的根源;爱情——幸福和光明的源泉。我一直在这些思想的舞台上徘徊。突然我发现两个身影从我面前经过,坐在不远的草地上。这是一对从农田那边走过来的青年男女。农田那边有农民的茅舍。在一阵令人伤心的沉默之后,随着一声长叹,我听见从一个肺痨病人的嘴里说出了这样的话:幸福和光明的源泉。我一直在这些思想的舞台上徘徊。突然我发现两个身影从我面前经过,坐在不远的草地上。这是一对从农田那边走过来的青年男女。农田那边有农民的茅舍。在一阵令人伤心的沉默之后,随着一声长叹,我听见从一个肺痨病人的嘴里说出了这样的话幸福和光明的源泉。我一直在这些思想的舞台上徘徊。突然我发现两个身影从我面前经过,坐在不远的草地上。这是一对从农田那边走过来的青年男女。农田那边有农民的茅舍。在一阵令人伤心的沉默之后,随着一声长叹,我听见从一个肺痨病人的嘴里说出了这样的话幸福和光明的源泉。我一直在这些思想的舞台上徘徊。突然我发现两个身影从我面前经过,坐在不远的草地上。这是一对从农田那边走过来的青年男女。农田那边有农民的茅舍。在一阵令人伤心的沉默之后,随着一声长叹,我听见从一个肺痨病人的嘴里说出了这样的话幸福和光明的源泉。我一直在这些思想的舞台上徘徊。突然我发现两个身影从我面前经过,坐在不远的草地上。这是一对从农田那边走过来的青年男女。农田那边有农民的茅舍。在一阵令人伤心的沉默之后,随着一声长叹,我听见从一个肺痨病人的嘴里说出了这样的话幸福和光明的源泉。我一直在这些思想的舞台上徘徊。突然我发现两个身影从我面前经过,坐在不远的草地上。这是一对从农田那边走过来的青年男女。农田那边有农民的茅舍。在一阵令人伤心的沉默之后,随着一声长叹,我听见从一个肺痨病人的嘴里说出了这样的话幸福和光明的源泉。我一直在这些思想的舞台上徘徊。突然我发现两个身影从我面前经过,坐在不远的草地上。这是一对从农田那边走过来的青年男女。农田那边有农民的茅舍。在一阵令人伤心的沉默之后,随着一声长叹,我听见从一个肺痨病人的嘴里说出了这样的话幸福和光明的源泉。我一直在这些思想的舞台上徘徊。突然我发现两个身影从我面前经过,坐在不远的草地上。这是一对从农田那边走过来的青年男女。农田那边有农民的茅舍。在一阵令人伤心的沉默之后,随着一声长叹,我听见从一个肺痨病人的嘴里说出了这样的话幸福和光明的源泉。我一直在这些思想的舞台上徘徊。突然我发现两个身影从我面前经过,坐在不远的草地上。这是一对从农田那边走过来的青年男女。农田那边有农民的茅舍。在一阵令人伤心的沉默之后,随着一声长叹,我听见从一个肺痨病人的嘴里说出了这样的话亲爱的!擦干你的眼泪,至高无上的爱情已经打开了我们的眼界,使我们成了它的崇拜者。是它,





 妈妈常教导我,让我养成良好习惯。这样长大才能成为一个有用的人。良好的习惯是尊敬师长这样长大才能成为一个有用的人。良好的习惯是尊敬师长,爱护同学,对人有礼貌;是不粗心,做事情不拖拉;还是爱护公物,不浪费粮食。为什么呢?因为拥有良好习惯,做一个品德高尚的人,懂得尊重别人,才会得到别人的尊重。我要努力地做到这些。我有一些坏习惯,有时候学习很粗心,把一些会做的题做错。在生活上,也很粗心,有一次早上起床居然穿反了衣服。我吃饭很慢,有的时候还剩饭。我还起床磨蹭,本来应该迅速地穿好衣服,但是,我总是磨磨蹭蹭地,速度很慢。我打算在这学期里,改掉这些坏习惯。早上起来,迅速地穿好衣服,不拖拉。学习不粗心,仔细完成每一道题。吃饭的时候,要很快的把饭吃完,不剩饭。我要从一点一滴做起,逐渐养成良好习惯。我相信自己一定能成为一名品学兼优的好学生!我打算在这学期里,改掉这些坏习惯。早上起来,迅速地穿好衣服,不拖拉。学习不粗心,仔细完成每一道题。吃饭的时候,要很快的把饭吃完,不剩饭。我要从一点一滴做起,逐渐养成良好习惯。我相信自己一定能成为一名品学兼优的好学生!  在上幼儿园以前,我什么也不会干,就连穿衣服也是妈妈给我穿好,就要上幼儿园了,这样可不行,妈妈锻炼我要学会自己穿衣服。   有一天,妈妈把衣服摆在我面前,开始让我自己穿。一开始。我又哭又叫就是不穿,还把衣服扔的满地都是,然后坐在地上开始大哭,等了好长时间,妈妈还是不理我,我只好自己乖乖的把衣服穿好, 一出了房间门,妈妈就笑了起来,再看看我的衣服,毛衣和裤子都穿反了,我赶紧回房间又重新穿了一遍,这次穿好了,拿起外套,可是外套的扣子又扣不上了,扣子可调皮了,好像故意和我作对,我把扣子往扣眼——人类邪恶的根源;爱情——幸福和光明的源泉。我一直在这些思想的舞台上徘徊。突然我发现两个身影从我面前经过,坐在不远的草地上。这是一对从农田那边走过来的青年男女。农田那边有农民的茅舍。在一阵令人伤心的沉默之后,随着一声长叹,我听见从一个肺痨病人的嘴里说出了这样的话:亲爱的!擦干你的眼泪,至高无上的爱情已经打开了我们的眼界,使我们成了它的崇拜者。是它,


深度学习有大缺陷

终极算法赖于类脑突破

我最近两个月把自己的社交网络都停了,朋友圈关了、微博也不看了,现在每天晚上有时间就看论文,比如算法相关的、量子计算等,读书、看论文,发现认知又有提升。

我也在建议我小孩,可以试着把社交网络暂停3个月,然后多读读论文和书,会有增益而不是损失。

当前蓬勃发展的新技术让我兴奋,十年前决计想不到会有今天这样的爆发。

AI的再次火热因深度学习而起,但从算法复杂度、逻辑和计算机科学的角度,深度学习其实并不复杂,终极算法是什么?一切还只是小荷才露尖尖角。

我正在读的一本书,来自多明戈斯(Pedro Domingos)——《终极算法》,其中介绍了5个人工智能学派:符号学派、进化学派、联结学派、统计学派和类脑学派,他认为决定未来走向的终极算法,可能就在这5大学派中。

目前,占主流的是联结学派,通过大量数据做深度学习,建多层网络,就已经展现出了巨大的影响力。

但其实它对人的大脑基本不懂,只是用可监督学习,有输入、输出,然后就靠调参数,用反向传播来优化,优化好之后模拟一个大函数,进而来了新数据之后做新预测——并没有真正用到了人脑学习原理。

联结学派的深度学习模式,在数据量很大、数据有规则、模型有相对规律的情况下,这一套能运行得很漂亮,所以在围棋、语音和翻译等领域,都取得了大突破。

然而它跟人脑学习一比,差距就显而易见。比如小孩学习新事物,并没有那么多数据,小孩学习也不靠语音交互,基本都是看了就记住了,并且马上就能判断及决策。这都是当前AI和深度学习不能相提并论的。

而且当前这种主流算法消耗的计算资源和能量也很高,深度学习依赖海量数据,需要很强的计算资源,有点像大力士,孔武有力,但无法四两拨千斤,不够聪明。

那如果参照大脑,走类脑科学的模式,不仅可以低功耗,而且能有更多决策、记忆系统和突触结构。我们大脑有1000亿神经元,中间通过突触连接,突触本身还能存储信息、参与计算,实现决策,整体结构之精妙复杂,令人惊叹,而且功耗还非常低,运算速度很快,如果我们真能在类脑结构方面实现突破,将大大改变现有的冯·诺依曼架构。

可以看到的是,当前AI芯片层出不穷,都希望在类脑计算方面取得突破,可以学习大脑、学习交互、学习人脑学习系统,然后用低功耗、高效率、有意识的模式进行发展。所以越思考、越往后看,就越能感受到目前深度学习在理论上的大缺陷。

比较起来,我很关注类脑理论,AI要发展得更好,就必须要了解人是怎么学习的,刚才谈到人类小孩的学习能力,如果原理上能让机器学会,都会带来新的跃迁和突破。

于是计算机和生物学跨界交叉研究也越来越受到关注。一方面是从生物学的角度给计算机带来启发,另一方面则是计算机赋能生物研究。之前大脑emotion相关的病症,比如癫痫、老年痴呆、小儿自闭症等可能都是大脑信息传递流程中出现了问题。

拿癫痫来说,病理是神经元一直很活跃,电流就很容易激活,然后毫无征兆就能把人搞晕。那是不是可以通过调节synapse(突触)来降低其活跃度,技能治疗癫痫?此前生物学上难以解决,但现在计算机可以模拟神经元了,能够运用算法可以建立模拟模型,等到进一步知晓如何模拟连接,或许就能治愈癫痫。

我始终觉得,类脑算法中除了研究人脑工作原理——有记忆能力、低功耗,可以做决定,也有待于突触研究的突破,这些连接神经元的部分本身就能存储、计算信息,是一个复杂但令人称奇的系统,这个领域一旦有新突破,或许就能弥补深度学习的不足,进而推动AI实现新的跃迁。

量子计算加速AI

5G带来基础设施大变革

终极算法之外,量子计算的发展也让我兴奋不已。百度前段时间已经成立了量子计算研究所,接下来还有多位世界级科学家加盟。

怎么看量子计算呢?我们从两方面思考。一方面是硬件,另一方面是软件。

硬件方面有量子计算机——有超导方式、半导体方式、光子方式等,我不知道最终哪一个会胜出,但百度会在硬件方面保持合作心态。

我们会更看重软件生态的部分,从三个A的角度看待,也将是百度布局的重点:一个是Algorithms算法,一个是Architecture架构,一个是Application应用,这三个缺一不可,不过算法和架构,我认为还会沿着AI的方式继续向前。

但量子计算带来的变化,将是颠覆性的。这不需要十年二十年,很可能五年左右就会发生。如今机器学习所需要的几个部分,比如大量优化算法、现行方程式、大矩阵计算,以及其中的多项式、大函数,都是量子计算所擅长的,量子计算可以把整个复杂度降低,我们称之为指数型加速。

同样能够带来基础设施革新的是5G。跟2G、3G、4G一样,这又将是一次带宽和信息传输的大革新,会推动AI相关应用更快发展,比如自动驾驶、智能制造和智能家居,其中都有高流量、逼真、交互等相关需求,5G会带来更大带宽,流量也会进一步便宜,新的基础设施+新的技术趋势,就会推动整个产业有大变革,所以这次5G会和AI密切相关。

AI很重要的一部分是万物有灵,5G会让IoT变得更加可能,计算在边缘终端就能实时完成,加之网络虚拟化可以跟现在互联网IP无缝衔接,技术的融合会带来更大的想象。

但越是一片欣欣向荣,越有一些隐患就要留心注意。

警惕AI寒冬

我认为可能有2点需要注意。

第一,要有更长远的心态,其实目前AI在产业有一些泡沫,大家追求短平快,真正研究类脑科学,做算法、深层研究的人还是少,包括量子计算、AI基础算法的人还是少一些,这东西可能要几年后才能出成果,需要一些在安安静静的、长远的心态去进行。

第二,不要犯“短期内高估、长期内低估”的错误,每一个新技术带来,大家往往短期内看得很高,长期又低估了影响,所以我现在很害怕出现所谓的“第三次AI冬天”,因为产业很热,创投很热,可能就会有一些公司亏钱甚至消失,AI不会像很多人预想的那样短期内马上就颠覆所有行业,所以这个时候更需要有耐心,因为这会是一个长期投入的过程,AI对整个社会的影响会是春风化雨的。

或许可以拿千禧年前后的互联网泡沫举例,那时泡沫刚刚破裂,很多人不再相信互联网的价值,但后来事实证明,真正有能力的互联网企业,都是在那个时候成长壮大的,而且我也觉得,现在整个中国科技发展很健康。

而且AI商业化也正在各行各业展开,我可以分享下百度的思路。

AI商业化

百度AI商业化战略也非常清楚。一是通过AI提升现有业务,搜索和信息流,这是双引擎。另外就是进入新的领域,一个是家,一个是车。

AI+云计算方面,关键在于如何到垂直行业中去,比如说金融、医疗、教育、物联网、媒体,就是所谓的落地。

我们现在在几个行业里做得都不错,一个是金融,银联商务、广发银行、浦发银行、百信银行、百度金融的业务落地也相当快。这里面主要依靠的是大数据,数据建立一些风控的模型,建立反欺诈的模型,包括对人的行为的分析。

另外在多媒体方面,包括视频的编码、转码、视频播放,比如像直播、长视频、短视频怎么样去切割视频,我们探索的是怎样对视频内容进行更好的管理。百度信息流里有很多视频,还有爱奇艺,本身就有这个需求。

此外还有物联网相关的落地,包括智慧城市大生态。目前的合作主要是在平台和技术,同时我们会继续寻找每一个场景落地的合作伙伴,最终共同把这个行业打造成一个大生态。我们现在有四、五个行业靠云去实现AI商业化落地。

OMT:区块链技术漂亮,但应用需要观望

也有人问我关于区块链的事情,我觉得技术本身很漂亮,都是经典的分布式计算技术,但具体经营和应用模式,目前还不算明朗,现在只有加密货币是主要应用,但货币的意义很不简单,稍有不慎就会出现别的问题。

所以我想区块链的经营和应用,可能还需要一点时间,我对区块链持开放态度,但在没有想清楚应用场景之前,不希望作过多评论。

当然,我认为区块链确实是一个创新,技术很漂亮,产业也需要大家去尝试,只是切忌在没有想清楚之前就大面积炒作,这一点跟AI、机器学习还不同,后者早已在好几个领域开始发挥价值了。

看完本文有收获?请转发分享给更多人


欢迎关注“互联网架构师”,我们分享最有价值的互联网技术干货文章,助力您成为有思想的全栈架构师,我们只聊互联网、只聊架构,不聊其他!打造最有价值的架构师圈子和社区。

本公众号覆盖中国主要首席架构师、高级架构师、CTO、技术总监、技术负责人等人 群。分享最有价值的架构思想和内容。打造中国互联网圈最有价值的架构师圈子。

  • 长按下方的二维码可以快速关注我们

  • 如想加群讨论学习,请点击右下角的“加群学习”菜单入群

登录查看更多
0

相关内容

专知会员服务
146+阅读 · 2020年6月15日
还在修改博士论文?这份《博士论文写作技巧》为你指南
商业数据分析,39页ppt
专知会员服务
160+阅读 · 2020年6月2日
【Uber AI新论文】持续元学习,Learning to Continually Learn
专知会员服务
36+阅读 · 2020年2月27日
CMU博士论文:可微优化机器学习建模
专知会员服务
59+阅读 · 2019年10月26日
周志华教授:如何做研究与写论文?
专知会员服务
154+阅读 · 2019年10月9日
阿里技术专家:优秀工程师是怎样炼成的?
51CTO博客
8+阅读 · 2019年6月15日
年薪48万的程序员,他究竟做对了什么?
机器学习算法与Python学习
7+阅读 · 2018年12月28日
2年Java经验,真的就拿不到30万年薪吗?
程序员观察
3+阅读 · 2018年4月8日
【财富空间】一个人真正的资本是什么
产业智能官
6+阅读 · 2018年3月16日
如何用人工智能帮你找论文?
AI100
10+阅读 · 2018年2月21日
一个年薪30万的应届生告诉你应该如何学“算法”!
全球人工智能
4+阅读 · 2018年1月23日
人工智能的阴暗面
计算机与网络安全
6+阅读 · 2018年1月8日
Arxiv
15+阅读 · 2020年2月6日
Arxiv
5+阅读 · 2018年6月5日
Arxiv
7+阅读 · 2018年5月23日
VIP会员
相关VIP内容
专知会员服务
146+阅读 · 2020年6月15日
还在修改博士论文?这份《博士论文写作技巧》为你指南
商业数据分析,39页ppt
专知会员服务
160+阅读 · 2020年6月2日
【Uber AI新论文】持续元学习,Learning to Continually Learn
专知会员服务
36+阅读 · 2020年2月27日
CMU博士论文:可微优化机器学习建模
专知会员服务
59+阅读 · 2019年10月26日
周志华教授:如何做研究与写论文?
专知会员服务
154+阅读 · 2019年10月9日
相关资讯
阿里技术专家:优秀工程师是怎样炼成的?
51CTO博客
8+阅读 · 2019年6月15日
年薪48万的程序员,他究竟做对了什么?
机器学习算法与Python学习
7+阅读 · 2018年12月28日
2年Java经验,真的就拿不到30万年薪吗?
程序员观察
3+阅读 · 2018年4月8日
【财富空间】一个人真正的资本是什么
产业智能官
6+阅读 · 2018年3月16日
如何用人工智能帮你找论文?
AI100
10+阅读 · 2018年2月21日
一个年薪30万的应届生告诉你应该如何学“算法”!
全球人工智能
4+阅读 · 2018年1月23日
人工智能的阴暗面
计算机与网络安全
6+阅读 · 2018年1月8日
Top
微信扫码咨询专知VIP会员