深度学习时代即将结束? 16625篇论文梳理AI发展史

2019 年 1 月 30 日 生物探索


近几年,人工智能(AI)正成为继互联网之后又一走近百姓生活的技术。但实际上,AI并非是这几年才有的新产物。AI之所以能在近年来走进公众的视野,如在安防中运用的人脸识别和语音识别展现,或是能在医疗中提高医生的传统诊断效率,都要归功于Deep Learning(深度学习)算法。


2006年,深度学习由神经网络研究领域领军者Hinton提出,这一算法能使神经网络的能力大大提高。同年,Hinton和他的学生Salakhutdinov在顶尖学术刊物《Scince》上发表了一篇文章,开启了深度学习在学术界和工业界的浪潮。


最近,在球最大的科学论文开源数据库之一arXiv上,《麻省理工科技评论》收集了1993年到2018年11月18日这25年来的16625篇人工智能领域的论文。根据论文的摘要和关键词,《麻省理工科技评论》分析了AI领域的发展趋势,并指出:“深度学习的时代即将结束”。



arXiv网站1993年至2018年11月18日“人工智能”论文数量走势图


趋势一:机器学习取代知识推理


通过这16625篇论文,研究者发现人工智能论文中,“逻辑”、“规则”等与知识系统相关的词,数量开始下降,而“数据”、“网络”、“性能”等与机器学习相关的词汇出现的次数快速增长。这也意味着学者对这一领域的关注点从知识基础推理转向了机器学习。





从关键词的出现频率可以看出,以知识为基础的推理相关词语出现频率降低,机器学习关键词频率增加。


报告分析了会出现这一现象的原因:80年代,很多知识系统需要人为编写规则才能使得系统运行,这样不仅效率低下,而且耗费了大量的人力成本。而机器学习可以从已知数据中去学习数据中蕴含的规律或自动提取规则,机器学习取代知识推理也就顺其自然了。 


趋势二:神经网络掀起热潮


报道还发现,在新的机器学习范式下,深度学习并非立刻就取得了决定性的地位。神经网络、贝叶斯网络、进化算法、支持向量机等机器学习的各种方法在较长的一个时间段都有过竞争,直到2012年的一次突破。


2012年,在年度ImageNet大规模视觉识别挑战赛(ILSVRC)期间,一位名叫Geoffrey Hinton的研究人员和他的同事们以超过10个百分点的惊人幅度实现了图像识别的最佳准确度。这项比赛的结果在人工智能学界引起了广泛的震动,而他使用的技术——深度学习,引发了一波新的研究。



2012年起,神经网络相关论文显著增加

 

《麻省理工科技评论》的报告数据显示,2012年神经网络相关论文在人工智能论文中所占的比例只有3%,而现如今已一路上升至2018年的27%。


趋势三:强化学习的兴起


这个领域另外一个令人关注的节点是2015年10月,当时DeepMind的AlphaGo在围棋游戏中以5:0的悬殊比分击溃欧洲围棋冠军。


AlphaGo之所以能这么厉害得益于受到的强化学习训练,也是近年来人工智能的一个重要分支。强化学习会通过连续的反馈来调整自身的动作以获得最优结果,是一种不断试错的过程,这是动态学习。




最近几年中,《麻省理工科技评论》发现有关化学习的论文数量比例2015年的4.7%上升为2018年的15.3%。


趋势四:未来十年深度学习时代即将结束


根据《麻省理工科技评论》的报告,华盛顿大学计算机科学教授佩德罗·多明戈斯(Pedro Domingos)分析称,在人工智能领域,基本上每十年都会看到不同技术的统治:80年代的知识型系统、90年代的贝叶斯网络、00年代的矢量机器以及10年代的神经网络。


下一个十年应该也不例外,深度学习时代可能很快就会结束。多明戈斯认为,是旧技术重获青睐还是会出现全新的技术,他也不得而知。


责编:探索君


End

参考资料:

1)We analyzed 16,625 papers to figure out where AI is headed next


本文系生物探索原创,欢迎个人转发分享。其他任何媒体、网站如需转载,须在正文前注明来源生物探索。




登录查看更多
4

相关内容

机器学习的一个分支,它基于试图使用包含复杂结构或由多重非线性变换构成的多个处理层对数据进行高层抽象的一系列算法。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
基于深度学习的多标签生成研究进展
专知会员服务
142+阅读 · 2020年4月25日
专知会员服务
199+阅读 · 2020年3月6日
【新加坡国立大学】深度学习时代数据库:挑战与机会
专知会员服务
33+阅读 · 2020年3月6日
阿里巴巴达摩院发布「2020十大科技趋势」
专知会员服务
106+阅读 · 2020年1月2日
2019年人工智能行业现状与发展趋势报告,52页ppt
专知会员服务
121+阅读 · 2019年10月10日
深度学习详解
人工智能学家
5+阅读 · 2019年4月25日
【深度学习】深度学习技术发展趋势浅析
产业智能官
11+阅读 · 2019年4月13日
深度学习技术发展趋势浅析
人工智能学家
27+阅读 · 2019年4月11日
深度学习的时代将结束:25 年 16625 篇论文佐证
人工智能学家
4+阅读 · 2019年1月26日
深度学习面试100题(第31-35题)
七月在线实验室
8+阅读 · 2018年7月16日
GAN正在成为新的深度学习
新智元
7+阅读 · 2018年6月9日
深度学习(Deep Learning)发展史
Linux中国
7+阅读 · 2017年8月2日
Mesh R-CNN
Arxiv
4+阅读 · 2019年6月6日
Logically-Constrained Reinforcement Learning
Arxiv
3+阅读 · 2018年12月6日
Arxiv
5+阅读 · 2018年10月11日
Arxiv
19+阅读 · 2018年6月27日
VIP会员
相关VIP内容
相关资讯
深度学习详解
人工智能学家
5+阅读 · 2019年4月25日
【深度学习】深度学习技术发展趋势浅析
产业智能官
11+阅读 · 2019年4月13日
深度学习技术发展趋势浅析
人工智能学家
27+阅读 · 2019年4月11日
深度学习的时代将结束:25 年 16625 篇论文佐证
人工智能学家
4+阅读 · 2019年1月26日
深度学习面试100题(第31-35题)
七月在线实验室
8+阅读 · 2018年7月16日
GAN正在成为新的深度学习
新智元
7+阅读 · 2018年6月9日
深度学习(Deep Learning)发展史
Linux中国
7+阅读 · 2017年8月2日
相关论文
Top
微信扫码咨询专知VIP会员