【深度学习】深度学习的问题究竟在哪?

2019 年 8 月 30 日 产业智能官


    目前人工智能最主流的的理论和技术无疑是深度学习,然而自从AlphaGo之后就没有看到深度学习再有什么惊人之作,于是很多业界人士对深度学习产生了怀疑,认为它不是解决人工智能的最终道路,包括深度学习之父Geoffrey Hinton也对其产生了怀疑。

  但是现在对深度学习的主要置疑集中在可解释性上,对此我已在《人工智能的十字路口》、《无知的Facebook、谷歌和MIT顶级AI专家》等文章中作了批驳。那么既然不是解释性的问题,深度学习究竟出了什么问题呢?

  我们知道深度学习被发明出来的初衷,就是为了模拟我们人的学习能力,以图通过学习来获得人类的智能。


  但是我们人类有两种类型的学习:


  一种是我们所熟知的在学校的学习,这种学习的特征就是在较短时间里集中对大量知识进行学习,从而尽快掌握一门学问;

  另一种,是被我们很多人所忽视的学习,但其实从出生开始,甚至是在娘肚子里就开始的学习,且每时每刻从未停过,包括你在睡觉的时候也是一样。比如我们学说话、学走路、学习认识这个大千世界……就是这种学习。

  根据百度百科的解释:深度学习使用数据对其构筑中的参数进行更新以达成训练目标,该过程被通称为“学习”。而这里的“数据”大家都知道是指大量数据,即深度学习就是用大量数据集中短时间对机器进行强化训练。有没有钩起你不堪回首的在校生活?没错,这像极了我们在学校的学习。

  所以机器学习只模拟了上述第一种学习,虽然现在的父母们为了孩子能上个好学校真可谓呕心沥血、不惜一切代价,把这看成是培养孩子最最重要的手段,但是对于整个人类来说,第二种学习,即日常学习才是更重要的。

  因为我们人类自诞生以来,就在进行日常学习,这种学习也使我们从原始人发展成为文明人,使我们发明了文字、纸张、书籍、学校等等,也就是说直到有了学校或其最初的形式,才有了第二种学习。其实更准确地说,在我们还没有成为人,还是动物,甚至只是个单细胞的时候,这种学习就在进行了。

  所以智能在学校学习出现之前很早就有了,如果说学习产生了智能,那么这个学习无疑是日常学习,而非学校中的那种集中训练,学校学习只是让这种智能更加提高而已。

  至此,事情就明白了,深度学习之所以不能有更高智能的原因很可能在这里,也就是说它只能集中大量数据突击学习,而不能在日常应用中进行点点滴滴的学习。

  这首先带来的问题就是应变能力不够,我们人随时随地都在学习,能够从第一次遇到的事件中学习经验、教训,并即刻将其用到之后的经历中。

  比如你是个新司机,由于经验不够,不会注意前面的车上是否会掉东西下来而威胁到你的安全。一次前面有一辆货车拉了一箱箱的货物,由于没有绑好掉下来一箱,差点被你开的车撞到而酿成重大事故。经此一险,想必你以后就会注意前车载货的情况了,如果再发现前车所载货物不稳,你便会加倍小心,或提前做出避让的动作。而如果是深度学习训练的人工智能自动驾驶,估计就很难做到这一点,如果以前没有学习过这种情况,就必须用大量类似情景专门对其训练才行,相当于它必须回驾校去专门学习应对这种情况。

  其次就是小数据问题,仍以上面这种情况为例,你只要碰上一次,便会学习到类似情况的应对,无论今后遇到前车拉的是一袋袋的大米、长条的圆木、活的动物等,只要看到它们有松动和掉下来的危险,你都会做出正确判断。但深度学习就必须用大量数据学习之后才能做到。

  但是其它一些机器学习方法是有可能解决这样的问题的,比如我在文章《人人能懂的机器学习算法》中所介绍的方法,就可以学习每时每刻所发生的情况,并将所学习到的新知识立即应用到新情况的判断中。

  上面说到深度学习的学习方式与我们人类不同,没有模仿到我们人类最根本的学习方法,所以阻碍其智能的提高。

  另外深度学习可能还存在另一种缺陷,深度学习是在人工神经网络基础上发展而来,旨在模拟人类大脑构造和神经元的工作方式,即模仿人类层次化地组织思想和概念,认知过程逐层进行,逐步抽象。



  如上图就是典型的深度学习原理,信息逐层传递、逐层提高抽象水平,以图达到模仿人类智能的目的。不过我们看到这里的“神经元”没有跨层的联接,人类大脑也是这样的吗?

  2017年科学家用新的成像技术检测到一巨大的神经元缠绕在老鼠大脑整个圆周上,在两个半球之间密集连接,这有可能解释意识起源。它可协调不同地区的信号,创造有意识思想。来自艾伦脑科学研究所的团队描述了所有三个神经元如何跨越大脑的两个半球,但最大的一个包裹在器官的周围,像一个 荆棘冠,如下图:



  由此我们可以看出大脑不光有逐层联接,而且是有跨层级的联接,这种联接很可能就是我在以前多篇文章中提到的“关系的关系”。神经元与神经元的联接就是关系,这些巨大神经元的作用就是将这些关系再联接起来,形成关系的关系,而这很可能就是产生高级智能、甚至是意识的关键所在。所以深度学习没有这种跨层级的联接也是阻碍其智能提高的一个重要因素。

  总之,人工智能理论需要再次突破,要么是深度学习理论有根本性的改变,要么是有新的理论出现,人工智能才能跃上一个新的台阶。


先进制造业+工业互联网




产业智能官  AI-CPS


加入知识星球“产业智能研究院”:先进制造业OT(自动化+机器人+工艺+精益)和工业互联网IT(云计算+大数据+物联网+区块链+人工智能)产业智能化技术深度融合,在场景中构建状态感知-实时分析-自主决策-精准执行-学习提升的产业智能化平台;实现产业转型升级、DT驱动业务、价值创新创造的产业互联生态链。


产业智能化平台作为第四次工业革命的核心驱动力,将进一步释放历次科技革命和产业变革积蓄的巨大能量,并创造新的强大引擎; 重构设计、生产、物流、服务等经济活动各环节,形成从宏观到微观各领域的智能化新需求,催生 新技术、新产品、新产业、新业态和新模式; 引发经济结构重大变革,深刻改变人类生产生活方式和思维模式,实现社会生产力的整体跃升。

产业智能化技术分支用来的今天,制造业者必须了解如何将“智能技术”全面渗入整个公司、产品、业务等商业场景中, 利用工业互联网形成数字化、网络化和智能化力量,实现行业的重新布局、企业的重新构建和焕然新生。

版权声明产业智能官(ID:AI-CPS推荐的文章,除非确实无法确认,我们都会注明作者和来源,涉权烦请联系协商解决,联系、投稿邮箱:erp_vip@hotmail.com。



登录查看更多
4

相关内容

机器学习的一个分支,它基于试图使用包含复杂结构或由多重非线性变换构成的多个处理层对数据进行高层抽象的一系列算法。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
Yoshua Bengio最新《深度学习》MLSS2020教程,附104页PPT及视频
专知会员服务
125+阅读 · 2020年7月10日
最新《深度学习自动驾驶》技术综述论文,28页pdf
专知会员服务
152+阅读 · 2020年6月14日
深度学习自然语言处理概述,216页ppt,Jindřich Helcl
专知会员服务
208+阅读 · 2020年4月26日
专知会员服务
197+阅读 · 2020年3月6日
机器翻译深度学习最新综述
专知会员服务
96+阅读 · 2020年2月20日
2019->2020必看的十篇「深度学习领域综述」论文
专知会员服务
269+阅读 · 2020年1月1日
深度学习自然语言处理综述,266篇参考文献
专知会员服务
224+阅读 · 2019年10月12日
复旦大学邱锡鹏老师《神经网络与深度学习》书册最新版
神经网络与深度学习,复旦大学邱锡鹏老师
专知会员服务
115+阅读 · 2019年9月24日
深度学习的冬天什么时候到来?
中国计算机学会
14+阅读 · 2019年7月17日
深度学习详解
人工智能学家
5+阅读 · 2019年4月25日
深度学习如何调参?
炼数成金订阅号
6+阅读 · 2018年10月18日
为你推荐一份深度学习书单,来学习吧~
THU数据派
12+阅读 · 2018年3月13日
2018年最佳深度学习书单
云栖社区
7+阅读 · 2018年3月11日
【机器学习】机器学习和深度学习概念入门
产业智能官
11+阅读 · 2018年1月3日
【深度学习】神经网络和深度学习简史
产业智能官
8+阅读 · 2017年11月16日
TResNet: High Performance GPU-Dedicated Architecture
Arxiv
7+阅读 · 2020年3月30日
Meta-Transfer Learning for Zero-Shot Super-Resolution
Arxiv
43+阅读 · 2020年2月27日
Question Generation by Transformers
Arxiv
5+阅读 · 2019年9月14日
Arxiv
4+阅读 · 2018年10月31日
Learning to Focus when Ranking Answers
Arxiv
5+阅读 · 2018年8月8日
Arxiv
15+阅读 · 2018年6月23日
Arxiv
25+阅读 · 2017年12月6日
VIP会员
相关VIP内容
Yoshua Bengio最新《深度学习》MLSS2020教程,附104页PPT及视频
专知会员服务
125+阅读 · 2020年7月10日
最新《深度学习自动驾驶》技术综述论文,28页pdf
专知会员服务
152+阅读 · 2020年6月14日
深度学习自然语言处理概述,216页ppt,Jindřich Helcl
专知会员服务
208+阅读 · 2020年4月26日
专知会员服务
197+阅读 · 2020年3月6日
机器翻译深度学习最新综述
专知会员服务
96+阅读 · 2020年2月20日
2019->2020必看的十篇「深度学习领域综述」论文
专知会员服务
269+阅读 · 2020年1月1日
深度学习自然语言处理综述,266篇参考文献
专知会员服务
224+阅读 · 2019年10月12日
复旦大学邱锡鹏老师《神经网络与深度学习》书册最新版
神经网络与深度学习,复旦大学邱锡鹏老师
专知会员服务
115+阅读 · 2019年9月24日
相关资讯
深度学习的冬天什么时候到来?
中国计算机学会
14+阅读 · 2019年7月17日
深度学习详解
人工智能学家
5+阅读 · 2019年4月25日
深度学习如何调参?
炼数成金订阅号
6+阅读 · 2018年10月18日
为你推荐一份深度学习书单,来学习吧~
THU数据派
12+阅读 · 2018年3月13日
2018年最佳深度学习书单
云栖社区
7+阅读 · 2018年3月11日
【机器学习】机器学习和深度学习概念入门
产业智能官
11+阅读 · 2018年1月3日
【深度学习】神经网络和深度学习简史
产业智能官
8+阅读 · 2017年11月16日
相关论文
TResNet: High Performance GPU-Dedicated Architecture
Arxiv
7+阅读 · 2020年3月30日
Meta-Transfer Learning for Zero-Shot Super-Resolution
Arxiv
43+阅读 · 2020年2月27日
Question Generation by Transformers
Arxiv
5+阅读 · 2019年9月14日
Arxiv
4+阅读 · 2018年10月31日
Learning to Focus when Ranking Answers
Arxiv
5+阅读 · 2018年8月8日
Arxiv
15+阅读 · 2018年6月23日
Arxiv
25+阅读 · 2017年12月6日
Top
微信扫码咨询专知VIP会员