易图秒懂の符号主义诞生

2017 年 8 月 13 日 数萃大数据 史春奇

【数萃大数据】公众号又开办了一个新栏目,之后我们每周末会为大家分享各种趣闻趣事名人好书

我们将连续转载史春奇老师高品质的推文。感谢史春奇老师的授权以及对数萃大数据学院的大力支持!


在之前的文章“易图秒懂の神经网络诞生"里面,我们谈到神经网络在感知机诞生后不久就遇冷了。 但是文章”易图秒懂の人工智能诞生“里面谈到, 人工智能的发展并没有停滞。 其中, 最著名的就是符号主义symbolic approach,symbolism的盛行。 这个方向的发展, 奠基了现在很火的知识图谱Knowledge Graph的方向。 


前言


人工智能的诞生, 主力有McCarthy和Shannon, 他们对符号主义的奠基人Simon产生了巨大的影响。 


Simon带着他的学生Newell一起参加了Dartmouth会议, 随后他们一起发明了IPL语言,和McCarthy类似。 McCarthy找到IBM工作时的同事Rochester一起开发了LISP语言。 而Newell也找RAND公司的计算机同事Shaw一起, 创立了IPL语言。 



就是基于LISP语言, Simon他们开启了牛牛的模式, 其中之一就是基于Shannon的Minimax跳棋程序的实现, 吸收了McCarthy剪枝的改进, 开发了Alpha-beta剪枝的空间搜索, 并且开发了最早期的国际象棋的程序。 后来IBM的deep blue和Google的AlphaGo都是Alpha-beta的后续发展结果。其中Alpha-Go某种意义上就是Alpha-beta的Alpha。 


接下来我们解释下, Simon是如何奠定了符号主义!


一图抵千言


有了IPL语言后, Simon,Newell和Shaw一起开发了一个叫Logic Theorist的程序。这个程序相当厉害, 集成简单的逻辑推理能力, 并且证明了罗素的数学原理前52个定理里面的38个。 于是乎,大获成功。其中, 部分证明, 甚至超越人类的证明, 简单新奇。 并且他们开发的NSS象棋程序也可以进行人机弈。  在这一系列强大的惊叹号下, 他们开始大胆预测, 10年之后, 机器将在很多方面取代人类。


这个过程和现在AlphaGo的惊奇何等相似!当然这离不开Shaw这个牛牛的程序员的功劳, Shaw是JOSS语言的发明人, 这个语言是Basic语言的前生。 有这么牛的程序员, 只要有好的想法, 都是会计算机实现的。 



正是由于在逻辑推理方面的成功, 他们三人又定义了GPS的逻辑推理架构, 并且提出启发式搜索的思路。 基本上, AlaphaGo依然符合这个GPS General Problem Solver 推理架构。  这方面的成就,让他们获得了图灵奖。 




故事并没有随着Simon和他学生Newell获得图灵奖就结束。之后Simon的学生Feigenbaum,另外一个图灵奖获得者,他受到GPS的强大“刺激“”,一心想找个地方实现GPS的具体应用。 他开创了斯坦福的知识系统实验室KSL。 


Feigenbaum和Simon一起开发了EPAM模型, 开创了记忆学习。 这样,推理不再需要从头到尾的全学习,只需要记住已有的知识, 在这个知识上进行推理。 



有了EPAM记忆学习的思路, Feigenbaum和斯坦福的同事Buchanan一起, 找到一个应用。 这个应用就是诺贝尔奖获得者Lederberg在基因工作方面的需求:标识从未见过的有机分子。 在这个需求下, 他们三人一起合作开发了第一个专家系统叫Dendral。 这时候LISP语言发展很快,他们已经切换到用LISP语言来实现Dendral。 Dendral某种意义上是GPS和EPAM模型结合的一个具体实现。 



有了Dendral专家系统的经验,  Feigenbaum的同事Buchanan,指导学生Shortliffe实现了另外一个专家系统, 叫MYCIN,对后世影响巨大。 


MYCIN也是通过LISP语言实现, 应用于传染病诊断。 除了存储规则, 还有了backward chaining推理机制。 结合存储和推理, MYCIN开创了基于规则的专家系统领域。 当然这一切也是在Feigenbaum的指导下。 


随着专家系统的成功, Feigenbaum也没有闲着, 开了两家公司IntelliCorpTeknowledge。 其中IntelliCorp卖给SAP,大赚一笔。 Simon的学生真是研发、商业两手抓,两手都硬气!



故事依然没有结束, 有了专家系统之后, 大家发现问题都集中到了两个方面, 一是知识的获取和管理, 另一个则是推理引擎。 便有了研究知识库和推理引擎发明的大量投入。 其中MYCIN的backward chaining推理被Colerauer的芬兰计算机学家实现为Prolog语言。 这是人工智能领域专用语言之一。 是声明式语言的典范。另外一位计算机学家Forgy发明了Rete算法, 现在你用到的大部分推理引擎,基本都离不开Rete算法。 






正是知识库的发展, 带来了数据库和知识图谱的发展, 这也为之后大规模数据挖掘和知识挖掘奠定了基础。 


但是, 符号主义的影响并没有结束, 它深刻地影响了一个新学科认知科学的诞生。 这个学科是智力模型、行为主义方向逻辑符号主义结合的一个新的方向。 Christopher是个理论化学家, 他被该领域深深地吸引, 对认知科学的定义和整理做出了杰出贡献。 他也是现在深度学习很火的Hinton的博士导师。 



同样, 认知科学也离不开物理实验的基础, 这就是心理学家建立的行为模型和语言行为模型。这发明的极大成者就是伟大的乔姆斯基。 他直接带动了计算语言学的发展。 我在美国的导师James Pustejovsky也是这方面的好手!他在词法语义和生成词法理论方面成果突出!


感谢他对我工作的指导和生活的照顾!



小结


这里梳理了神经网络冷遇之后,符号逻辑在司马贺Simon的影响下发展起来的过程及对后世的影响。 


推荐阅读

微课|ggplot2: 散点图

微课|ggplot2: 折线图

微课|ggplot2:条形图

趣事分享 | python与微信

【Python微课】系列之一:Matplotlib基础绘图

【统计思想之十七】—— 古人学问无遗力,少壮工夫老始成。

易图秒懂の神经网络潜行-CNN前生

【案例分析】NBA球员投篮数据分析与可视化





欢迎大家关注微信公众号:数萃大数据




课程公告

python大数据分析培训班【杭州站】

时间:2017年8月18日-22日

地点:杭州亚朵吴酒店

更多详情,请扫描下面二维码

网络爬虫与文本挖掘培训班【宁波站】

时间:2017年9月23日-25日

地点:维也纳国际酒店(机场店)

更多详情,请扫描下面二维码



登录查看更多
1

相关内容

符号主义学派认为人工智能源于数学逻辑,人类认知和思维的基本单元是符号,而认知过程就是在符号表示上的一种运算。符号主义致力于用某种符号来描述人类的认知过程,并把这种符号输入到能处理符号的计算机中,从而模拟人类的认知过程,实现人工智能。符号主义的发展大概经历了几个阶段:推理期(20世纪50年代–20世纪70年代),知识期(20世纪70年代—-)。“推理期”人们基于符号知识表示、通过演绎推理技术取得了很大的成就;“知识期”人们基于符号表示、通过获取和利用领域知识来建立专家系统取得了大量的成果。
Yoshua Bengio最新《深度学习》MLSS2020教程,附104页PPT及视频
专知会员服务
126+阅读 · 2020年7月10日
非凸优化与统计学,89页ppt,普林斯顿Yuxin Chen博士
专知会员服务
100+阅读 · 2020年6月28日
斯坦福2020硬课《分布式算法与优化》
专知会员服务
117+阅读 · 2020年5月6日
最新!Yann Lecun 纽约大学Spring2020深度学习课程,附PPT下载
【BAAI|2019】用深度学习模拟原子间势,王涵  (附pdf)
专知会员服务
17+阅读 · 2019年11月21日
深度学习详解
人工智能学家
5+阅读 · 2019年4月25日
为你推荐一份深度学习书单,来学习吧~
THU数据派
12+阅读 · 2018年3月13日
尼克 | 从专家系统到知识图谱
开放知识图谱
15+阅读 · 2018年1月2日
从零基础成为深度学习高手——Ⅰ
计算机视觉战队
7+阅读 · 2017年12月7日
【人工智能】人工智能在深度学习领域的前世今生
产业智能官
5+阅读 · 2017年11月24日
【人工智能】重磅:中国人工智能40年发展简史
产业智能官
7+阅读 · 2017年11月12日
Position-aware Graph Neural Networks
Arxiv
15+阅读 · 2019年6月11日
Self-Attention Graph Pooling
Arxiv
5+阅读 · 2019年4月17日
Arxiv
6+阅读 · 2019年3月19日
Neural Arithmetic Logic Units
Arxiv
5+阅读 · 2018年8月1日
Arxiv
12+阅读 · 2018年1月28日
Arxiv
4+阅读 · 2018年1月19日
VIP会员
相关资讯
深度学习详解
人工智能学家
5+阅读 · 2019年4月25日
为你推荐一份深度学习书单,来学习吧~
THU数据派
12+阅读 · 2018年3月13日
尼克 | 从专家系统到知识图谱
开放知识图谱
15+阅读 · 2018年1月2日
从零基础成为深度学习高手——Ⅰ
计算机视觉战队
7+阅读 · 2017年12月7日
【人工智能】人工智能在深度学习领域的前世今生
产业智能官
5+阅读 · 2017年11月24日
【人工智能】重磅:中国人工智能40年发展简史
产业智能官
7+阅读 · 2017年11月12日
相关论文
Position-aware Graph Neural Networks
Arxiv
15+阅读 · 2019年6月11日
Self-Attention Graph Pooling
Arxiv
5+阅读 · 2019年4月17日
Arxiv
6+阅读 · 2019年3月19日
Neural Arithmetic Logic Units
Arxiv
5+阅读 · 2018年8月1日
Arxiv
12+阅读 · 2018年1月28日
Arxiv
4+阅读 · 2018年1月19日
Top
微信扫码咨询专知VIP会员