【数萃大数据】公众号又开办了一个新栏目,之后我们每周末会为大家分享各种趣闻趣事名人好书。
我们将连续转载史春奇老师高品质的推文。感谢史春奇老师的授权以及对数萃大数据学院的大力支持!
在之前的文章“易图秒懂の神经网络诞生"里面,我们谈到神经网络在感知机诞生后不久就遇冷了。 但是文章”易图秒懂の人工智能诞生“里面谈到, 人工智能的发展并没有停滞。 其中, 最著名的就是符号主义symbolic approach,symbolism的盛行。 这个方向的发展, 奠基了现在很火的知识图谱Knowledge Graph的方向。
前言
人工智能的诞生, 主力有McCarthy和Shannon, 他们对符号主义的奠基人Simon产生了巨大的影响。
Simon带着他的学生Newell一起参加了Dartmouth会议, 随后他们一起发明了IPL语言,和McCarthy类似。 McCarthy找到IBM工作时的同事Rochester一起开发了LISP语言。 而Newell也找RAND公司的计算机同事Shaw一起, 创立了IPL语言。
就是基于LISP语言, Simon他们开启了牛牛的模式, 其中之一就是基于Shannon的Minimax跳棋程序的实现, 吸收了McCarthy剪枝的改进, 开发了Alpha-beta剪枝的空间搜索, 并且开发了最早期的国际象棋的程序。 后来IBM的deep blue和Google的AlphaGo都是Alpha-beta的后续发展结果。其中Alpha-Go某种意义上就是Alpha-beta的Alpha。
接下来我们解释下, Simon是如何奠定了符号主义!
一图抵千言
有了IPL语言后, Simon,Newell和Shaw一起开发了一个叫Logic Theorist的程序。这个程序相当厉害, 集成简单的逻辑推理能力, 并且证明了罗素的数学原理前52个定理里面的38个。 于是乎,大获成功。其中, 部分证明, 甚至超越人类的证明, 简单新奇。 并且他们开发的NSS象棋程序也可以进行人机弈。 在这一系列强大的惊叹号下, 他们开始大胆预测, 10年之后, 机器将在很多方面取代人类。
这个过程和现在AlphaGo的惊奇何等相似!当然这离不开Shaw这个牛牛的程序员的功劳, Shaw是JOSS语言的发明人, 这个语言是Basic语言的前生。 有这么牛的程序员, 只要有好的想法, 都是会计算机实现的。
正是由于在逻辑推理方面的成功, 他们三人又定义了GPS的逻辑推理架构, 并且提出启发式搜索的思路。 基本上, AlaphaGo依然符合这个GPS General Problem Solver 推理架构。 这方面的成就,让他们获得了图灵奖。
故事并没有随着Simon和他学生Newell获得图灵奖就结束。之后Simon的学生Feigenbaum,另外一个图灵奖获得者,他受到GPS的强大“刺激“”,一心想找个地方实现GPS的具体应用。 他开创了斯坦福的知识系统实验室KSL。
Feigenbaum和Simon一起开发了EPAM模型, 开创了记忆学习。 这样,推理不再需要从头到尾的全学习,只需要记住已有的知识, 在这个知识上进行推理。
有了EPAM记忆学习的思路, Feigenbaum和斯坦福的同事Buchanan一起, 找到一个应用。 这个应用就是诺贝尔奖获得者Lederberg在基因工作方面的需求:标识从未见过的有机分子。 在这个需求下, 他们三人一起合作开发了第一个专家系统叫Dendral。 这时候LISP语言发展很快,他们已经切换到用LISP语言来实现Dendral。 Dendral某种意义上是GPS和EPAM模型结合的一个具体实现。
有了Dendral专家系统的经验, Feigenbaum的同事Buchanan,指导学生Shortliffe实现了另外一个专家系统, 叫MYCIN,对后世影响巨大。
MYCIN也是通过LISP语言实现, 应用于传染病诊断。 除了存储规则, 还有了backward chaining推理机制。 结合存储和推理, MYCIN开创了基于规则的专家系统领域。 当然这一切也是在Feigenbaum的指导下。
随着专家系统的成功, Feigenbaum也没有闲着, 开了两家公司IntelliCorp和Teknowledge。 其中IntelliCorp卖给SAP,大赚一笔。 Simon的学生真是研发、商业两手抓,两手都硬气!
故事依然没有结束, 有了专家系统之后, 大家发现问题都集中到了两个方面, 一是知识的获取和管理, 另一个则是推理引擎。 便有了研究知识库和推理引擎发明的大量投入。 其中MYCIN的backward chaining推理被Colerauer的芬兰计算机学家实现为Prolog语言。 这是人工智能领域专用语言之一。 是声明式语言的典范。另外一位计算机学家Forgy发明了Rete算法, 现在你用到的大部分推理引擎,基本都离不开Rete算法。
正是知识库的发展, 带来了数据库和知识图谱的发展, 这也为之后大规模数据挖掘和知识挖掘奠定了基础。
但是, 符号主义的影响并没有结束, 它深刻地影响了一个新学科认知科学的诞生。 这个学科是智力模型、行为主义方向和逻辑符号主义结合的一个新的方向。 Christopher是个理论化学家, 他被该领域深深地吸引, 对认知科学的定义和整理做出了杰出贡献。 他也是现在深度学习很火的Hinton的博士导师。
同样, 认知科学也离不开物理实验的基础, 这就是心理学家建立的行为模型和语言行为模型。这发明的极大成者就是伟大的乔姆斯基。 他直接带动了计算语言学的发展。 我在美国的导师James Pustejovsky也是这方面的好手!他在词法语义和生成词法理论方面成果突出!
感谢他对我工作的指导和生活的照顾!
小结
这里梳理了神经网络冷遇之后,符号逻辑在司马贺Simon的影响下发展起来的过程及对后世的影响。
推荐阅读
欢迎大家关注微信公众号:数萃大数据
python大数据分析培训班【杭州站】
时间:2017年8月18日-22日
地点:杭州亚朵吴酒店
更多详情,请扫描下面二维码
网络爬虫与文本挖掘培训班【宁波站】
时间:2017年9月23日-25日
地点:维也纳国际酒店(机场店)
更多详情,请扫描下面二维码