也许您对神经网络早有所耳闻。在机器学习和认知领域,人工神经网络(Artificial Network,ANN),简称神经网络(Neural Network,NN)或类神经网络。神经网络的构筑理念是受到人类神经网络功能的运作启发而产生的。许多复杂的应用(如模式识别、自动控制)和高级模型(如深度学习)都基于它,它是人工智能的底层模型。虽然像深度学习(Deep Learning)这样的概念相对较新,但它们仍然基于可追溯到 1943 年提出的数学理论。
1943 年,神经学家 Warren McCulloch 和数学家 Walter Pitts 合著了《神经活动中固有的思维逻辑运算》(A Logical Calculus of the Ideas Immanent in Nervous Activity),书中提出将数学和算法的结合,建立了神经网络和数学模型,模仿人类的思维活动。人工神经网络的大门由此开启。这篇研究论文后来还催生了 Google 。它对计算机科学的重要性就像甚或超过 PageRank 英文排名。
“人工智能”这个名词正式出现,最早是 1955 年 8 月 31 日由美国计算机科学家 John McCarthy 和他的同事 Marvin Minsky、Nathaniel Rochester 和 Claude Shannon 提出的,那是确立了人工智能这一研究领域的 Dartmouth 学院暑期人工智能研讨项目经典提议的一部分,这个提议名为《2 个月,10 个人的人工智能研究》(2 month, 10 man study of artificial intelligence)。
1956 年 Dartmouth 会议被后世广泛承认为人工智能诞生的标志。会议上提出的断言之一是“学习或者智能的任何其他特性的每一个方面都应能被精确地加以描述,使得机器可以对其进行模拟。”这次会议上人工智能的名称和任务得以确定,同时出现了最初的成就和最早的一批研究者。
反向传播(backpropagation)有时缩写为 BACKPROP,是一种与最优化方法(如梯度下降法)结合使用的,用于训练神经网络的常见方法,在机器学习史上是重要的算法之一。它最早是 1969 年 Marvin Minsky 和 Seymour Papert 在《感知机》(Perceptrons)中提出,但直到 20 世纪 80 年代中期,才成为机器学习的主流。
反向传播要求有对每个输入值想得到的已知输出,来计算损失函数梯度。因此,它通常被认为是一种监督式学习方法,虽然它也用在一些无监督网络(如自动编码器)中。 它是多层前馈网络的 Delta 规则的推广,可以用链式法则对每层迭代计算梯度。反向传播要求人工神经元(或“节点”)的激励函数可微。
近年来,人机对话交互技术成为人工智能的热点领域。众多业界公司相继推出了人机对话技术相关产品,如个人事务助理、手机助理、虚拟情感陪护机器人、娱乐型聊天机器人、智能音箱等等,并将人机对话交互技术作为其公司的重点研发方向。目前比较知名的产品有: Amaze 的 Alexa、 Google 的 Google Assistant、Apple 的 Siri 等等。
人机对话最早可追溯到 1966 年,麻省理工学院 Joseph Weizenbaum 在 ACM 上发表了题为《 ELIZA,一个研究人机自然语言交流的计算机程序》(ELIZA-a computer program for the study of natural language communication between man and machine)的文章。文章描述了这个叫作 ELIZA 的程序如何使人与计算机在一定程度上进行自然语言对话成为可能。Weizenbaum 开发了最早的聊天机器人 ELIZA,用于在临床治疗中模仿心理医生。ELIZA 的实现技术是通过关键词匹配规则对输入进行分解,而后根据分解规则所对应的重组规则来生成回复。简而言之,就是将输入语句类型化,再翻译成合适的输出。虽然 ELIZA 很简单,但 Weizenbaum 本人对 ELIZA 的表现感到吃惊,随后撰写了《计算机的能力和人类的推理》(Computer Power and Human Reason)这本书,表达他对人工智能的特殊情感。ELIZA 如此出名,以至于 Siri 也说 ELIZA 是一位心理医生,是她的启蒙老师。(“She was my first teacher!”、“…She was a brillant psychiatrist.…”)
想必你一定时不时在媒体上听到过“奇点”。何谓奇点?就是机器变得比人类更聪明的那个点。奇点的概念,最早是 1982 年 Vernor Steffen Vinge 在卡内基梅隆大学召开的美国人工智能协会年会上首次提出“技术奇异点”这一概念。1993 年,他在美国国家航空航天局路易斯研究中心举行的一次讨论会上发表了论文《技术奇异点即将来临:后人类时代生存指南》(The Coming Technological Singularity)再次简述了这个观点,论文同年刊载于《全地球评论》(Whole Earth Review)杂志上。在这篇论文中,Vernor Steffen Vinge 系统地阐述了自己的“技术奇异点”的理论,并声称超越人类智能的计算器将在 50 年之内问世,并把这次变化好比 200 万年以前人类的出现一样重大。正是这篇文章,使“奇点”的观点流行开来。
自动驾驶似乎在这几年才频繁出现媒体上。世界上第一辆自动驾驶骑车是 Google 公司开发的吗?非也。自动驾驶汽车的展示系统可追溯至 1920 年代及 1930 年代间,但要到 1950 年代从出现可行的实验,并取得部分成果。第一辆能真正自动驾驶的汽车则出现于 1980 年代。1984 年,卡内基美隆大学推动 Navlab 计划与 ALV 计划,这个被人搁置多年的想法又卷土重来,再到 1987 年,梅赛德斯 - 奔驰与德国慕尼黑联邦国防大学共同推行尤里卡普罗米修斯计划。从此以后,许多大型公司与研究机构开始制造可运作的自动驾驶汽车原型。
1989 年,美国卡内基梅隆大学的研究人员 Dean Pomerleau 就花费了 8 年的时间,研发出了一套名叫 ALVINN (Autonomous Land Vehicle In a Neural Network) 的无人驾驶系统,并用在了 NAVLAB 货车上,从宾夕法尼亚州匹兹堡到加州圣地亚哥行驶了 2797 英里,成功实现了自动驾驶,成为自动驾驶的祖师爷。虽然它的技术在今天来看非常原始,但是它证明了自动驾驶是可以实现的。
1996 年 2 月 10 日,超级电脑 Deep Blue 首次挑战国际象棋世界冠军 Kasparov ,但以 2:4 落败。比赛在 2 月 17 日结束。其后研究小组把 Deep Blue 加以改良,1997 年 5 月再度挑战 Kasparov ,比赛在 5 月 11 日结束,最终 Deep Blue 电脑以 3.5:2.5 击败 Kasparov ,成为首个在标准比赛时限内击败国际象棋世界冠军的电脑系统。IBM 在比赛后宣布 Deep Blue 退役。
这是一场人类大脑和机器大脑的决战。尽管无疑 DeepBlue 处理信息的速度比 Kasparov 更快,拥有每秒超过 2 亿步的惊人速度。但 Deep Blue 的缺陷是没有直觉,不能进行真正的思考。这场比赛过程表明, Deep Blue 无穷无尽的计算能力在很大程度上弥补了这些缺陷,这也反过来让人们思考,什么是思维的本质?思维是神秘莫测的吗?
这一结果尽管可能并没有证明 AI 除了在有明确定义的规则的问题上表现出色之外,在其他问题是否也表现出色,但这仍是人工智能领域向前迈进的一大步。
就像 Deep Blue 与 Garry Kasparov 的对弈一样,2011 年,IBM 的 AI 面临着另一个巨大的挑战,IBM Watson 在挑战 Jeopardy!(美国一档电视智力竞赛综艺节目)的前优胜者 Brad Rutter 和 Ken Jennings ——冠军奖获得 100 万美元奖金。比赛结束后,被 Watson 碾压的 Ken Jennings 打趣说:“我,作为一个人,欢迎我们的新机器人霸主。”(I, for one, welcome our new robot overlords.)
Watson 是能够使用自然语言来回答问题的人工智能系统,由 IBM 公司的首席研究员 David Ferrucci 所领导的 DeepQA 计划小组开发并以该公司创始人 Thomas J·Watson 的名字命名。IBM 介绍时说“它是一个集高级自然语言处理、讯息检索、知识表示、自动推理、机器学习等开放式问答技术的应用”,并且“基于为假设认知和大规模的证据搜集、分析、评价而开发的 DeepQA 技术”。
以前,如果没有人类和大量现成数据的帮助下,人工智能甚至都不能分辨出猫的照片。但在 2012 年 6 月,Google 的研究人员 Jeff Dean 和 Andrew Ng 用 1.6 万块电脑处理器构建了全球最大的电子模拟神经网络,并通过向其展示自 YouTube 上随机选取的 1000 万段视频,考察其能够学到什么。结果显示,在无外界指令的自发条件下,该人工神经网络自主学会了识别猫的面孔。该成果表明 Google 在人工智能领域已取得重大进展。
2016 年 3 月,Google DeepMind 的 AlphaGo 在四场比赛中击败了围棋世界冠军李世乭。全世界有 6000 万观众观看了这场比赛。这是一个具有里程碑意义的事件,因为围棋中可能的落子位置数目比宇宙的原子总数还要多,把围棋所有的状态用穷举法全部列出大概需要 10¹⁷⁰(相比之下国际象棋只有 10⁴⁶),因此,围棋也被认为是人工智能攻克信息完全博弈游戏最后的堡垒。相比 1997 年 IBM Deep Blue 的暴力博弈树遍历而言, Deep Blue 的胜利只是硬件速度的胜利和计算机的胜利。AlphaGo 今天的胜利才真正是人工智能的胜利,它标志着真正人工智能时代的开启。