机器推理的进展与展望

2021 年 3 月 8 日 专知

摘要机器学习算法的发展仍受到泛化能力较弱、鲁棒性较差、缺乏可解释性等问题的限制.文中介绍机器推理,说明推理对于机器学习人的知识和逻辑、理解和解释世界的重要作用.首先分析人类大脑推理机制,从认知地图、神经元和奖赏回路,扩展到受脑启发的直觉推理、神经网络和强化学习.进而总结机器推理的方式及其相互关联的现状、进展及挑战,具体包括直觉推理、常识推理、因果推理和关系推理等.最后展望机器推理的应用前景与未来的研究方向.

http://manu46.magtech.com.cn/Jweb_prai/CN/abstract/abstract12106.shtml

随着 1950 年克劳德·香农提出的计算机博弈[1]和 1954 年图灵提出的“图灵测试冶 [2] ,人工智能这一概念在 1956 年的达特茅斯学院研讨会上被正式提出[3] . 近一个世纪以来,如何让机器产生类似人类的智能成为研究者的关注焦点. 在此期间,人工智能经历三次浪潮,第一次浪潮兴起于 20 世纪 60 年代,标志性成就有自然语言处理[4] 、人机对话[5] 、知识库[6]等;第二次浪潮兴起于 20 世纪 80 年代,成果主要是大规模知识库[7] 、非单调逻辑理论[8] 、机器人学[9] 和语义互联网[10] 等; 第三次浪潮由 2006 年 Lecun 等[11] 提出的深度学习开始,延续至今,成果有自动驾驶技术、自然语言问答工具、智能机器人等.

近年来,机器学习的重要算法包括深度学习、自编码学习、自循环神经网络和强化学习[12] . 随着机器学习算法[13]的蓬勃发展,人工智能在视听觉感知领域取得较大成果,语音翻译软件、人脸识别系统、智能助手等应用的出现极大地改变人们的生活. 此外,人工智能已在很多领域媲美甚至超越人类水平. 例如,1997 年“深蓝冶战胜国际象棋世界冠军[14] 、 2011 年超级计算机沃森在智力竞猜节目中击败人类[15] 、2016 年 Google 开发的 AlphaGo [16] 战胜世界顶尖围棋棋手、2019 年 OpenAI 击败 Dota2 世界冠军[17]等。

目前,人工智能算法普遍在强监督学习、可微分和封闭静态系统下具有较好的实现效果,对于系统鲁棒性较差、任务复杂、目标多样、样本数据不完善等情况并无合适的解决方案[18] . 例如,人工智能算法依赖应用场景,当场景的各种约束条件确定,可调整好系统各项性能,但如果更换场景,就需要重新调整. 这反映人工智能系统模型泛化能力较弱,难于大范围扩展. 同时,大多数算法依靠数据驱动,系统需要不断收集大量数据,在应用中迭代优化,开发维护成本也相应增加. 此外,人工智能系统除感知、运动外,还需要理解、推理、自主决策等能力以解决复杂场景的困难问题,这将是未来人工智能发展的首要任务[12] .

从本质上讲,机器学习的方法[13]是采用关联驱动从大量数据中拟合并总结相关规律. 但是机器不具备人类的推理能力,因此很难区分数据中的因果关联和虚假关联,当数据较少时,模型就难以展现类似人脑的泛化性,导致错误[19] . 为了实现强大的人工智能,需要为机器配备推理能力,帮助机器模拟人的推理机制以建模世界,赋予机器从观察到的现象推断原因的能力,实现可解释的稳定预测.

本文总结人类大脑推理机制,由脑中的认知地图、神经元和奖赏回路,扩展至人工智能中的直觉推理、神经网络和强化学习,并给出当前受脑启发的机器推理计算模型. 讨论并分析人工智能中各类推理方式及其进展和面临的挑战. 展望机器推理的应用前景与未来研究方向.