AAAI 2020 最新“可解释人工智能 XAI”教程

2020 年 2 月 7 日-2 月 12 日，AAAI 2020 在美国纽约举办。 由 Freddy Lecue 等人发表的可解释人工智能的演讲引发诸多关注。

这场演讲发布了关于可解释 AI 的基础、工业应用、实际挑战和经验教训等方面的内容，是构建可解释模型的重要指南。

详细地址：https://xaitutorial2020.github.io/

教程目标

1. 什么是可解释的 AI（XAI）？

   什么是可解释的 AI（Explainable AI，简称 XAI）？来自 AI 社区（机器学习、逻辑学、约束编程、诊断）的各种流的解释是什么？解释的指标是什么？

   
   

2. 我们为什么要关心？

   为什么可解释的 AI 重要？甚至在某些应用中至关重要？AI 系统的动机是什么？

   
   

3. 哪里是关键？

   大规模部署 AI 系统时，真正需要解释的实际应用是什么？

   
   

4. 它是如何工作的？

   在计算机视觉、自然语言处理方面，最先进的解释技术是什么？对于哪种数据格式、用例、应用程序、行业，什么是有效的，什么是无效的？

   
   

5. 我们学到了什么？

   部署现有 XAI 系统的经验教训和局限性是什么？向人类传达解释？

   
   

6. 下一步是什么？

   XAI 的未来前景如何？

简述

人工智能在未来在于让人们能够与机器协作来解决复杂的问题。 与任何有效的协作一样，这需要良好的沟通、信任、清晰和理解。 可解释 AI 旨在通过将象征性 AI 与传统机器学习相结合来应对这些挑战。 可解释的 AI（Explainable AI，简称 XAI）可定义为能够以人类可解释的方式解释其决策结果的人工智能算法及系统。

多年来，所有不同的 AI 社区都在研究这个主题，其定义、评估指标、动机和结果各不相同。

本教程简要介绍了 XAI 迄今为止的工作，也调查了 AI 社区在机器学习和符号化 AI 相关方面的重点工作。 本教程重点介绍两种特定的方法： (i)XAI 使用机器学习 (ii)XAI 使用基于图形的知识表示和机器学习的组合。 下面将详细解释其方法、目前的技术状态、下一步的限制和研究挑战，最后概述 XAI 的实际应用。

内容

第一部分：介绍和动机

AI 解释的入门介绍。 这将从理论和应用角度描述可解释 AI 技术的需求。 在这一部分中，我们还总结了先决条件，并介绍本教程其余部分所采用的不同角度。

从商业角度来看，AI 可应用于信用评分、贷款批准、保险报价和医疗等，但是「黑盒子」AI 对行业又会产生一些风险。

 

第二部分：人工智能的解释（不仅仅是机器学习！）

人工智能在各个领域（优化、知识表示和推理、机器学习、搜索和约束优化、规划、自然语言处理、机器人和视觉）的解释概述，以使每个人都适应各种解释定义。 对可解释性的评估也将包括在内。 本教程将涵盖大多数定义，但只深入以下领域： (i) 可解释的机器学习，(ii) 知识图谱与机器学习的可解释 AI。

 

第三部分：可解释的机器学习（从机器学习角度）

在本节中，我们解决了可解释的机器学习管道的广泛问题。 我们描述了机器学习社区中解释的概念，然后我们描述了一些流行的技术，主要是事后解释能力、设计解释能力、基于实例的解释、基于原型的解释和解释的评估。 本节的核心是分析不同类别的黑盒问题，从黑盒模型解释到黑盒结果解释。

 

第四部分：可解释的机器学习（从知识图谱的角度）

在本教程的这一部分中，我们将说明基于图的知识库与机器学习方法相结合起来的解释能力。

第五部分： XAI 工具的应用、经验教训和研究挑战

我们将回顾一些 XAI 开源和商业工具在实际应用中的例子。 我们关注一些用例：

i) 解释自动列车的障碍物检测；

ii) 具有内置解释功能的可解释的航班延误预测系统；

iii) 通过知识图谱的语义推理来预测和解释公司项目的风险等级的大范围合同管理系统；

iv) 用于识别、解释和预测 500 多个城市大中型组织员工异常费用报销的费用系统；

v) 搜索和推荐系统的解释；

vi) 解释销售预测；

vii) 解释贷款决定；

viii) 解释欺诈检测。

 

往期 精彩回顾

钟南山领衔首发论文：潜伏期最长24 天，仅1%病患接触野生动物，早期43.8%出现发热，不排除“超级传播者”

从权威院士到美女所长，疫情当前，我们用AI“扒了扒”十位全球备受关注的新冠相关学术人物

抢注专利？抢发论文？冠状病毒“照出科研众生相”，Nature呼吁全球学者：迅速共享，保持公开

柳叶刀最新模型预测：武汉肺炎感染病例已攻陷多个城市，上半年疫情风险严峻

不能错过的人工智能全球 2000 位最具影响力学者榜单 | 重磅发布

点击 “阅读原文”  查看往期精彩内容！