AAAI2022最新「可解释人工智能XAI」报告，145页PPT阐述XAI- 从理论到动机、工业应用和编码实践

2022 年 2 月 26 日 专知

【导读】国际人工智能会议AAAI 2022论文将在全程线上举办，时间在 2 月 22 日-3 月 1 日，本届大会也将是第 36 届 AAAI 大会。大会涵盖了众多最近研究Tutorial报告，来自Freddy Lecue, Pasquale Minervini, Fosca Giannotti 博士共同做了关于可解释人工智能的进展报告，非常值得关注!

人工智能的未来在于使人类能够与机器合作解决复杂的问题。就像任何有效的合作一样，这需要良好的沟通、信任、清晰和理解。可解释人工智能(XAI)旨在通过结合符号人工智能和传统机器学习的优点来应对此类挑战。多年来，各种不同的AI社区都在研究这一主题，他们有着不同的定义、评估指标、动机和结果。

本教程是XAI迄今为止工作的一个概述，并综述了AI社区所完成的工作，重点是机器学习和符号AI相关方法。我们将阐述XAI在现实世界和大规模应用中的需求，同时提供最先进的技术和最佳的XAI编码实践。在教程的第一部分，我们将介绍AI的不同方面的解释。然后，我们将本教程重点介绍两种具体方法:(i) XAI使用机器学习，(ii) XAI使用基于图的知识表示和机器学习的组合。对于这两种方法，我们都进入了具体的方法，目前的技术水平和下一步的研究挑战。本教程的最后一部分概述了XAI的实际应用以及最佳XAI编码实践。

地址：

https://xaitutorial2022.github.io/

Freddy Lecue博士是加拿大蒙特利尔泰勒斯人工智能技术研究中心的首席人工智能科学家。他也是法国索菲亚安提波利斯温姆斯的INRIA研究所的研究员。在加入泰雷兹新成立的人工智能研发实验室之前，他曾于2016年至2018年在埃森哲爱尔兰实验室担任人工智能研发主管。在加入埃森哲之前，他是一名研究科学家，2011年至2016年在IBM research担任大规模推理系统的首席研究员，2008年至2011年在曼彻斯特大学(University of Manchester)担任研究员，2005年至2008年在Orange Labs担任研究工程师。

http://www-sop.inria.fr/members/Freddy.Lecue/

目录内容：

第一部分: 介绍，动机和评估- 20分钟

人工智能解释的广泛介绍。这将包括从理论和应用的角度描述和激发对可解释人工智能技术的需求。在本部分中，我们还将总结前提条件，并介绍本教程其余部分所采用的不同角度。

第二部分: 人工智能解释(不只是机器学习!)- 40分钟

概述AI各个领域的解释(优化、知识表示与推理、机器学习、搜索与约束优化、规划、自然语言处理、机器人技术和视觉)，使大家对解释的各种定义保持一致。对可解释性的评估也将包括在内。本教程将涵盖大多数定义，但只会深入以下领域: (i) 可解释的机器学习，(ii) 可解释的AI与知识图谱和机器学习。

第三部分: 知识图谱在可解释机器学习中的作用- 40分钟

在本教程的这一节中，我们将介绍将基于图的知识库与机器学习方法相结合的解释力。

第四部分: XAI工具，编码和工程实践- 40分钟

通过演示如何集成XAI，以及如何根据技术和业务挑战实例化、调整和定制XAI，我们将了解XAI的编码和工程实践。本节将介绍开发代码，这些代码将与谷歌Colab共享，便于与AAAI用户进行互动。本节需要使用谷歌帐号(用于访问谷歌Colab)。

第五部分:应用、经验教训和研究挑战- 40分钟

我们将回顾一些在实际示例中应用的XAI开源和商业工具。我们将描述如何基于技术和业务挑战实例化XAI。我们特别关注一些用例: (1) 解释目标检测，(2) 解释自动驾驶列车的障碍检测，(3)解释飞行性能，(4) 解释具有内置解释功能的航班延误预测系统，(5) 一个大规模的合同管理系统，通过知识图谱上的语义推理预测和解释企业项目的风险等级; (6) 一个费用系统，识别、解释和预测500多个城市的大型组织员工的异常费用索赔; (7) 一个信贷决策解释系统，(8) 医疗条件解释系统，以及其他8个行业用例。