随着广泛的应用,人工智能(AI)催生了一系列与人工智能相关的研究活动。其中一个领域就是可解释的人工智能。它是值得信赖的人工智能系统的重要组成部分。本文概述了可解释的人工智能方法,描述了事后人工智能系统(为先前构建的常规人工智能系统提供解释)和事后人工智能系统(从一开始就配置为提供解释)。解释的形式多种多样:基于特征的解释、基于说明性训练样本的解释、基于嵌入式表示的解释、基于热度图的解释。也有结合了神经网络模型和图模型的概率解释。可解释人工智能与许多人工智能研究前沿领域密切相关,如神经符号人工智能和机器教学