可解释的自然语言处理方法简介

传统的自然语言处理方法具有可解释性，这些自然语言处理方法包括基于规则的方法、决策树模型、隐马尔可夫模型、逻辑回归等，也被称为白盒技术。近年来，以语言嵌入作为特征的深度学习模型（黑盒技术）不断涌现，虽然这些方法在许多情况下显著提高了模型的性能，但在另一方面这些方法使模型变得难以解释。用户难以了解数据经过怎样的过程得到所期望的结果，进而产生许多问题，比如削弱了用户与系统之间的交互（如聊天机器人、推荐系统等）。机器学习社区对可解释性重要程度的认识日益增强，并创造了一个新兴的领域，称为可解释人工智能(XAI)。而关于可解释性有多种定义，大部分相关文章的论证也因此有所差异。这里我们关注的是可解释人工智能给用户提供关于模型如何得出结果的可解释，也称为结果解释问题（outcome explanation problem）[1]。在可解释人工智能中，解释可以帮助用户建立对基于NLP的人工智能系统的信任。本文依据前人的综述[2]讨论了可解释的分类方式，介绍了能够给出可解释的技术及其具体操作，并简要地描述了每一种技术及其代表性论文。