【KDD 2021】算法公平性解释框架FACTS

算法公平性近年来在数据挖掘和机器学习领域引起了广泛的关注。到目前为止，现有的研究主要集中在发展量化指标来衡量不同保护组之间的算法差异，以及调整算法输出以减少这种差异的方法。在本文中，我们提出研究模型差异来源的识别问题。不像现有的解释方法通常学习特征的重要性，我们考虑特征变量之间的因果关系，并提出了一个新的框架，将差异分解为公平意识的因果路径的贡献之和，这些路径连接敏感属性和最终预测，在图上。我们还考虑了当这些路径中的某些边的方向无法确定时的情况。我们的框架也是模型无关的，适用于各种数量差异度量。对合成数据集和真实数据集的实证评价表明，我们的方法可以对模型差异提供精确和全面的解释。