【ICML2022】公平的因果概念及其后果

最近的工作强调了因果关系在设计公平决策算法中的作用。然而，目前还不清楚现有的公平的因果概念是如何相互联系的，或者使用这些定义作为设计原则的后果是什么。在这里，我们首先将算法公平的流行因果定义集合并分类为两个大类:(1)那些约束决策对反事实差异的影响的因果定义;(2)限制受法律保护的特征(如种族和性别)对决策的影响。然后，我们分析和经验地表明，在测度理论意义上，两种定义家族几乎总是导致强帕累托支配的决策政策，这意味着有一个替代的、无约束的政策，每个利益相关者的偏好来自一个大的、自然的阶层。例如，在大学录取决定的情况下，约束于满足因果公平定义的政策将不受每一个对学术准备和多样性具有中立或积极偏好的利益相关者的青睐。事实上，在因果公平的显著定义下，我们证明了由此产生的政策要求以相同的概率录取所有学生，无论其学历或群体成员。我们的结果突出了因果公平的常见数学概念的形式限制和潜在的不利后果。