【ICML2022】公平的因果概念及其后果

最近的工作强调了因果关系在设计公平决策算法中的作用。然而，目前还不清楚现有的公平的因果概念是如何相互联系的，或者使用这些定义作为设计原则的后果是什么。在这里，我们首先将算法公平的流行因果定义集合并分类为两个大类:(1)那些约束决策对反事实差异的影响的因果定义;(2)限制受法律保护的特征(如种族和性别)对决策的影响。然后，我们分析和经验地表明，在测度理论意义上，两种定义家族几乎总是导致强帕累托支配的决策政策，这意味着有一个替代的、无约束的政策，每个利益相关者的偏好来自一个大的、自然的阶层。例如，在大学录取决定的情况下，约束于满足因果公平定义的政策将不受每一个对学术准备和多样性具有中立或积极偏好的利益相关者的青睐。事实上，在因果公平的显著定义下，我们证明了由此产生的政策要求以相同的概率录取所有学生，无论其学历或群体成员。我们的结果突出了因果公平的常见数学概念的形式限制和潜在的不利后果。

专知便捷查看

便捷下载，请关注专知公众号（点击上方蓝色专知关注）

• 后台回复“CFTC” 就可以获取《【ICML2022】公平的因果概念及其后果》专知下载链接

                       

专知，专业可信的人工智能知识分发 ，让认知协作更快更好！欢迎注册登录专知www.zhuanzhi.ai，获取100000+AI(AI与军事、医药、公安等)主题干货知识资料！

欢迎微信扫一扫加入专知人工智能知识星球群，获取最新AI专业干货知识教程资料和与专家交流咨询！

点击“ 阅读原文 ”，了解使用 专知 ，查看获取100000+AI主题知识资料