【ICML2022教程】因果公平性分析，68页ppt

人工智能在现代社会中扮演着越来越重要的角色，因为曾经由人类做出的决策现在被委托给了自动化系统。这些系统目前负责决定银行贷款、罪犯监禁和雇佣新员工，不难想象，很快它们将成为社会大多数决策基础设施的基础。尽管这项任务的风险很高，但人们仍然缺乏对这类系统的一些基本属性的正式理解，包括公平性、问责制和透明度等问题。在本教程中，我们将介绍因果公平分析的框架，目的是填补这一空白，即理解、建模，并可能解决决策设置中的公平问题。我们的方法的主要见解将是将观察到的数据中存在的差异的量化与最初产生差异的潜在的、往往未被观察到的因果机制联系起来。我们将研究分解变化的问题，这将导致构建公平的实证措施，将这种变化归因于产生它们的因果机制。这种将差异归因于特定因果机制的做法，将使我们能够提出一个正式而实用的框架，以评估不同处理和影响的法律理论，同时考虑到业务的必要性。最后，通过新开发的框架，我们将得出与以往文献的重要联系，在因果推理领域内外。这一努力将在“公平地图”中达到高潮，这是第一个根据其因果属性(包括可接受性、可分解性和权力)对公平的多个衡量标准进行衔接和系统分类的工具。我们希望这一套新的原则、措施和工具可以帮助指导AI研究人员和工程师分析和/或开发与社会目标、期望和愿望一致的决策系统。