We provide a setting and a general approach to fair online learning with stochastic sensitive and non-sensitive contexts. The setting is a repeated game between the Player and Nature, where at each stage both pick actions based on the contexts. Inspired by the notion of unawareness, we assume that the Player can only access the non-sensitive context before making a decision, while we discuss both cases of Nature accessing the sensitive contexts and Nature unaware of the sensitive contexts. Adapting Blackwell's approachability theory to handle the case of an unknown contexts' distribution, we provide a general necessary and sufficient condition for learning objectives to be compatible with some fairness constraints. This condition is instantiated on (group-wise) no-regret and (group-wise) calibration objectives, and on demographic parity as an additional constraint. When the objective is not compatible with the constraint, the provided framework permits to characterise the optimal trade-off between the two.


翻译:我们为公平在线学习提供了一种设置和一般方法,以适应敏感和非敏感背景。这种设置是玩家和自然之间的反复游戏,在每个阶段,玩家和自然都根据背景选择行动。受无知概念的启发,我们假设玩家在作出决定之前只能访问非敏感背景,而我们讨论的是“自然”访问敏感背景和“自然”对敏感背景不知情两种情况。将“黑威尔”的可接近性理论调整为处理未知背景分布的情况,我们为学习目标与某些公平性限制相容提供了普遍必要和充分的条件。这一条件在(分组的)无约束和(分组的)校准目标上即刻起,在人口均等上作为额外的制约。如果目标与限制不一致,提供的框架允许将两者的最佳权衡定性为最佳权衡。

0
下载
关闭预览

相关内容

神经常微分方程教程,50页ppt,A brief tutorial on Neural ODEs
专知会员服务
71+阅读 · 2020年8月2日
因果图,Causal Graphs,52页ppt
专知会员服务
246+阅读 · 2020年4月19日
Stabilizing Transformers for Reinforcement Learning
专知会员服务
58+阅读 · 2019年10月17日
强化学习最新教程,17页pdf
专知会员服务
174+阅读 · 2019年10月11日
已删除
将门创投
6+阅读 · 2019年7月11日
Transferring Knowledge across Learning Processes
CreateAMind
27+阅读 · 2019年5月18日
Arxiv
0+阅读 · 2022年1月8日
Arxiv
0+阅读 · 2022年1月4日
Arxiv
64+阅读 · 2021年6月18日
Arxiv
4+阅读 · 2020年3月19日
Arxiv
14+阅读 · 2019年9月11日
VIP会员
相关VIP内容
相关资讯
已删除
将门创投
6+阅读 · 2019年7月11日
Transferring Knowledge across Learning Processes
CreateAMind
27+阅读 · 2019年5月18日
Top
微信扫码咨询专知VIP会员