In recent years, personalization research has been delving into issues of explainability and fairness. While some techniques have emerged to provide post-hoc and self-explanatory individual recommendations, there is still a lack of methods aimed at uncovering unfairness in recommendation systems beyond identifying biased user and item features. This paper proposes a new algorithm, GNNUERS, which uses counterfactuals to pinpoint user unfairness explanations in terms of user-item interactions within a bi-partite graph. By perturbing the graph topology, GNNUERS reduces differences in utility between protected and unprotected demographic groups. The paper evaluates the approach using four real-world graphs from different domains and demonstrates its ability to systematically explain user unfairness in three state-of-the-art GNN-based recommendation models. This perturbed network analysis reveals insightful patterns that confirm the nature of the unfairness underlying the explanations. The source code and preprocessed datasets are available at https://github.com/jackmedda/RS-BGExplainer


翻译:近年来,个性化研究一直在探索可解释性和公平性问题。尽管一些技术已经出现,提供了事后的和自说明的个性化推荐,但仍然缺乏方法来揭示推荐系统中的不公平性,超出了仅仅识别带有偏见的用户和项目特征。本文提出了一种新算法GNNUERS,它使用反事实推理在双向图的用户-项目交互中找出用户不公平性的解释。通过扰动图形拓扑,GNNUERS 减少了受保护和未受保护人口统计学群体之间效用的差异。本文使用来自不同领域的四个现实世界图表评估了该方法,并展示了它在三种最先进的基于 GNN 的推荐模型中系统地解释用户不公平性的能力。这种扰动网络分析揭示了有启示性的模式,证实了所解释的不公平性的性质。源代码和预处理数据集在 https://github.com/jackmedda/RS-BGExplainer 上可用。

0
下载
关闭预览

相关内容

【ICDM 2022教程】图挖掘中的公平性:度量、算法和应用
专知会员服务
26+阅读 · 2022年12月26日
【KDD2022教程】图算法公平性:方法与趋势,200页ppt
专知会员服务
40+阅读 · 2022年8月20日
可信图神经网络综述:隐私,鲁棒性,公平和可解释性
专知会员服务
38+阅读 · 2022年5月5日
专知会员服务
23+阅读 · 2021年8月27日
【哈佛大学商学院课程Fall 2019】机器学习可解释性
专知会员服务
99+阅读 · 2019年10月9日
IJCAI2022推荐系统论文集锦
机器学习与推荐算法
0+阅读 · 2022年5月20日
AI可解释性文献列表
专知
42+阅读 · 2019年10月7日
灾难性遗忘问题新视角:迁移-干扰平衡
CreateAMind
17+阅读 · 2019年7月6日
LibRec 精选:推荐系统的论文与源码
LibRec智能推荐
14+阅读 · 2018年11月29日
LibRec 精选:推荐的可解释性[综述]
LibRec智能推荐
10+阅读 · 2018年5月4日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
国家自然科学基金
5+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2008年12月31日
Arxiv
22+阅读 · 2021年12月2日
Interest-aware Message-Passing GCN for Recommendation
Arxiv
11+阅读 · 2021年2月19日
VIP会员
相关基金
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
国家自然科学基金
5+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2008年12月31日
Top
微信扫码咨询专知VIP会员