机器学习正在医疗健康等各种关键应用得到实施。为了能够信任机器学习模型,并在它出现故障时修复它,能够解释它的决策是很重要的。例如,如果一个模型在特定的子群体(性别、种族等)上的表现很差,找出原因并解决它是很重要的。在本文中,我们研究了现有可解释性方法的不足,并介绍了新的ML可解释性算法,旨在解决一些不足。数据是训练机器学习模型的材料。如果不返回最初训练ML模型的数据,就不可能解释ML模型的行为。一个基本的挑战是如何量化每个数据源对模型性能的贡献。例如,在医疗健康和消费市场,有人提出个人应因其产生的数据而得到补偿,但对个人数据的公平估值尚不清楚。在本文中,我们讨论了数据公平价值评估的原则框架; 也就是说,给定一个学习算法和一个性能度量来量化结果模型的性能,我们试图找到单个数据的贡献。本论文分为3个部分,机器学习的可解释性和公平性,数据估值,以及用于医疗健康的机器学习——所有这些都被一个共同的目标联系在一起,即使机器学习的使用对人类的福祉更负责。

https://searchworks.stanford.edu/view/13874839

成为VIP会员查看完整内容
123

相关内容

“机器学习是近20多年兴起的一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。机器学习理论主要是设计和分析一些让 可以自动“ 学习”的算法。机器学习算法是一类从数据中自动分析获得规律,并利用规律对未知数据进行预测的算法。因为学习算法中涉及了大量的统计学理论,机器学习与统计推断学联系尤为密切,也被称为统计学习理论。算法设计方面,机器学习理论关注可以实现的,行之有效的学习算法。很多 推论问题属于 无程序可循难度,所以部分的机器学习研究是开发容易处理的近似算法。” ——中文维基百科

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
专知会员服务
47+阅读 · 2021年9月5日
专知会员服务
33+阅读 · 2021年7月19日
【斯坦福经典书】机器学习导论,188页pdf
专知会员服务
77+阅读 · 2021年3月31日
专知会员服务
69+阅读 · 2020年12月7日
【哈佛大学】机器学习的黑盒解释性,52页ppt
专知会员服务
165+阅读 · 2020年5月27日
【经典书】机器学习高斯过程,266页pdf
专知会员服务
192+阅读 · 2020年5月2日
用机器学习做信用评分
AI研习社
9+阅读 · 2019年4月10日
关于机器学习,你需要知道的三件事!
云栖社区
3+阅读 · 2018年3月3日
推荐|机器学习中的模型评价、模型选择和算法选择!
全球人工智能
10+阅读 · 2018年2月5日
Arxiv
0+阅读 · 2021年9月30日
Arxiv
0+阅读 · 2021年9月30日
Deep Randomized Ensembles for Metric Learning
Arxiv
4+阅读 · 2018年9月4日
Relational Deep Reinforcement Learning
Arxiv
10+阅读 · 2018年6月28日
Arxiv
7+阅读 · 2018年6月8日
VIP会员
相关VIP内容
专知会员服务
47+阅读 · 2021年9月5日
专知会员服务
33+阅读 · 2021年7月19日
【斯坦福经典书】机器学习导论,188页pdf
专知会员服务
77+阅读 · 2021年3月31日
专知会员服务
69+阅读 · 2020年12月7日
【哈佛大学】机器学习的黑盒解释性,52页ppt
专知会员服务
165+阅读 · 2020年5月27日
【经典书】机器学习高斯过程,266页pdf
专知会员服务
192+阅读 · 2020年5月2日
微信扫码咨询专知VIP会员