题目: Interpreting Interpretability: Understanding Data Scientists’Use of Interpretability Tools for Machine Learning

摘要: 机器学习(ML)模型现在经常应用于从刑事司法到医疗保健的各个领域。随着这种新发现的普遍性,ML已经超越了学术界,发展成为一门工程学科。为此,设计了解释工具来帮助数据科学家和机器学习实践者更好地理解ML模型的工作方式。然而,很少有人评估这些工具在多大程度上实现了这一目标。我们研究数据技术人员使用两种现有的解释性工具,GAMs的解释性ml实现和SHAP Python包。我们对数据科学家进行了背景调查(N=11)和调查(N=197),以观察他们如何使用可解释性工具来发现在构建和计算ML模型时出现的常见问题。我们的结果表明,数据科学家过度信任和滥用解释工具。此外,我们的参与者很少能够准确地描述这些工具的可视化输出。我们为数据科学家强调可解释工具的心智模型的定性主题。我们总结了对研究人员和工具设计者的启示,并将我们的发现置于社会科学文献的背景中。

成为VIP会员查看完整内容
42
0

相关内容

“机器学习是近20多年兴起的一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。机器学习理论主要是设计和分析一些让 可以自动“ 学习”的算法。机器学习算法是一类从数据中自动分析获得规律,并利用规律对未知数据进行预测的算法。因为学习算法中涉及了大量的统计学理论,机器学习与统计推断学联系尤为密切,也被称为统计学习理论。算法设计方面,机器学习理论关注可以实现的,行之有效的学习算法。很多 推论问题属于 无程序可循难度,所以部分的机器学习研究是开发容易处理的近似算法。” ——中文维基百科

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
可解释强化学习,Explainable Reinforcement Learning: A Survey
专知会员服务
87+阅读 · 2020年5月14日
《可解释的机器学习-interpretable-ml》238页pdf
专知会员服务
159+阅读 · 2020年2月24日
干货 | 可解释的机器学习
AI科技评论
13+阅读 · 2019年7月3日
机器学习可解释性工具箱XAI
专知
10+阅读 · 2019年2月8日
已删除
将门创投
3+阅读 · 2018年4月10日
【学界】机器学习模型的“可解释性”到底有多重要?
GAN生成式对抗网络
10+阅读 · 2018年3月3日
Interpretable CNNs for Object Classification
Arxiv
20+阅读 · 2020年3月12日
Arxiv
11+阅读 · 2019年11月24日
Arxiv
18+阅读 · 2018年10月25日
Arxiv
18+阅读 · 2018年2月14日
Arxiv
14+阅读 · 2018年2月7日
Arxiv
4+阅读 · 2017年11月14日
小贴士
相关VIP内容
可解释强化学习,Explainable Reinforcement Learning: A Survey
专知会员服务
87+阅读 · 2020年5月14日
《可解释的机器学习-interpretable-ml》238页pdf
专知会员服务
159+阅读 · 2020年2月24日
相关资讯
相关论文
Interpretable CNNs for Object Classification
Arxiv
20+阅读 · 2020年3月12日
Arxiv
11+阅读 · 2019年11月24日
Arxiv
18+阅读 · 2018年10月25日
Arxiv
18+阅读 · 2018年2月14日
Arxiv
14+阅读 · 2018年2月7日
Arxiv
4+阅读 · 2017年11月14日
微信扫码咨询专知VIP会员