【NeurIPS2022】可解释机器学习的安全性:一种最大偏差方法

2022 年 11 月 8 日 专知


可解释的机器学习最近引起了人们的极大兴趣。我们将安全性作为激增背后的一个关键动机,并使可解释性和安全性之间的关系更加定量。为了评估安全性,我们引入了最大偏差的概念,通过优化问题找到监督学习模型与被视为安全的参考模型的最大偏差。然后,我们将展示可解释性如何促进这种安全评估。对于决策树模型、广义线性模型和加性模型,可以准确有效地计算最大偏差。对于树集合,它被认为是不可解释的,离散优化技术仍然可以提供信息边界。对于更广泛的分段Lipschitz函数,我们利用多臂强盗文献来表明可解释性在最大偏差上产生更紧密的(遗憾)界限。我们提出了案例研究,包括一个抵押贷款批准,以说明我们的方法和关于模型的见解,可能从偏差最大化。

https://www.zhuanzhi.ai/paper/90be37d656582594277db63ca838a13c


专知便捷查看

便捷下载,请关注专知公众号(点击上方蓝色专知关注)

  • 后台回复“SIML” 就可以获取【NeurIPS2022】可解释机器学习的安全性:一种最大偏差方法》专知下载链接

                       
专知,专业可信的人工智能知识分发 ,让认知协作更快更好!欢迎注册登录专知www.zhuanzhi.ai,获取100000+AI(AI与军事、医药、公安等)主题干货知识资料!
欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程资料和与专家交流咨询
点击“ 阅读原文 ”,了解使用 专知 ,查看获取100000+AI主题知识资料

登录查看更多
2

相关内容

【2022新书】算法高维鲁棒统计,296页pdf与98页ppt
专知会员服务
50+阅读 · 2022年10月21日
NeurIPS2022|基于解耦因果子结构学习的去偏差图神经网络
【NeurIPS2021】基于贝叶斯优化的图分类对抗攻击
专知会员服务
17+阅读 · 2021年11月6日
[WWW2021]图结构估计神经网络
专知会员服务
42+阅读 · 2021年3月29日
专知会员服务
21+阅读 · 2021年2月6日
【PKDD2020教程】可解释人工智能XAI:算法到应用,200页ppt
专知会员服务
100+阅读 · 2020年10月13日
【哈佛大学】机器学习的黑盒解释性,52页ppt
专知会员服务
168+阅读 · 2020年5月27日
【NeurIPS2022】主动贝叶斯因果推理
专知
3+阅读 · 2022年11月14日
【NeurIPS2022】基于最大熵编码的自监督学习
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
3+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2008年12月31日
VIP会员
相关VIP内容
【2022新书】算法高维鲁棒统计,296页pdf与98页ppt
专知会员服务
50+阅读 · 2022年10月21日
NeurIPS2022|基于解耦因果子结构学习的去偏差图神经网络
【NeurIPS2021】基于贝叶斯优化的图分类对抗攻击
专知会员服务
17+阅读 · 2021年11月6日
[WWW2021]图结构估计神经网络
专知会员服务
42+阅读 · 2021年3月29日
专知会员服务
21+阅读 · 2021年2月6日
【PKDD2020教程】可解释人工智能XAI:算法到应用,200页ppt
专知会员服务
100+阅读 · 2020年10月13日
【哈佛大学】机器学习的黑盒解释性,52页ppt
专知会员服务
168+阅读 · 2020年5月27日
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
3+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2008年12月31日
Top
微信扫码咨询专知VIP会员