我们提出了VERIX,这是在安全关键应用中向验证机器学习模型的可解释性迈出的第一步。具体地说,我们的合理和最优解释可以保证对有界扰动的预测不变性。我们利用约束求解技术和特征灵敏度排序来有效地计算这些解释。我们评估了我们的方法在图像识别基准和一个真实场景的自动驾驶飞机滑行。

https://www.zhuanzhi.ai/paper/34b21de1b36a14c054ad6aca3e70eb87

成为VIP会员查看完整内容
48

相关内容

【AAAI2023】图序注意力网络
专知会员服务
45+阅读 · 2022年11月24日
【AAAI2022】注意力机制的快速蒙特卡罗近似
专知会员服务
19+阅读 · 2022年2月5日
【AAAI2022】通过多任务学习改进证据深度学习
专知会员服务
19+阅读 · 2021年12月21日
专知会员服务
21+阅读 · 2021年10月8日
【AAAI2021】组合对抗攻击
专知会员服务
49+阅读 · 2021年2月17日
专知会员服务
25+阅读 · 2021年1月21日
【AAAI2021】记忆门控循环网络
专知会员服务
48+阅读 · 2020年12月28日
专知会员服务
107+阅读 · 2020年12月21日
【AAAI2023】图序注意力网络
专知
5+阅读 · 2022年11月24日
46页pdf, 165篇文献 | 图的可解释性
图与推荐
3+阅读 · 2022年10月25日
「深度学习模型鲁棒性」最新2022综述
专知
7+阅读 · 2022年1月23日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
1+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Arxiv
0+阅读 · 2023年2月3日
Arxiv
24+阅读 · 2020年3月11日
VIP会员
相关VIP内容
【AAAI2023】图序注意力网络
专知会员服务
45+阅读 · 2022年11月24日
【AAAI2022】注意力机制的快速蒙特卡罗近似
专知会员服务
19+阅读 · 2022年2月5日
【AAAI2022】通过多任务学习改进证据深度学习
专知会员服务
19+阅读 · 2021年12月21日
专知会员服务
21+阅读 · 2021年10月8日
【AAAI2021】组合对抗攻击
专知会员服务
49+阅读 · 2021年2月17日
专知会员服务
25+阅读 · 2021年1月21日
【AAAI2021】记忆门控循环网络
专知会员服务
48+阅读 · 2020年12月28日
专知会员服务
107+阅读 · 2020年12月21日
相关基金
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
1+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
微信扫码咨询专知VIP会员