会员服务
AAAI 2023 · 深度神经网络 · 可解释性 ·
2022 年 12 月 6 日
【AAAI2023】深度神经网络的可解释性验证
专知会员服务
专知会员服务
专知，提供专业可信的知识分发服务，让认知协作更快更好！

我们提出了VERIX，这是在安全关键应用中向验证机器学习模型的可解释性迈出的第一步。具体地说，我们的合理和最优解释可以保证对有界扰动的预测不变性。我们利用约束求解技术和特征灵敏度排序来有效地计算这些解释。我们评估了我们的方法在图像识别基准和一个真实场景的自动驾驶飞机滑行。

https://www.zhuanzhi.ai/paper/34b21de1b36a14c054ad6aca3e70eb87

成为VIP会员查看完整内容
https://www.zhuanzhi.ai/paper/34b21de1b36a14c054ad6aca3e70eb87
VeriX: Towards Verified Explainability of Deep Neural Networks
48

相关内容

【AAAI2023】图序注意力网络
【AAAI2023】图序注意力网络
专知会员服务
45+阅读 · 2022年11月24日
AAAI2022最新「深度神经网络验证」教程报告，100+页PPT阐述理论与实践进展
AAAI2022最新「深度神经网络验证」教程报告，100+页PPT阐述理论与实践进展
专知会员服务
38+阅读 · 2022年3月9日
【AAAI2022】注意力机制的快速蒙特卡罗近似
【AAAI2022】注意力机制的快速蒙特卡罗近似
专知会员服务
19+阅读 · 2022年2月5日
【AAAI2022】通过多任务学习改进证据深度学习
【AAAI2022】通过多任务学习改进证据深度学习
专知会员服务
19+阅读 · 2021年12月21日
【NeurIPS 2021 】 学习理论(有时)可以解释图神经网络中的泛化
【NeurIPS 2021 】 学习理论(有时)可以解释图神经网络中的泛化
专知会员服务
29+阅读 · 2021年12月13日
【NeurIPS2021】模型可解释性的符号语言基础
专知会员服务
21+阅读 · 2021年10月8日
【AAAI2021】组合对抗攻击
【AAAI2021】组合对抗攻击
专知会员服务
50+阅读 · 2021年2月17日
【AAAI2021】属性引导对抗训练的自然扰动鲁棒性
专知会员服务
25+阅读 · 2021年1月21日
【AAAI2021】记忆门控循环网络
【AAAI2021】记忆门控循环网络
专知会员服务
48+阅读 · 2020年12月28日
【AAAI2021】数据增强图神经网络
专知会员服务
107+阅读 · 2020年12月21日
【AAAI2023】图序注意力网络
【AAAI2023】图序注意力网络
专知
5+阅读 · 2022年11月24日
46页pdf, 165篇文献 | 图的可解释性
46页pdf, 165篇文献 | 图的可解释性
图与推荐
3+阅读 · 2022年10月25日
【MIT博士论文】非线性系统鲁棒验证与优化，123页pdf
【MIT博士论文】非线性系统鲁棒验证与优化，123页pdf
专知
2+阅读 · 2022年9月23日
ICML 2022 | 基于随机注意力机制的可解释可泛化图学习
ICML 2022 | 基于随机注意力机制的可解释可泛化图学习
PaperWeekly
1+阅读 · 2022年8月10日
AAAI2022最新「深度神经网络验证」教程报告，100+页PPT阐述理论与实践进展
AAAI2022最新「深度神经网络验证」教程报告，100+页PPT阐述理论与实践进展
专知
0+阅读 · 2022年3月9日
【WWW2022】学习和评估基于反事实和事实推理的图神经网络解释
【WWW2022】学习和评估基于反事实和事实推理的图神经网络解释
专知
4+阅读 · 2022年2月20日
【AAAI2022】基于图神经网络的统一离群点异常检测方法
【AAAI2022】基于图神经网络的统一离群点异常检测方法
专知
4+阅读 · 2022年2月12日
【AAAI2022】注意力机制的快速蒙特卡罗近似
【AAAI2022】注意力机制的快速蒙特卡罗近似
专知
0+阅读 · 2022年2月5日
「深度学习模型鲁棒性」最新2022综述
「深度学习模型鲁棒性」最新2022综述
专知
7+阅读 · 2022年1月23日
【AAAI2022】联合文本分类和关系提取的统一模型可解释性和鲁棒性
【AAAI2022】联合文本分类和关系提取的统一模型可解释性和鲁棒性
专知
0+阅读 · 2021年12月30日
方差正则化的分类模型选择方法研究
国家自然科学基金
1+阅读 · 2015年12月31日
无限闭凸集族凸可行性问题中投影算法的线性收敛
国家自然科学基金
0+阅读 · 2015年12月31日
基于变分原理的星载遥感器红外通道在轨光谱定标方法研究
国家自然科学基金
0+阅读 · 2014年12月31日
用于大气相干激光通信的自适应光学应用基础研究
国家自然科学基金
0+阅读 · 2013年12月31日
基于梯度域计算模型的彩色图像去运动模糊与特征提取方法研究
国家自然科学基金
0+阅读 · 2013年12月31日
多视图张量学习理论、算法及在脑机接口中的应用
国家自然科学基金
0+阅读 · 2012年12月31日
稳健且有效的回归和变量选择方法研究
国家自然科学基金
1+阅读 · 2012年12月31日
基于符号-数值混合计算的多项式优化问题的准确验证
国家自然科学基金
0+阅读 · 2009年12月31日
神经网络子空间学习算法的收敛性与鲁棒性
国家自然科学基金
1+阅读 · 2009年12月31日
基于进程网络的Web服务组合建模和验证方法研究
国家自然科学基金
0+阅读 · 2009年12月31日
Video compression dataset and benchmark of learning-based video-quality metrics
Arxiv
0+阅读 · 2023年2月7日
RegMixup: Mixup as a Regularizer Can Surprisingly Improve Accuracy and Out Distribution Robustness
Arxiv
0+阅读 · 2023年2月6日
Mitigating Adversarial Effects of False Data Injection Attacks in Power Grid
Arxiv
0+阅读 · 2023年2月5日
Depicting deterministic variables within directed acyclic graphs (DAGs): An aid for identifying and interpreting causal effects involving tautological associations, compositional data, and composite variables
Arxiv
0+阅读 · 2023年2月3日
Mitigating Data Scarcity for Large Language Models
Arxiv
0+阅读 · 2023年2月3日
Fixing by Mixing: A Recipe for Optimal Byzantine ML under Heterogeneity
Arxiv
0+阅读 · 2023年2月3日
Symbiosis of an artificial neural network and models of biological neurons: training and testing
Arxiv
0+阅读 · 2023年2月3日
Deep Reinforcement Learning for Cyber System Defense under Dynamic Adversarial Uncertainties
Arxiv
0+阅读 · 2023年2月3日
Adversarial and Contrastive Variational Autoencoder for Sequential Recommendation
Arxiv
17+阅读 · 2021年3月19日
Imbalance Problems in Object Detection: A Review
Arxiv
24+阅读 · 2020年3月11日
VIP会员
相关主题
AAAI 2023
深度神经网络
可解释性
相关VIP内容
【AAAI2023】图序注意力网络
【AAAI2023】图序注意力网络
专知会员服务
45+阅读 · 2022年11月24日
AAAI2022最新「深度神经网络验证」教程报告，100+页PPT阐述理论与实践进展
AAAI2022最新「深度神经网络验证」教程报告，100+页PPT阐述理论与实践进展
专知会员服务
38+阅读 · 2022年3月9日
【AAAI2022】注意力机制的快速蒙特卡罗近似
【AAAI2022】注意力机制的快速蒙特卡罗近似
专知会员服务
19+阅读 · 2022年2月5日
【AAAI2022】通过多任务学习改进证据深度学习
【AAAI2022】通过多任务学习改进证据深度学习
专知会员服务
19+阅读 · 2021年12月21日
【NeurIPS 2021 】 学习理论(有时)可以解释图神经网络中的泛化
【NeurIPS 2021 】 学习理论(有时)可以解释图神经网络中的泛化
专知会员服务
29+阅读 · 2021年12月13日
【NeurIPS2021】模型可解释性的符号语言基础
专知会员服务
21+阅读 · 2021年10月8日
【AAAI2021】组合对抗攻击
【AAAI2021】组合对抗攻击
专知会员服务
50+阅读 · 2021年2月17日
【AAAI2021】属性引导对抗训练的自然扰动鲁棒性
专知会员服务
25+阅读 · 2021年1月21日
【AAAI2021】记忆门控循环网络
【AAAI2021】记忆门控循环网络
专知会员服务
48+阅读 · 2020年12月28日
【AAAI2021】数据增强图神经网络
专知会员服务
107+阅读 · 2020年12月21日
热门VIP内容
相关资讯
【AAAI2023】图序注意力网络
【AAAI2023】图序注意力网络
专知
5+阅读 · 2022年11月24日
46页pdf, 165篇文献 | 图的可解释性
46页pdf, 165篇文献 | 图的可解释性
图与推荐
3+阅读 · 2022年10月25日
【MIT博士论文】非线性系统鲁棒验证与优化，123页pdf
【MIT博士论文】非线性系统鲁棒验证与优化，123页pdf
专知
2+阅读 · 2022年9月23日
ICML 2022 | 基于随机注意力机制的可解释可泛化图学习
ICML 2022 | 基于随机注意力机制的可解释可泛化图学习
PaperWeekly
1+阅读 · 2022年8月10日
AAAI2022最新「深度神经网络验证」教程报告，100+页PPT阐述理论与实践进展
AAAI2022最新「深度神经网络验证」教程报告，100+页PPT阐述理论与实践进展
专知
0+阅读 · 2022年3月9日
【WWW2022】学习和评估基于反事实和事实推理的图神经网络解释
【WWW2022】学习和评估基于反事实和事实推理的图神经网络解释
专知
4+阅读 · 2022年2月20日
【AAAI2022】基于图神经网络的统一离群点异常检测方法
【AAAI2022】基于图神经网络的统一离群点异常检测方法
专知
4+阅读 · 2022年2月12日
【AAAI2022】注意力机制的快速蒙特卡罗近似
【AAAI2022】注意力机制的快速蒙特卡罗近似
专知
0+阅读 · 2022年2月5日
「深度学习模型鲁棒性」最新2022综述
「深度学习模型鲁棒性」最新2022综述
专知
7+阅读 · 2022年1月23日
【AAAI2022】联合文本分类和关系提取的统一模型可解释性和鲁棒性
【AAAI2022】联合文本分类和关系提取的统一模型可解释性和鲁棒性
专知
0+阅读 · 2021年12月30日
相关基金
方差正则化的分类模型选择方法研究
国家自然科学基金
1+阅读 · 2015年12月31日
无限闭凸集族凸可行性问题中投影算法的线性收敛
国家自然科学基金
0+阅读 · 2015年12月31日
基于变分原理的星载遥感器红外通道在轨光谱定标方法研究
国家自然科学基金
0+阅读 · 2014年12月31日
用于大气相干激光通信的自适应光学应用基础研究
国家自然科学基金
0+阅读 · 2013年12月31日
基于梯度域计算模型的彩色图像去运动模糊与特征提取方法研究
国家自然科学基金
0+阅读 · 2013年12月31日
多视图张量学习理论、算法及在脑机接口中的应用
国家自然科学基金
0+阅读 · 2012年12月31日
稳健且有效的回归和变量选择方法研究
国家自然科学基金
1+阅读 · 2012年12月31日
基于符号-数值混合计算的多项式优化问题的准确验证
国家自然科学基金
0+阅读 · 2009年12月31日
神经网络子空间学习算法的收敛性与鲁棒性
国家自然科学基金
1+阅读 · 2009年12月31日
基于进程网络的Web服务组合建模和验证方法研究
国家自然科学基金
0+阅读 · 2009年12月31日
相关论文
Video compression dataset and benchmark of learning-based video-quality metrics
Arxiv
0+阅读 · 2023年2月7日
RegMixup: Mixup as a Regularizer Can Surprisingly Improve Accuracy and Out Distribution Robustness
Arxiv
0+阅读 · 2023年2月6日
Mitigating Adversarial Effects of False Data Injection Attacks in Power Grid
Arxiv
0+阅读 · 2023年2月5日
Depicting deterministic variables within directed acyclic graphs (DAGs): An aid for identifying and interpreting causal effects involving tautological associations, compositional data, and composite variables
Arxiv
0+阅读 · 2023年2月3日
Mitigating Data Scarcity for Large Language Models
Arxiv
0+阅读 · 2023年2月3日
Fixing by Mixing: A Recipe for Optimal Byzantine ML under Heterogeneity
Arxiv
0+阅读 · 2023年2月3日
Symbiosis of an artificial neural network and models of biological neurons: training and testing
Arxiv
0+阅读 · 2023年2月3日
Deep Reinforcement Learning for Cyber System Defense under Dynamic Adversarial Uncertainties
Arxiv
0+阅读 · 2023年2月3日
Adversarial and Contrastive Variational Autoencoder for Sequential Recommendation
Arxiv
17+阅读 · 2021年3月19日
Imbalance Problems in Object Detection: A Review
Arxiv
24+阅读 · 2020年3月11日
微信扫码咨询专知VIP会员
Top