说明黑盒神经网络的一个主要方法是特征归因，即识别输入特征对网络预测的重要性。特征的预测信息最近被提出作为度量其重要性的代理。到目前为止，通过在网络中设置一个信息瓶颈，只能识别出潜在特征的预测信息。本文提出了一种在输入域中具有预测信息的特征识别方法。该方法可对输入特征信息进行细粒度识别，且与网络结构无关。我们方法的核心思想是利用输入上的瓶颈，只让与预测潜在特征相关的输入特征通过。通过主流特征归因评价实验，我们将该方法与几种特征归因方法进行了比较。代码是公开可用的。
https://www.zhuanzhi.ai/paper/a4396722cfa7bcaa74a5c09dfcc6b1a6
成为VIP会员查看完整内容
Fine-Grained Neural Network Explanation by Identifying Input Features with Predictive Information
相关内容
Arxiv
0+阅读 · 2021年11月29日
Arxiv
3+阅读 · 2021年5月14日
Arxiv
10+阅读 · 2018年4月28日
相关VIP内容
相关资讯
相关论文
Arxiv
0+阅读 · 2021年11月29日
Arxiv
3+阅读 · 2021年5月14日
Arxiv
10+阅读 · 2018年4月28日
微信扫码咨询专知VIP会员