【AAAI2021】可解释图胶囊网络物体检测

胶囊网络（Capsule Networks），作为卷积神经网络的替代品，已被提出用于从图像中识别物体。目前的文献证明了CapsNets相对于CNN的许多优势。然而，如何为CapsNets的各个分类建立解释还没有被探索清晰。目前，广泛使用的显著性方法主要是为了解释基于CNN的分类而提出的，它们通过结合激活值和相应梯度来创建显著性图解释，例如Grad-CAM。这些显著性方法需要底层分类器的特定架构，由于CapsNets的迭代路由机制，它们无法平凡地应用于其中。为了克服可解释性的不足，作者认为可以为CapsNets提出新的事后解释方法，或修改模型，使其具有内置的解释。在这项工作中，作者主要研究后者。具体来说，作者提出了可解释的Graph Capsule Networks（GraCapsNets），用基于多头关注的Graph Pooling方法替换了路由部分。该模型能够有效且高效地创建单个分类的解释。同时，尽管取代了CapsNets的基本部分，该模型还展示了一些意想不到的好处。与CapsNets相比，GraCapsNets以更少的参数实现了更好的分类性能，并且具有更好的对抗性鲁棒性。此外，GraCapsNets还保留了CapsNets的其他优点，即分离式表征示（disentangled representations）和仿射变换鲁棒性（affine transformation robustness）。

https://arxiv.org/abs/2012.01674