【CVPR2023】基于梯度不确定性归因的可解释贝叶斯深度学习

深度学习模型的预测容易受到数据扰动、对抗性攻击和分布外输入的影响。为了构建可信的人工智能系统，准确量化预测的不确定性至关重要。虽然目前的工作侧重于提高不确定性量化的准确性和效率，但有必要确定不确定性的来源，并采取行动减轻其对预测的影响。因此，本文提出开发可解释和可操作的贝叶斯深度学习方法，不仅可以进行准确的不确定性量化，还可以解释不确定性，识别其来源，并提出策略来减轻不确定性的影响。提出了一种基于梯度的不确定性归因方法，以识别导致预测不确定性的输入中问题最严重的区域。与现有方法相比，UABackprop具有具有竞争力的精度、宽松的假设和高效的性能。提出了一种不确定性缓解策略，利用归因结果作为注意力，进一步提高模型性能。通过定性和定量的实验验证了所提方法的有效性。