我们提出了VERIX,这是在安全关键应用中向验证机器学习模型的可解释性迈出的第一步。具体地说,我们的合理和最优解释可以保证对有界扰动的预测不变性。我们利用约束求解技术和特征灵敏度排序来有效地计算这些解释。我们评估了我们的方法在图像识别基准和一个真实场景的自动驾驶飞机滑行。
https://www.zhuanzhi.ai/paper/34b21de1b36a14c054ad6aca3e70eb87