【牛津大学博士论文】解释黑盒算法:认识论挑战和机器学习解决方案，247页pdf

本论文试图澄清和解决围绕算法可解释性的一些基本问题。什么构成了对监督学习模型或预测的满意解释?解释的基本单位是什么?它们在主体和上下文之间是如何变化的?可靠的方法可以被设计成生成模型不可知的算法解释吗?我用八章的时间来解决这些问题，研究了可解释机器学习(iML)的现有工作，开发了一个比较和开发iML解决方案的新理论框架，并最终实现了一些新的算法，这些算法提供了具有统计保证的全局和局部解释。每次我都强调三个关键的要求:算法解释必须是因果的、实用的，并且经过严格检验。在第一章中，我通过真实世界的例子来介绍这个主题，生动地展示了更好地理解黑盒模型行为的伦理和认识论必要性。第二章和第三章是文献综述，其中我将该项目置于关键数据研究、信息哲学和计算统计学的交叉点。在第4章中，我研究了iML的概念挑战，这些挑战导致了误导性的、反直觉的解释。在第5章中，我为iML提出了一个正式的框架——解释游戏——在这个框架中，玩家通过迭代改进的渐进过程，合作寻找解释性问题的最佳解决方案。在第6章中，我介绍了一种新的条件独立性测试，它可以作为全局变量重要性的灵活度量。在第7章中，我将特征属性和反事实结合到一个方法中，该方法保留并扩展了Shapley值的公理保证，同时对具有定义良好的偏好和信念的代理的结果进行了合理化。在第8章中，我回顾了我的结果，并讨论了它们对数据科学家、政策制定者和最终用户的意义。