可解释性已成为深度学习广泛应用的关键挑战，尤其是在那些人工智能决策可能对人类生活产生深远影响的领域（例如医疗、金融）中。本教程将概述两种主要的可解释性方法，并讨论它们各自的优势与局限性：
事后可解释性：解释现有模型的方法。 设计时可解释性：构建本身具有可解释性的模型的方法。
成为VIP会员查看完整内容
Post-hoc explainability and explainable-by-design approaches to model interpretability
相关内容
一个可以解释的AI（Explainable AI, 简称XAI）或透明的AI（Transparent AI），其行为可以被人类容易理解。它与机器学习中“ 黑匣子 ” 的概念形成鲜明对比，这意味着复杂算法运作的“可解释性”，即使他们的设计者也无法解释人工智能为什么会做出具体决定。 XAI可用于实现社会解释的权利。有些人声称透明度很少是免费提供的，并且在人工智能的“智能”和透明度之间经常存在权衡; 随着AI系统内部复杂性的增加，这些权衡预计会变得更大。解释AI决策的技术挑战有时被称为可解释性问题。另一个考虑因素是信息（信息过载），因此，完全透明可能并不总是可行或甚至不需要。提供的信息量应根据利益相关者与智能系统的交互情况而有所不同。
https://www.darpa.mil/program/explainable-artificial-intelligence
Arxiv
219+阅读 · 2023年4月7日
相关VIP内容
相关资讯
相关论文
Arxiv
219+阅读 · 2023年4月7日
微信扫码咨询专知VIP会员