【KDD2021】具有残差独立性的可微分因果发现

在各种科学和工业情景中，发现一组变量之间的因果结构是一项至关重要的任务。基于联合分布的有限i.i.d.样本，因果发现本质上是一个具有挑战性的组合问题。功能性因果模型的最新发展，特别是NOTEARS为因果发现提供了一个可微分的优化框架。他们将结构学习问题定义为在非周期性和稀疏性等特定结构约束下，对观测数据(即变量重构)进行最大似然估计的任务。尽管在可扩展性方面取得了成功，但我们发现，优化这些可微分方法的目标并不总是与学习到的因果图的正确性一致，特别是当变量在野外环境的真实数据中携带异构噪声(即不同噪声类型和噪声方差)时。在本文中，我们证明了它们容易产生错误结构的原因主要是过度重构问题，即变量的噪声被吸收到变量重构过程中，导致变量重构残差之间的依赖性，进而根据FCM理论提出结构可识别性问题。为了弥补这一点，我们提出了一种新的可微方法DARING，通过采用对抗性的方式施加显式剩余独立性约束。在仿真和真实数据上的大量实验结果表明，我们提出的方法对外部噪声的异质性不敏感，从而可以显著提高因果发现性能。

http://pengcui.thumedialab.com/papers/DARING.pdf