【ICML2022】因果Transformer:估算反事实结果的因果, 附ppt

根据观察数据估算反事实结果与许多应用(例如，个性化医疗)相关。然而，最先进的方法建立在简单的长短期记忆(LSTM)网络上，因此对复杂的、长期依赖关系的推断产生了挑战。在本文中，我们开发了一种新的因果Transformer ，用于随着时间的推移估计反事实结果。我们的模型是专门设计的，以捕获复杂的，长期的依赖性，时变混杂。为此，我们将三个Transformer子网络与时变协变量、以前的处理和以前的结果的单独输入组合成一个中间交叉关注的联合网络。我们进一步为因果Transformer 开发了一个定制的端到端培训程序。具体来说，我们提出了一种新的反事实领域混淆损失来解决混淆偏差:其目的是学习对抗性平衡表示，以便它们可以预测下一个结果，但不能预测当前的治疗分配。我们基于合成的和真实的数据集评估我们的因果Transformer，在这些数据集中，它实现了优于当前基线的性能。据我们所知，这是第一个提出基于transformer的架构来从纵向数据估计反事实结果的工作。

专知便捷查看

便捷下载，请关注专知公众号（点击上方蓝色专知关注）

• 后台回复“ITRAN” 就可以获取《【ICML2022】因果Transformer:估算反事实结果的因果, 附ppt》专知下载链接

                       

专知，专业可信的人工智能知识分发 ，让认知协作更快更好！欢迎注册登录专知www.zhuanzhi.ai，获取100000+AI(AI与军事、医药、公安等)主题干货知识资料！

欢迎微信扫一扫加入专知人工智能知识星球群，获取最新AI专业干货知识教程资料和与专家交流咨询！

点击“ 阅读原文 ”，了解使用 专知 ，查看获取100000+AI主题知识资料