题目: A Meta-Transfer Objective for Learning to Disentangle Causal Mechanisms

简介: 我们建议使用一种元学习目标,该目标可以在修改后的分布上最大程度地提高转移速度,以学习如何模块化获取的知识。特别是,我们专注于如何根据因果关系将联合分布分解为适当的条件。我们假设分布的变化是局部的(例如,由于对变量之一的干预而导致的)处于局部分布的假设,从而解释了何时可以奏效。我们证明了在因果机制局部变化的这种假设下,正确的因果图将倾向于仅具有其一些具有非零梯度的参数,即需要进行调整的参数(那些修正变量)。我们争论并通过实验观察到,这将导致更快的适应,并使用此属性来定义元学习替代评分,该评分除了图形的连续参数化外,还将倾向于正确的因果图。最后,受AI智能体的启发(例如,机器人自动发现其环境),我们考虑将同一目标如何发现因果变量本身,作为观察到的无因果意义的低级变量的转换。在两个变量情况下的实验验证了所提出的思想和理论结果。

作者介绍: Yoshua Bengio是蒙特利尔大学计算机科学与运筹学系的教授,Mila和IVADO的科学总监和创始人,2018年图灵奖获得者,加拿大统计学习算法研究主席以及加拿大AI CIFAR主席。 他开创了深度学习的先河,并在2018年每天获得全球所有计算机科学家中最多的引用。 他是加拿大勋章的官员,加拿大皇家学会的成员,并于2017年被授予基拉姆奖,玛丽·维克多奖和年度无线电加拿大科学家,并且是NeurIPS顾问的成员。 ICLR会议的董事会和联合创始人,以及CIFAR“机器和大脑学习”计划的程序总监。 他的目标是帮助发现通过学习产生智力的原理,并促进AI的发展以造福所有人。

成为VIP会员查看完整内容
53

相关内容

Yoshua Bengio是蒙特利尔大学计算机科学与运筹学系的教授,Mila和IVADO的科学总监和创始人,2018年图灵奖获得者,加拿大统计学习算法研究主席以及加拿大AI CIFAR主席。 他开创了深度学习的先河,并在2018年每天获得全球所有计算机科学家中最多的引用。 他是加拿大勋章的官员,加拿大皇家学会的成员,并于2017年被授予基拉姆奖,玛丽·维克多奖和年度无线电加拿大科学家,并且是NeurIPS顾问的成员。 ICLR会议的董事会和联合创始人,以及CIFAR“机器和大脑学习”计划的程序总监。 他的目标是帮助发现通过学习产生智力的原理,并促进AI的发展以造福所有人。 https://mila.quebec/en/yoshua-bengio/
因果关联学习,Causal Relational Learning
专知会员服务
160+阅读 · 2020年4月21日
元强化学习迎来一盆冷水:不比元Q学习好多少
AI科技评论
11+阅读 · 2020年2月27日
【因果关系】由模仿“人脑”转向“因果推理”
产业智能官
10+阅读 · 2018年7月13日
Arxiv
5+阅读 · 2020年3月17日
Meta-Transfer Learning for Zero-Shot Super-Resolution
Arxiv
40+阅读 · 2020年2月27日
Inferred successor maps for better transfer learning
Arxiv
3+阅读 · 2018年10月11日
Arxiv
21+阅读 · 2018年8月3日
Arxiv
10+阅读 · 2018年7月8日
Arxiv
16+阅读 · 2018年4月2日
VIP会员
相关VIP内容
因果关联学习,Causal Relational Learning
专知会员服务
160+阅读 · 2020年4月21日
相关论文
Arxiv
5+阅读 · 2020年3月17日
Meta-Transfer Learning for Zero-Shot Super-Resolution
Arxiv
40+阅读 · 2020年2月27日
Inferred successor maps for better transfer learning
Arxiv
3+阅读 · 2018年10月11日
Arxiv
21+阅读 · 2018年8月3日
Arxiv
10+阅读 · 2018年7月8日
Arxiv
16+阅读 · 2018年4月2日
微信扫码咨询专知VIP会员