题目: A Meta-Transfer Objective for Learning to Disentangle Causal Mechanisms
简介: 我们建议使用一种元学习目标,该目标可以在修改后的分布上最大程度地提高转移速度,以学习如何模块化获取的知识。特别是,我们专注于如何根据因果关系将联合分布分解为适当的条件。我们假设分布的变化是局部的(例如,由于对变量之一的干预而导致的)处于局部分布的假设,从而解释了何时可以奏效。我们证明了在因果机制局部变化的这种假设下,正确的因果图将倾向于仅具有其一些具有非零梯度的参数,即需要进行调整的参数(那些修正变量)。我们争论并通过实验观察到,这将导致更快的适应,并使用此属性来定义元学习替代评分,该评分除了图形的连续参数化外,还将倾向于正确的因果图。最后,受AI智能体的启发(例如,机器人自动发现其环境),我们考虑将同一目标如何发现因果变量本身,作为观察到的无因果意义的低级变量的转换。在两个变量情况下的实验验证了所提出的思想和理论结果。
作者介绍: Yoshua Bengio是蒙特利尔大学计算机科学与运筹学系的教授,Mila和IVADO的科学总监和创始人,2018年图灵奖获得者,加拿大统计学习算法研究主席以及加拿大AI CIFAR主席。 他开创了深度学习的先河,并在2018年每天获得全球所有计算机科学家中最多的引用。 他是加拿大勋章的官员,加拿大皇家学会的成员,并于2017年被授予基拉姆奖,玛丽·维克多奖和年度无线电加拿大科学家,并且是NeurIPS顾问的成员。 ICLR会议的董事会和联合创始人,以及CIFAR“机器和大脑学习”计划的程序总监。 他的目标是帮助发现通过学习产生智力的原理,并促进AI的发展以造福所有人。