【Yoshua Bengio最新一作论文】GFlowNet基础,GFlowNet Foundations

2021 年 11 月 22 日 专知


生成流网络(GFlowNets)在主动学习环境中采样多样化的候选集合的一种方法,其训练目标是使它们按照给定的奖励函数的比例近似抽样。 在本文中,我们展示了GFlowNets的一些额外的理论性质。它们可以用来估计联合概率分布和相应的边际分布,其中一些变量是未指定的,特别有趣的是,可以表示在集合和图等复合对象上的分布。GFlowNets将通常由计算昂贵的MCMC方法所做的工作摊销在一个单一但经过训练的生成过程中。它们也可以用来估计配分函数和自由能,给定子集(子图)的超集(超图)的条件概率,以及给定集(图)的所有超集(超图)的边际分布。我们引入变量,使熵和互信息的估计,从帕累托边界取样,连接到奖励最大化策略,并扩展到随机环境,连续行动和模块能量函数。

https://www.zhuanzhi.ai/paper/e6adb2c4a1bfad46e20524d5b2d10ef7

本文以Bengio等人(2021)引入的生成流网络(GFlowNets)为基础,为本吉欧等人(Bengio等人(2021))的主动学习场景提供了深度形式基础和理论成果集的扩展。GFlowNets的特性使其非常适合于从集合和图上的分布中建模和采样,估计自由能量和一般的边际分布,并用于从数据中学习能量函数,作为蒙特卡罗马尔可夫链(MCMC)的一个学习的、平摊的替代方案。

目录内容:


专知便捷查看

便捷下载,请关注专知公众号(点击上方蓝色专知关注)

  • 后台回复“GFNF” 就可以获取【Yoshua Bengio最新一作论文】GFlowNet基础,GFlowNet Foundations》专知下载链接

专知,专业可信的人工智能知识分发 ,让认知协作更快更好!欢迎注册登录专知www.zhuanzhi.ai,获取5000+AI主题干货知识资料!


欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程资料和与专家交流咨询
点击“ 阅读原文 ”,了解使用 专知 ,查看获取5000+AI主题知识资源
登录查看更多
1

相关内容

Yoshua Bengio是蒙特利尔大学计算机科学与运筹学系的教授,Mila和IVADO的科学总监和创始人,2018年图灵奖获得者,加拿大统计学习算法研究主席以及加拿大AI CIFAR主席。 他开创了深度学习的先河,并在2018年每天获得全球所有计算机科学家中最多的引用。 他是加拿大勋章的官员,加拿大皇家学会的成员,并于2017年被授予基拉姆奖,玛丽·维克多奖和年度无线电加拿大科学家,并且是NeurIPS顾问的成员。 ICLR会议的董事会和联合创始人,以及CIFAR“机器和大脑学习”计划的程序总监。 他的目标是帮助发现通过学习产生智力的原理,并促进AI的发展以造福所有人。 https://mila.quebec/en/yoshua-bengio/
【Yoshua Bengio】生成式流网络,Generative Flow Networks
专知会员服务
30+阅读 · 2022年3月19日
【Yoshua Bengio】走向因果表示学习,附论文、视频与72页ppt
【实用书】数据科学基础,484页pdf,Foundations of Data Science
专知会员服务
117+阅读 · 2020年5月28日
【NUS-Xavier教授】生成模型VAE与GAN,69页ppt
【开放电子书】概率编程导论,301页pdf
专知
3+阅读 · 2021年10月21日
最新《生成式对抗网络GAN进展》论文
专知
94+阅读 · 2019年4月5日
国家自然科学基金
14+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
Arxiv
0+阅读 · 2022年4月19日
Arxiv
0+阅读 · 2022年4月18日
Arxiv
63+阅读 · 2021年6月18日
Arxiv
21+阅读 · 2018年8月30日
VIP会员
相关基金
国家自然科学基金
14+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
Top
微信扫码咨询专知VIP会员