变分自回归神经网络求解统计力学研究取得进展

2019 年 3 月 7 日 中科院之声

如何准确地计算多粒子系统的自由能、热力学量,以及给出系统的无偏采样,是统计物理的核心问题之一。自上世纪初以来,统计物理学家建立了各种各样的理论和方法来处理此类问题,其中包括马尔科夫链蒙特卡洛、张量网络、重整化群、平均场近似及消息传递算法等。在实际应用中,这些方法各有其优劣:MCMC擅长采样玻尔兹曼分布,然而很难计算系统的熵和自由能;张量网络方法和重整化群被广泛用于计算配分函数和自由能,但是一般只适用于格点系统;平均场近似及相关的消息传递算法可以高效地给出系统的变分自由能,然而需要在较高的温度下,或者系统拓扑结构满足平均场近似的要求。

从更广角度看,统计物理的基本问题和机器学习中的非监督学习具有天然的联系:统计物理中的玻尔兹曼分布对应于贝叶斯推断的后验概率;最小化自由能原理等价于变分推断;寻找统计物理系统的基态等价于最大似然学习等。那么一个自然的想法是,可不可以用近年来快速发展的深度学习方法来推动统计物理的核心问题的进展?

近年来,中国科学院理论物理研究所研究员张潘课题组致力于探索统计物理与机器学习的交叉领域,并在近期取得新进展。张潘与合作者中科院物理研究所研究员王磊以及北京大学本科生吴典,合作提出了一个应用于统计力学问题的计算方法——变分自回归神经网络(Variational Autoregressive Networks)。这个框架拓展了传统意义上的平均场方法,用自回归神经网络构建变分的概率分布,并通过强化学习的方法训练网络,进而可以同时计算系统的自由能上界,测量系统的能量、熵及各种热力学量,并直接无偏地对系统采样。张潘和合作者们将此方法成功地应用于伊辛模型、自旋玻璃以及统计物理反问题中。相关论文发表于《物理评论快报》(Phys. Rev. Lett. 122, 080602),并被选为编辑推荐文章。

此工作得到中科院前沿重点项目“统计物理平均场理论在统计推断与机器学习中的应用”(项目编号:QYZDB-SSW-SYS032)以及国家自然科学基金委理论物理专款“彭桓武理论物理创新研究中心”的支持。


用于求解统计力学问题的变分自回归神经网络结构图示


来源:中国科学院理论物理研究所


温馨提示:近期,微信公众号信息流改版。每个用户可以设置 常读订阅号,这些订阅号将以大卡片的形式展示。因此,如果不想错过“中科院之声”的文章,你一定要进行以下操作:进入“中科院之声”公众号 → 点击右上角的 ··· 菜单 → 选择「设为星标」



登录查看更多
1

相关内容

【2020新书】监督机器学习,156页pdf,剑桥大学出版社
专知会员服务
151+阅读 · 2020年6月27日
【经典书】机器学习:贝叶斯和优化方法,1075页pdf
专知会员服务
404+阅读 · 2020年6月8日
专知会员服务
107+阅读 · 2020年5月21日
【经典书】机器学习高斯过程,266页pdf
专知会员服务
195+阅读 · 2020年5月2日
干货书《数据科学数学系基础》2020最新版,266页pdf
专知会员服务
318+阅读 · 2020年3月23日
【干货51页PPT】深度学习理论理解探索
专知会员服务
61+阅读 · 2019年12月24日
CMU博士论文:可微优化机器学习建模
专知会员服务
58+阅读 · 2019年10月26日
一文读懂线性回归、岭回归和Lasso回归
CSDN
34+阅读 · 2019年10月13日
【机器学习】深入剖析机器学习中的统计思想
产业智能官
14+阅读 · 2019年1月24日
【机器学习】机器学习:未来十年研究热点
产业智能官
16+阅读 · 2018年11月4日
丘成桐:攻克物理难题的数学大师
科技导报
5+阅读 · 2018年7月23日
贝叶斯机器学习前沿进展
架构文摘
13+阅读 · 2018年2月11日
【AAAI专题】中篇:BRAVE组系列研究进展之“视听模态的生成”
中国科学院自动化研究所
4+阅读 · 2018年1月25日
从概率论到多分类问题:综述贝叶斯统计分类
机器之心
12+阅读 · 2017年9月28日
【原理】GAN的数学原理
GAN生成式对抗网络
8+阅读 · 2017年8月30日
从浅层模型到深度模型:概览机器学习优化算法
机器之心
26+阅读 · 2017年7月9日
Phase-aware Speech Enhancement with Deep Complex U-Net
Arxiv
3+阅读 · 2018年4月3日
Arxiv
10+阅读 · 2018年3月23日
Arxiv
5+阅读 · 2017年11月30日
VIP会员
相关VIP内容
【2020新书】监督机器学习,156页pdf,剑桥大学出版社
专知会员服务
151+阅读 · 2020年6月27日
【经典书】机器学习:贝叶斯和优化方法,1075页pdf
专知会员服务
404+阅读 · 2020年6月8日
专知会员服务
107+阅读 · 2020年5月21日
【经典书】机器学习高斯过程,266页pdf
专知会员服务
195+阅读 · 2020年5月2日
干货书《数据科学数学系基础》2020最新版,266页pdf
专知会员服务
318+阅读 · 2020年3月23日
【干货51页PPT】深度学习理论理解探索
专知会员服务
61+阅读 · 2019年12月24日
CMU博士论文:可微优化机器学习建模
专知会员服务
58+阅读 · 2019年10月26日
相关资讯
一文读懂线性回归、岭回归和Lasso回归
CSDN
34+阅读 · 2019年10月13日
【机器学习】深入剖析机器学习中的统计思想
产业智能官
14+阅读 · 2019年1月24日
【机器学习】机器学习:未来十年研究热点
产业智能官
16+阅读 · 2018年11月4日
丘成桐:攻克物理难题的数学大师
科技导报
5+阅读 · 2018年7月23日
贝叶斯机器学习前沿进展
架构文摘
13+阅读 · 2018年2月11日
【AAAI专题】中篇:BRAVE组系列研究进展之“视听模态的生成”
中国科学院自动化研究所
4+阅读 · 2018年1月25日
从概率论到多分类问题:综述贝叶斯统计分类
机器之心
12+阅读 · 2017年9月28日
【原理】GAN的数学原理
GAN生成式对抗网络
8+阅读 · 2017年8月30日
从浅层模型到深度模型:概览机器学习优化算法
机器之心
26+阅读 · 2017年7月9日
Top
微信扫码咨询专知VIP会员