进展 | 运用变分自回归网络求解统计力学问题

2019 年 3 月 6 日 中科院物理所

如何准确地计算多粒子系统的自由能和熵,以及对玻尔兹曼分布无偏地采样,是统计力学的核心问题之一。在统计物理百余年的历史上,物理学家发展了多种理论和方法来处理此类问题,包括平均场近似、变分法、消息传递算法、重正化群、蒙特卡罗方法、张量网络方法等等。在实际应用中,这些方法各有千秋。 

从更广的角度看,统计物理的基本问题和机器学习中的非监督学习具有天然的联系:玻尔兹曼分布对应于贝叶斯理论中的后验概率;最小化自由能原理等价于求解变分推断问题;而对系统无偏采样正对应于设计生成模型。在最后这个方向上,Google DeepMind所发明的两类神经网络WaveNet和PixelCNN代表了深度学习研究成果的顶峰:它们都具有自回归神经网络的结构,分别在语音和图片合成上保持领先的性能。 

受到这些成功模型的鼓励和启发,中国科学院物理研究所/北京凝聚态物理国家研究中心凝聚态理论与材料计算重点实验室T03组的王磊副研究员与合作者提出了一种求解统计力学问题的计算方法—变分自回归网络(Variational Autoregressive Networks)。他们使用自回归神经网络构建变分概率分布,并通过强化学习中的策略梯度方法训练网络以得到最低的自由能。

该方法可以看作是传统平均场和变分方法的神经网络推广。它能给出自由能的变分上界,以及多粒子系统的能量、熵等热力学量,还可以直接地对系统无偏采样。作者将深度学习中发展的新技术引入基础研究,成功地应用于伊辛模型、自旋玻璃以及统计物理反问题等基本问题。多种精确和近似都被用来研究过这些问题,通过比对可以定量地展示新方法的优势。

相关论文被 Phys. Rev. Lett. 杂志遴选为编辑推荐文章。

论文链接:https://journals.aps.org/prl/supplemental/10.1103/PhysRevLett.122.080602

此工作受到科技部(2016YFA0300603)和国家自然科学基金委(11774398)的资助。该论文的合作者包括北京大学物理学院的本科生吴典以及理论物理研究所的张潘研究员。作者发布了论文的开源代码实现:https://github.com/wdphy16/stat-mech-van

可参见Flatiron Institute的Giuseppe Carleo在Journal Club for Condensed Matter Physics所撰写的评论文章:https://www.condmatjclub.org/?p=3498 ,进一步了解此工作。 

图:变分自回归网络的结构

编辑:AI

近期热门文章Top10

↓ 点击标题即可查看 ↓

1. 物理定律告诉你,爱情的真相有多么残酷!

2. 玉皇大帝到底住在平流层还是对流层?

3. 玻璃球里的花纹是怎么弄进去的?看完童年之谜终于解开了

4. 不要模仿!把两颗葡萄一起放进微波炉 ,能烧得你家都没了

5. 仰望星空100年

6. 不知道这些,别说你看懂了《流浪地球》

7. 如何批量制造钻石

8. 杨-米尔斯理论说了啥?为什么说这是杨振宁超越他诺奖的贡献?

9. 怎么避免上厕所没有纸?看完这篇文章你就懂了

10. 牛顿棺材板压不住时,请祭出此物防身!

点此查看以往全部热门文章


登录查看更多
2

相关内容

【经典书】机器学习:贝叶斯和优化方法,1075页pdf
专知会员服务
404+阅读 · 2020年6月8日
【经典书】机器学习高斯过程,266页pdf
专知会员服务
195+阅读 · 2020年5月2日
干货书《数据科学数学系基础》2020最新版,266页pdf
专知会员服务
318+阅读 · 2020年3月23日
缺失数据统计分析,第三版,462页pdf
专知会员服务
108+阅读 · 2020年2月28日
【干货51页PPT】深度学习理论理解探索
专知会员服务
61+阅读 · 2019年12月24日
CMU博士论文:可微优化机器学习建模
专知会员服务
58+阅读 · 2019年10月26日
智能配用电大数据分析-概率性负荷预测
NE电气
5+阅读 · 2019年7月5日
机器学习算法集锦:从贝叶斯到深度学习及各自优缺点
人工智能学家
11+阅读 · 2019年2月15日
报名 | 清华大学“智慧医学影像论坛2018”
数据派THU
8+阅读 · 2018年6月27日
贝叶斯机器学习前沿进展
架构文摘
13+阅读 · 2018年2月11日
从概率论到多分类问题:综述贝叶斯统计分类
机器之心
12+阅读 · 2017年9月28日
从浅层模型到深度模型:概览机器学习优化算法
机器之心
26+阅读 · 2017年7月9日
Knowledge Distillation from Internal Representations
Arxiv
4+阅读 · 2019年10月8日
Image Captioning: Transforming Objects into Words
Arxiv
7+阅读 · 2019年6月14日
Phase-aware Speech Enhancement with Deep Complex U-Net
Arxiv
5+阅读 · 2017年11月30日
VIP会员
相关资讯
智能配用电大数据分析-概率性负荷预测
NE电气
5+阅读 · 2019年7月5日
机器学习算法集锦:从贝叶斯到深度学习及各自优缺点
人工智能学家
11+阅读 · 2019年2月15日
报名 | 清华大学“智慧医学影像论坛2018”
数据派THU
8+阅读 · 2018年6月27日
贝叶斯机器学习前沿进展
架构文摘
13+阅读 · 2018年2月11日
从概率论到多分类问题:综述贝叶斯统计分类
机器之心
12+阅读 · 2017年9月28日
从浅层模型到深度模型:概览机器学习优化算法
机器之心
26+阅读 · 2017年7月9日
Top
微信扫码咨询专知VIP会员