We explore the possibility of combining Markov chain Monte Carlo (MCMC) with the rare event sampling approach known as ``splitting and killing." First, we prove there is a unique splitting method providing asymptotically consistent estimates when combined with MCMC. This splitting method, called weighted ensemble, has been known since 1997, yet its advantages over MCMC have not yet been precisely quantified. Our second contribution, therefore, is to clarify weighted ensemble's properties by providing a lower bound on the asymptotic variance of the method's estimates. We give a constructive proof and numerical examples to show weighted ensemble can approach this optimal variance bound, in many cases reducing the variance of MCMC estimates by multiple orders of magnitude.


翻译:我们探索了将Markov链条Monte Carlo(MCMC)与稀有事件抽样方法(即“分裂和杀戮 ” ) 相结合的可能性。 首先,我们证明存在着一种独特的分解方法,在与MCMC相结合时,这种分解方法提供了无症状的一致估计。这种分解方法自1997年以来一直为人所知,但其相对于MCMC的优势尚未被精确量化。因此,我们的第二个贡献是澄清加权组合的特性,对方法估算的无症状差异提供较低的约束。我们给出了建设性的证据和数字例子,以表明加权组合可以接近这一最佳差异,在许多情况下,将MCMC的估计数差异减少多个数量级。

0
下载
关闭预览

相关内容

【干货书】机器学习速查手册,135页pdf
专知会员服务
125+阅读 · 2020年11月20日
最新《生成式对抗网络》简介,25页ppt
专知会员服务
173+阅读 · 2020年6月28日
商业数据分析,39页ppt
专知会员服务
160+阅读 · 2020年6月2日
Stabilizing Transformers for Reinforcement Learning
专知会员服务
58+阅读 · 2019年10月17日
Hierarchically Structured Meta-learning
CreateAMind
26+阅读 · 2019年5月22日
图像分割概述 & ENet 实例
AI研习社
14+阅读 · 2019年2月19日
动物脑的好奇心和强化学习的好奇心
CreateAMind
10+阅读 · 2019年1月26日
meta learning 17年:MAML SNAIL
CreateAMind
11+阅读 · 2019年1月2日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
16+阅读 · 2018年12月24日
Disentangled的假设的探讨
CreateAMind
9+阅读 · 2018年12月10日
【推荐】免费书(草稿):数据科学的数学基础
机器学习研究会
20+阅读 · 2017年10月1日
Auto-Encoding GAN
CreateAMind
7+阅读 · 2017年8月4日
Arxiv
0+阅读 · 2021年1月18日
Arxiv
0+阅读 · 2021年1月16日
Arxiv
0+阅读 · 2021年1月14日
Arxiv
5+阅读 · 2017年12月14日
VIP会员
相关VIP内容
【干货书】机器学习速查手册,135页pdf
专知会员服务
125+阅读 · 2020年11月20日
最新《生成式对抗网络》简介,25页ppt
专知会员服务
173+阅读 · 2020年6月28日
商业数据分析,39页ppt
专知会员服务
160+阅读 · 2020年6月2日
Stabilizing Transformers for Reinforcement Learning
专知会员服务
58+阅读 · 2019年10月17日
相关资讯
Top
微信扫码咨询专知VIP会员