We propose and study a new multilevel method for the numerical approximation of a Gibbs distribution $\pi$ on R d , based on (over-damped) Langevin diffusions. This method both inspired by [PP18] and [GMS + 20] relies on a multilevel occupation measure, i.e. on an appropriate combination of R occupation measures of (constant-step) discretized schemes of the Langevin diffusion with respective steps $\gamma$r = $\gamma$02 --r , r = 0,. .. , R. For a given diffusion, we first state a result under general assumptions which guarantees an $\epsilon$-approximation (in a L 2-sense) with a cost proportional to $\epsilon$ --2 (i.e. proportional to a Monte-Carlo method without bias) or $\epsilon$ --2 | log $\epsilon$| 3 under less contractive assumptions. This general result is then applied to over-damped Langevin diffusions in a strongly convex setting, with a study of the dependence in the dimension d and in the spectrum of the Hessian matrix D 2 U of the potential U : R d $\rightarrow$ R involved in the Gibbs distribution. This leads to strategies with cost in O(d$\epsilon$ --2 log 3 (d$\epsilon$ --2)) and in O(d$\epsilon$ --2) under an additional condition on the third derivatives of U. In particular, in our last main result, we show that, up to universal constants, an appropriate choice of the diffusion coefficient and of the parameters of the procedure leads to a cost controlled by ($\lambda$ U $\lor$1) 2 $\lambda$ 3 U d$\epsilon$ --2 (where$\lambda$U and $\lambda$ U respectively denote the supremum and the infimum of the largest and lowest eigenvalue of D 2 U). In our numerical illustrations, we show that our theoretical bounds are confirmed in practice and finally propose an opening to some theoretical or numerical strategies in order to increase the robustness of the procedure when the largest and smallest eigenvalues of D 2 U are respectively too large or too small.


翻译:我们提出并研究一种新的多层次方法, 用于以( 超版) 朗氏2号扩散法为基础, 以( 超版) 朗氏2号扩散法为基础, 以( 超版) 美元为单位美元 的Gibbs 发行的基数近似值。 这个方法既受[ PP18] 和[ GMS + 20] 的启发, 也依赖于多层次的占用度度度度衡量, 也就是说, 以( 固定的) 离散的( 固定的) 朗氏3美元传播法, 以( 美元=) 美元=( =) 美元 =( =) 美元 = 0. 0 。 对于某种特定的传播, 我们首先在( 高版) 数字的基数假设下, 保证美元( 以( L 2 =) 为单位 的( 双版), 以( 美元 美元 美元 美元 ) 的基数( =) 的基数( 的基数) 以( 3) 最低的( 美元) 成本程序比( 3) 表示( 3) 最低的算) 和3) 最低的( 和最低的( 和最低的( 我们的( ) 的) 的逻辑) 的( 显示) 的( 的( 的) 数( ) 的) 的逻辑) 和最低) 的根( 的根) 和基( 递化的根) 的根( 的( 和基) 的根) 的根( 的根) 的根) 的( 以( 以( ) ) 的根) ) 的根) 的根) 的根) 的根的根的根的根的根的根的根的根的根的根的根的根的根和基) 的根和基的根的根的根的根的根的根的根的根的根的根的根的根的根的根的根的根的根的根的根的根的根的根的根的根的根的根的根的根的根的根的

0
下载
关闭预览

相关内容

【DeepMind】强化学习教程,83页ppt
专知会员服务
148+阅读 · 2020年8月7日
【经典书】贝叶斯编程,378页pdf,Bayesian Programming
专知会员服务
244+阅读 · 2020年5月18日
强化学习最新教程,17页pdf
专知会员服务
168+阅读 · 2019年10月11日
机器学习入门的经验与建议
专知会员服务
90+阅读 · 2019年10月10日
逆强化学习-学习人先验的动机
CreateAMind
15+阅读 · 2019年1月18日
强化学习的Unsupervised Meta-Learning
CreateAMind
17+阅读 · 2019年1月7日
Unsupervised Learning via Meta-Learning
CreateAMind
41+阅读 · 2019年1月3日
Disentangled的假设的探讨
CreateAMind
9+阅读 · 2018年12月10日
Hierarchical Disentangled Representations
CreateAMind
4+阅读 · 2018年4月15日
Auto-Encoding GAN
CreateAMind
7+阅读 · 2017年8月4日
Arxiv
0+阅读 · 2021年11月5日
Arxiv
0+阅读 · 2021年11月5日
Arxiv
0+阅读 · 2021年11月4日
Implicit Maximum Likelihood Estimation
Arxiv
7+阅读 · 2018年9月24日
Arxiv
3+阅读 · 2017年12月1日
VIP会员
Top
微信扫码咨询专知VIP会员