【LUND博士论文】基于模拟的推断:从近似贝叶斯计算和粒子方法到神经密度估计 ，223页pdf

这篇计算统计学的博士论文利用蒙特卡罗方法(近似贝叶斯计算和顺序蒙特卡罗)和机器学习方法(深度学习和归一化流)来开发隐式贝叶斯模型推理的新算法。隐式模型是指那些计算似然函数非常困难(通常是不可能的)，但模型模拟是可行的。本文开发的推理方法是基于模拟的推理方法，因为它们利用了从隐式模型模拟数据的可能性。本文考虑了几种方法: 论文II和Iv重点研究经典方法(基于顺序蒙特卡罗的方法)，而论文I和III重点研究最新的机器学习方法(分别是深度学习和归一化流)。

第一篇论文构建了一种新的深度学习方法，用于学习摘要统计量，实现近似贝叶斯计算(ABC)。为了实现本文，我介绍了部分可交换网络(PEN)，这是一种专为马尔可夫数据(即部分可交换数据)设计的深度学习体系结构。第二篇论文研究了随机微分方程混合效应模型(SDEMEM)中的贝叶斯推理。由于SDEMEMs的似然函数难以处理，因此对SDEMEMs的贝叶斯推理具有挑战性。论文II通过结合相关的伪边际方法设计一种新颖的Gibbs-blocking策略来解决这个问题。本文还讨论了自定义粒子滤波器如何适应推理过程。

第三篇论文介绍了一种新的推理方法——序列神经后验似然逼近(SNPLA)。SNPLA是一种基于仿真的推理算法，利用归一化流程通过序列方案学习隐式模型的后验分布和似然函数。通过学习似然和后向，并利用反向Kullback Leibler (KL)发散，SNPLA避免了特别校正步骤和马尔可夫链蒙特卡罗(MCMC)采样。第四篇论文介绍了加速延迟接受(ADA)算法。ADA可以看作是延迟接受(DA) MCMC算法的扩展，该算法利用DA的两个似然比之间的联系，进一步加速MCMC从感兴趣的后验分布采样，尽管我们的方法引入了一个近似。论文的主要案例研究是蛋白质折叠数据(反应坐标数据)的双井势随机微分方程(DWP-SDE)模型。