在生态学、流行病学和天文学等许多应用领域中,仿真模型被用来研究发生在自然界中的复杂现象。通常,这些模型的似然函数的分析形式要么是不可用的,要么是太昂贵而无法评估,从而使统计推断复杂化。无概率推理(LFI)方法,如近似贝叶斯计算(ABC),基于用模型的正演模拟代替难以处理的似然评估,已成为对仿真模型进行推理的一种流行方法。然而,当前的LFI方法在计算和统计方面存在一些挑战。特别是,标准的ABC算法需要大量的仿真,这使得它们在前向仿真代价昂贵的情况下不可行。

本文讨论了计算代价高的模型的无概率推理。主要贡献是基于高斯过程代理模型的LFI一致性框架。GP模型允许对仿真模型输出的平滑假设进行编码,以减少所需的仿真量。此外,由于模拟预算有限,所产生的基于模型的后验逼近的不确定性可以被量化。我们提出贝叶斯实验设计策略来选择评估地点,以使计算成本最小化。顺序设计(每次选择一个模拟)和批处理策略(允许利用并行计算)都是推导出来的。除了LFI场景外,本文提出的方法也适用于可能性可以评估但代价昂贵的情况。

本质上,所提出的框架可以被视为概率数值方法的LFI对等物,如贝叶斯优化,用于优化昂贵的目标函数,贝叶斯求积,用于计算昂贵函数的积分。我们通过大量的经验模拟证明了所提出的LFI方法的优点。文中还对所提算法进行了理论分析,并讨论了它们与其他GP代理方法的关系。

https://aaltodoc.aalto.fi/handle/123456789/46310

成为VIP会员查看完整内容
34

相关内容

【DeepMind-NeurIPS 2020】元训练代理实现Bayes-optimal代理
专知会员服务
11+阅读 · 2020年11月1日
专知会员服务
23+阅读 · 2020年9月15日
【CMU博士论文】机器人深度强化学习,128页pdf
专知会员服务
128+阅读 · 2020年8月27日
非凸优化与统计学,89页ppt,普林斯顿Yuxin Chen博士
专知会员服务
102+阅读 · 2020年6月28日
【清华大学】元知识图谱推理
专知
128+阅读 · 2019年9月2日
论文浅尝 | 动态词嵌入
开放知识图谱
3+阅读 · 2018年4月19日
一文学习基于蒙特卡罗的强化学习方法(送书)
人工智能头条
7+阅读 · 2018年3月13日
Arxiv
8+阅读 · 2019年2月15日
Arxiv
136+阅读 · 2018年10月8日
Learning to Importance Sample in Primary Sample Space
Arxiv
8+阅读 · 2018年6月19日
Arxiv
3+阅读 · 2018年2月11日
VIP会员
微信扫码咨询专知VIP会员