This article proposes post-selective inference for Gaussian models via approximate maximum likelihood. Our proposal serves two key goals: (i) efficient utility of hold-out information from selection by exploiting randomization; (ii) computational ease by bypassing expensive MCMC samplers from intractable conditional distributions. At the core of our method is the solution to a convex optimization problem that assumes a separable form across multiple learning queries during selection. Our proposal allows us to tackle efficient and tractable inference in many practical scenarios where more than one query informs inference. We illustrate the potential of our approximate method in comparisons with existing strategies across wide ranging signal-to-noise regimes and on gene expression data from TCGA (The Cancer Genome Atlas).


翻译:本文通过大概最大可能性为高斯模型提出后选择性推论。我们的提案有两个关键目标:(一) 利用随机化,有效地利用从选择中选择的搁置信息;(二) 绕过昂贵的MCMC采样器,绕过棘手的有条件分布,从而便于计算。我们方法的核心是解决在选择期间多个学习查询中以可分离的形式呈现的曲线优化问题。我们的提案使我们能够在许多实际假设中处理高效和可移植的推论,在这些假设中,不止一个查询可以得出推论。我们举例说明了我们与广泛信号到噪音系统和TCGA(癌症基因组图集)的基因表达数据的现有战略进行比较的近似方法的潜力。

0
下载
关闭预览

相关内容

专知会员服务
31+阅读 · 2021年6月12日
专知会员服务
15+阅读 · 2021年5月21日
【干货书】机器学习速查手册,135页pdf
专知会员服务
125+阅读 · 2020年11月20日
Hierarchically Structured Meta-learning
CreateAMind
26+阅读 · 2019年5月22日
逆强化学习-学习人先验的动机
CreateAMind
15+阅读 · 2019年1月18日
Unsupervised Learning via Meta-Learning
CreateAMind
42+阅读 · 2019年1月3日
meta learning 17年:MAML SNAIL
CreateAMind
11+阅读 · 2019年1月2日
STRCF for Visual Object Tracking
统计学习与视觉计算组
14+阅读 · 2018年5月29日
Hierarchical Disentangled Representations
CreateAMind
4+阅读 · 2018年4月15日
【论文】变分推断(Variational inference)的总结
机器学习研究会
39+阅读 · 2017年11月16日
【推荐】YOLO实时目标检测(6fps)
机器学习研究会
20+阅读 · 2017年11月5日
【推荐】免费书(草稿):数据科学的数学基础
机器学习研究会
20+阅读 · 2017年10月1日
Auto-Encoding GAN
CreateAMind
7+阅读 · 2017年8月4日
MCMC-driven importance samplers
Arxiv
0+阅读 · 2021年7月15日
Arxiv
0+阅读 · 2021年7月15日
Implicit Maximum Likelihood Estimation
Arxiv
7+阅读 · 2018年9月24日
VIP会员
相关资讯
Hierarchically Structured Meta-learning
CreateAMind
26+阅读 · 2019年5月22日
逆强化学习-学习人先验的动机
CreateAMind
15+阅读 · 2019年1月18日
Unsupervised Learning via Meta-Learning
CreateAMind
42+阅读 · 2019年1月3日
meta learning 17年:MAML SNAIL
CreateAMind
11+阅读 · 2019年1月2日
STRCF for Visual Object Tracking
统计学习与视觉计算组
14+阅读 · 2018年5月29日
Hierarchical Disentangled Representations
CreateAMind
4+阅读 · 2018年4月15日
【论文】变分推断(Variational inference)的总结
机器学习研究会
39+阅读 · 2017年11月16日
【推荐】YOLO实时目标检测(6fps)
机器学习研究会
20+阅读 · 2017年11月5日
【推荐】免费书(草稿):数据科学的数学基础
机器学习研究会
20+阅读 · 2017年10月1日
Auto-Encoding GAN
CreateAMind
7+阅读 · 2017年8月4日
Top
微信扫码咨询专知VIP会员