自动结构变分推理，Automatic structured variational inference

论文题目： Automatic structured variational inference

摘要： 概率编程的目的是在任意概率模型(程序)中自动概率推理的各个方面，这样用户就可以将注意力集中在建模上，而不需要处理特定的推理方法。基于梯度的自动微分随机变分推理是一种有效的概率规划方法。然而，任何(参数)变分方法的性能取决于适当的变分族的选择。在这里，我们介绍了一种完全自动化的方法来构建结构化的变分族，其灵感来自于共轭模型的封闭形式更新。这些伪共轭族包含了输入概率程序的前向传递，可以捕获复杂的统计相关性。伪共轭族具有与输入概率程序相同的空间和时间复杂度，因此在很大的一类模型中是可处理的。我们将自动变分方法应用于包括深度学习组件在内的多种高维推理问题。