【经典书】图模型: 指数族和变分推断，305页pdf

概率图模型的形式化为捕获随机变量之间的复杂依赖关系和建立大规模多元统计模型提供了统一的框架。图模型已经成为许多统计、计算和数学领域的研究焦点，包括生物信息学、通信理论、统计物理、组合优化、信号和图像处理、信息检索和统计机器学习。在特定情况下出现的许多问题- -包括计算边缘值和概率分布模式的关键问题。利用指数族表示，并利用指数族累积函数和熵之间的共轭对偶性，我们提出了计算概率、边际概率和最可能配置问题的一般变分表示。我们描述了各种各样的算法,其中sum-product集群变分方法,expectation-propagation,平均场方法,max-product和线性规划松弛——都可以理解的精确或近似形式的变分表示。变分方法提供了一个补充替代马尔科夫链蒙特卡洛作为在大规模统计模型推理的方法。

https://www.nowpublishers.com/article/Details/MAL-001