概率图模型的形式化提供了一个统一的框架,以捕获随机变量之间的复杂依赖关系,并建立大规模的多元统计模型。图模型已经成为许多统计、计算和数学领域的研究重点,包括生物信息学、通信理论、统计物理、组合优化、信号和图像处理、信息检索和统计机器学习。在特定情况下出现的许多问题——包括计算边际和概率分布模式的关键问题——最好在一般情况下进行研究。利用指数族表示,并利用指数族的累积函数和熵之间的共轭对偶性,我们发展了计算似然、边际概率和最可能配置问题的一般变分表示。我们描述了各种各样的算法——其中包括和积、聚类变分方法、期望传播、平均场方法、最大积和线性规划松弛,以及圆锥规划松弛——是如何以这些变分表示的精确或近似形式来理解的。变分方法提供了一个补充替代马尔可夫链蒙特卡罗作为一个一般来源的逼近方法推断在大规模统计模型。

https://www.nowpublishers.com/article/Details/MAL-001

成为VIP会员查看完整内容
0
35

相关内容

图模型由点和线组成的用以描述系统的图形。图模型属于结构模型(见模型),可用于描述自然界和人类社会中的大量事物和事物之间的关系。在建模中采用图模型可利用图论作为工具。按图的性质进行分析为研究各种系统特别是复杂系统提供了一种有效的方法。构成图模型的图形不同于一般的几何图形。例如,它的每条边可以被赋以权,组成加权图。权可取一定数值,用以表示距离、流量、费用等。加权图可用于研究电网络、运输网络、通信网络以及运筹学中的一些重要课题。图模型广泛应用于自然科学、工程技术、社会经济和管理等方面。见动态结构图、信号流程图、计划协调技术、图解协调技术、风险协调技术、网络技术、网络理论。

应用离散结构设计用于大学课程离散数学跨越两个学期。它最初的设计是为了给计算机科学专业的学生介绍在计算机科学中有用的数学主题。它也可以为数学专业的学生提供同样的目的,提供了对许多基本主题的第一次接触。

应用离散结构,是一个两个学期的本科文本在离散数学,侧重于结构性质的数学对象。这些包括矩阵、函数、图、树、格和代数结构。所讨论的代数结构是单体、群、环、场和向量空间。网站:http://discretemath.org应用离散结构已经被美国数学研究所批准作为其开放教科书计划的一部分。更多关于开放教科书的信息,请访问http://www.aimath.org/textbooks/。这个版本使用Mathbook XML (https://mathbook.pugetsound.edu/)创建。Al Doerr是马萨诸塞大学洛厄尔分校数学科学荣誉教授。他的兴趣包括抽象代数和离散数学。Ken levasserur是马萨诸塞大学洛厄尔分校数学科学教授。他的兴趣包括离散数学和抽象代数,以及它们在计算机代数系统中的实现。

成为VIP会员查看完整内容
0
51

本教程关注信息理论在统计学中的应用。被称为信息散度或Kullback-Leibler距离或相对熵的信息度量起着关键作用。涵盖的主题包括大偏差、假设检验、指数族的最大似然估计、列联表的分析以及具有“信息几何”背景的迭代算法。同时,还介绍了通用编码的理论,以及由通用编码理论驱动的最小描述长度原理的统计推理。

https://www.nowpublishers.com/article/Details/CIT-004

成为VIP会员查看完整内容
0
40

统计学是关于可观测现象的数学建模,使用随机模型,以及分析数据:估计模型的参数和检验假设。在这些注释中,我们研究了各种评估和测试程序。我们考虑它们的理论性质,并研究各种最优化的概念。

成为VIP会员查看完整内容
0
49

本书致力于概率信息测度理论及其在信息源和噪声信道编码定理中的应用。最终的目标是全面发展香农的通信数学理论,但大部分篇幅都用于证明香农编码定理所需的工具和方法。这些工具形成了遍历理论和信息论的共同领域,并包含了随机变量、随机过程和动力系统中的信息的几个定量概念。例如熵、互信息、条件熵、条件信息和相对熵(鉴别、Kullback-Leibler信息),以及这些量的极限标准化版本,如熵率和信息率。在考虑多个随机对象时,除了考虑信息之外,我们还会考虑随机对象之间的距离或变形,即一个随机对象被另一个随机对象表示的准确性。书的大部分与这些量的性质有关,特别是平均信息和扭曲的长期渐近行为,其中两个样本平均数和概率平均数是有兴趣的。

成为VIP会员查看完整内容
0
63

来自昆士兰大学经典线性代数分析包括线性方程、矩阵等内容,值得关注!

成为VIP会员查看完整内容
0
35

科学和工程中的许多问题都可以换种说法,即具有流形结构的矩阵搜索空间的优化问题。这本书展示了如何利用这些问题的特殊结构来开发有效的数值算法。它是应用数学家和计算机科学家感兴趣的。

科学和工程中的许多问题都可以换种说法,即具有流形结构的矩阵搜索空间的优化问题。这本书展示了如何利用这些问题的特殊结构来开发有效的数值算法。它把重点放在了算法的数值公式和它的微分几何抽象上——说明好的算法是如何从微分几何、优化和数值分析的洞察力中同等地得出的。另外两个理论章节为读者提供了算法发展所必需的微分几何背景。在其他章节中,几个著名的优化方法,如最速下降法和共轭梯度法被推广到抽象流形。这本书提供了这些方法中的每一个的一般发展,建立在几何章节的材料上。然后,它指导读者通过计算,把这些几何公式的方法变成具体的数值算法。在数值线性代数中特征空间问题的选择问题中,所给出的最先进的算法与现有的最佳算法是有竞争力的。

矩阵流形上的优化算法提供了在线性代数、信号处理、数据挖掘、计算机视觉和统计分析中广泛应用的技术。它可以作为研究生水平的教科书,对应用数学家、工程师和计算机科学家感兴趣。

Optimization Algorithms on Matrix Manifolds

https://sites.uclouvain.be/absil/amsbook/

成为VIP会员查看完整内容
0
70

优化和机器学习的相互作用是现代计算科学最重要的发展之一。优化的公式和方法在设计从大量数据中提取基本知识的算法方面被证明是至关重要的。然而,机器学习并不仅仅是优化技术的消费者,而是一个快速发展的领域,它本身也在产生新的优化思想。这本书以一种对两个领域的研究人员都可访问的方式捕获了优化和机器学习之间交互的艺术的状态。

优化方法因其广泛的适用性和吸引人的理论特性而在机器学习中占有重要地位。当今机器学习模型的复杂性、规模和多样性日益增加,需要对现有假设进行重新评估。这本书开始了重新评估的过程。它描述了在诸如一阶方法,随机近似,凸松弛,内点方法,和近端方法等已建立的框架。它还专门关注一些新的主题,如正则化优化、鲁棒优化、梯度和次梯度方法、分裂技术和二阶方法。其中许多技术的灵感来自其他领域,包括运筹学、理论计算机科学和优化子领域。这本书将丰富机器学习社区和这些其他领域以及更广泛的优化社区之间正在进行的交叉发展。

成为VIP会员查看完整内容
0
82

概率图模型的形式化为捕获随机变量之间的复杂依赖关系和建立大规模多元统计模型提供了统一的框架。图模型已经成为许多统计、计算和数学领域的研究焦点,包括生物信息学、通信理论、统计物理、组合优化、信号和图像处理、信息检索和统计机器学习。在特定情况下出现的许多问题- -包括计算边缘值和概率分布模式的关键问题。利用指数族表示,并利用指数族累积函数和熵之间的共轭对偶性,我们提出了计算概率、边际概率和最可能配置问题的一般变分表示。我们描述了各种各样的算法,其中sum-product集群变分方法,expectation-propagation,平均场方法,max-product和线性规划松弛——都可以理解的精确或近似形式的变分表示。变分方法提供了一个补充替代马尔科夫链蒙特卡洛作为在大规模统计模型推理的方法。

https://www.nowpublishers.com/article/Details/MAL-001

成为VIP会员查看完整内容
0
44

高斯过程(GPs)为核机器的学习提供了一种有原则的、实用的、概率的方法。在过去的十年中,GPs在机器学习社区中得到了越来越多的关注,这本书提供了GPs在机器学习中理论和实践方面长期需要的系统和统一的处理。该书是全面和独立的,针对研究人员和学生在机器学习和应用统计学。

这本书处理监督学习问题的回归和分类,并包括详细的算法。提出了各种协方差(核)函数,并讨论了它们的性质。从贝叶斯和经典的角度讨论了模型选择。讨论了许多与其他著名技术的联系,包括支持向量机、神经网络、正则化网络、相关向量机等。讨论了包括学习曲线和PAC-Bayesian框架在内的理论问题,并讨论了几种用于大数据集学习的近似方法。这本书包含说明性的例子和练习,和代码和数据集在网上是可得到的。附录提供了数学背景和高斯马尔可夫过程的讨论。

成为VIP会员查看完整内容
0
124
小贴士
相关VIP内容
专知会员服务
51+阅读 · 5月4日
专知会员服务
40+阅读 · 3月27日
专知会员服务
49+阅读 · 3月25日
专知会员服务
63+阅读 · 3月23日
专知会员服务
35+阅读 · 3月4日
专知会员服务
82+阅读 · 2月26日
专知会员服务
44+阅读 · 2020年12月10日
专知会员服务
161+阅读 · 2020年5月18日
专知会员服务
124+阅读 · 2020年5月2日
相关论文
Tony Lelièvre,Gabriel Stoltz,Wei Zhang
0+阅读 · 9月29日
Cong Wang,Yu Chen,Jun He,Xiufen Zou
0+阅读 · 9月29日
YoonHaeng Hur,Wenxuan Guo,Tengyuan Liang
0+阅读 · 9月28日
Petar Veličković,Lars Buesing,Matthew C. Overlan,Razvan Pascanu,Oriol Vinyals,Charles Blundell
3+阅读 · 2020年10月18日
Dan Hendrycks,Kevin Gimpel
3+阅读 · 2018年11月11日
Felix Laumann,Kumar Shridhar,Adrian Llopart Maurin
18+阅读 · 2018年6月27日
Wenhu Chen,Wenhan Xiong,Xifeng Yan,William Wang
7+阅读 · 2018年3月17日
Jiuxiang Gu,Shafiq Joty,Jianfei Cai,Gang Wang
4+阅读 · 2018年3月14日
Kurt Riedel
4+阅读 · 2018年3月14日
Top