有哪些贝叶斯推理入门的书籍?

最近在看统计学,需要用到贝叶斯推理相关的内容,求推荐一些入门级的书籍,以及一些学习方法。
关注者
806
被浏览
298,124
登录后你可以
不限量看优质回答私信答主深度交流精彩内容一键收藏

针对不同基础的同学有两本书推荐。

第一本:

针对统计基础比较不错并且具备R编程能力的同学我推荐西雅图华盛顿大学统计系教授Peter D. Hoff的A First Course in Bayesian Statistical Methods(贝叶斯统计方法入门),这本书来源于在华盛顿大学教授的一学期研究生教学的课堂讲义。

这本书的目的是让学生熟悉贝叶斯理论和让他们使用贝叶斯计算快速进行数据分析。

由于这本书也对基本概率做了一些简单介绍所以面向的读者也包括非统计学专业学生。这本书的目的是一个完整和紧凑的介绍贝叶斯的主要概念理论和实践。学习完这本书后,应该有能力了解并使用贝叶斯统计方法分析数据。这本书可以作为快速介绍贝叶斯方法的入门读物,也为更全面详细研究贝叶斯方法打好基础。

这本书的一个好处是使用的都是概率教学上的标准符号,并且图文并茂深入浅出,提供了几个经典的案例用于理解贝叶斯理论,并且提供了相应的R代码,可以让初学者在计算机上立刻看到自己的努力成果。为了便于大家理解,我把这本书的大致框架介绍一下:

1 Introduction and examples(介绍与例子)

2 Belief, probability and exchangeability(信念、概率和可交换性)

介绍信念函数(Belief Function)与概率,事件(Event),分化(partitions)和贝叶斯规则,独立性,随机变量(离散随机变量,连续随机变量,随机变量分布描述),联合分布,独立随机变量,可交换性,de Finetti定理

3 One-parameter models(单参数模型)

介绍二项模型,泊松模型,指数分布族(Exponential families)及共轭先验分布(conjugate priors)

4 Monte Carlo approximation (蒙特卡洛近似)

介绍蒙特卡洛方法,任意函数的后验推论(Posterior inference),预测分布抽样,后验预测模型检验

5 The normal model(正态模型)

介绍正态模型,均值与方差的联合推论,偏差、方差和均方误差,基于期望的先验描述,非正态数据的正态模型

6 Posterior approximation with the Gibbs sampler(Gibbs抽样的后验近似)

介绍半共轭先验分布(semiconjugate prior distribution),离散近似,条件分布抽样,Gibbs抽样,Gibbs抽样的一般性质,MCMC诊断介绍

7 The multivariate normal model(多元正态模型)

介绍多元正太模型密度函数,均值的半共轭先验分布,inverse-Wishart分布,均值与方差的Gibbs sampling和数据缺失与填补

8 Group comparisons and hierarchical modeling(组比较与层级模型)

介绍比较2组,比较多组可交换性与层级模型,层级正态模型,美国公里学校数学成绩分析例子,均值与方差的层级模型

9 Linear regression (线性回归)

介绍线性回归模型,回归模型的贝叶斯估计,模型选择(包括贝叶斯模型比较,Gibbs抽样和模型平均)

10 Nonconjugate priors and Metropolis-Hastings algorithms(非共轭先验和M-H算法)

介绍通用线性模型(Generalized linear models), Metropolis算法,泊松分布的Metropolis算法,Metropolis, Metropolis-Hastings和Gibbs算法,Metropolis和Gibbs算法结合。

11 Linear and generalized linear mixed effects models (线性和广义线性混合效应模型)

介绍层级回归模型,全条件分布和广义线性混合效应模型(包括后验近似的Metropolis-Gibbs算法)

12 Latent variable methods for ordinal data(有序数据的隐变量方法)

介绍有序概率回归与秩似然和高斯copula模型

第二本:

《Doing Bayesian Data Analysis---A Tutorial with R, JAGS, and Stan》,即用R,JAGS和Stan做贝叶斯数据分析的辅导书。这本书是布鲁明顿印第安纳大学心理与脑科学系的John K. Kruschke教授写的。相比于前面一本书,这本书不需要基本概率论的知识,仅需要具备微积分基础即可

这本书解释你获得真实的数据后如何实际地做贝叶斯数据分析。这本书从最基本的概率和程序设计的概念开始。你不需要已经知道统计学和编程,随着学习的深入会进展到在现实数据分析中使用高级层级模型。这本书是在对一个像一年级毕业生这样的人讲诉如何学习贝叶斯统计。

这里给大家解释一下什么是JAGS和Stan:

1) JAGS(Just Another Gibbs Sampler)是一个为复杂层级模型自动构建马尔科夫链蒙特卡托(MCMC)采样器的系统。JAGS代表仅仅是另一个吉布斯取样器。JAGS的输入是用户对层级模型的数据描述,并返回一个后验分布的MCMC样本。书中讲解有很多库让用户在R和JAGS中交换信息和数据。

2) Stan是一个软件包的名称,它用于为复杂层级模型的后验分创建具有代表性的参数样本。Stan使用与JAGS不同的方法来生成蒙特卡罗步骤。这个方法称为哈密顿蒙特卡罗(HMC)。HMC比JAGS中的各种采样器更有效,特别是对于大型复杂模型。

本书完全对应传统统计学的知识架构

传统统计分析对应的贝叶斯版本
Binomial Test(二项式测试)第6-9章和第21章
t-test(t测试)第16章
线性回归第17章
多元线性回归第18章
一元ANOVA第19章
多元ANOVA第20章
Logistic回归第21章
多元正态Logistic回归第22章
Ordinal回归第23章
Chi-Square测试第24章
Power分析第13章

第2章介绍贝叶斯推理的思想和其模型参数。

第3章介绍R编程语言

第4章基本概率论思想

第5章贝叶斯法则

第6章经由数学分析推到二项概率(Binomial Probability)

第7章MCMC

第8章介绍JAGS编程语言

第9章层级模型

第10章模型比较与层级模型

第11章显著性测试的NULL假设

第12章假设检验的贝叶斯方法

第13章目标、效力和样本尺寸

第14章介绍Stan

第15章通用线性模型概述

第16章单组或两组的指标预测变量(Metric-Predicted Variable)

第17章具有一个度量预测因子的可度量预测变量(Metric Predicted Variable with One Metric Predictor)

第18章具有多度量预测因子的可度量预测变量

第19章具有一个正态预测因子的可度量预测变量(Metric Predicted Variable with One Nominal Predictor)

第20章具有多个正态预测因子的可度量预测变量

第21章二叉型预测变量(其实就是Logistic Regression)

第22章多叉型预测变量

第23章序数预测变量

第24章可数预测变量(Count Predicted Variable)