概率导论学习之贝叶斯准则。

贝叶斯准则主要用于因果推理，常见的应用场景如：在已经得知事件的结果的情况下，推测事情发生的原因。

在学习贝叶斯准则的计算公式前，需要先引入与之紧密相连的定理——全概率定理。

在全概率定理中，假设A_1,A_2...A_n 是一组互不相容的事件，形成样本空间的一个分割（每个实验结果必定使得其中一个事件发生）。又假设对于每个事件 i ，都有 P(A_i)>0 ,

则对于任一事件 B ，其发生的概率为：

P(B)=P(A_1∩B)+⋯+P(A_n∩B)

又根据条件概率计算公式：

P(A_1∩B)=P(A_1)P(B|A_1)

故：

P(B)=P(A_1 )P(B│A_1 )+⋯+P(A_n)P(B|A_n)

而贝叶斯准则为，假设A_1,A_2...A_n 是一组互不相容的事件，形成样本空间的一个分割（每个实验结果必定使得其中一个事件发生）。又假设对于每个事件 i ，都有 P(A_i)>0 ,则对于任一事件 B，只要 P(B)>0 ，则下列公式成立：

P(A_i│B)=\frac{P(A_i)P(B|A_i)}{P(B)}

即：

P(A_i│B)=\frac{P(A_i)P(B|A_i)}{P(A_1 )P(B│A_1 )+⋯+P(A_n)P(B|A_n)}

举个栗子：

你参加一个棋类比赛，其中50%是一类棋手，你赢他们的概率为0.3；25%的是二类棋手，你赢他们的概率是0.4；剩下的是三类棋手，你赢他们的概率是0.5。现在假定你已经取胜，问你的对手为一类棋手的概率有多大？

解：假设 A_i 表示与 i 类棋手遭遇的事件， B 表示已经取胜的事件。

利用贝叶斯准则可得：

P(A_1│B)=\frac{P(A_1)P(B|A_1)}{P(A_1 )P(B│A_1 )+P(A_2 )P(B│A_2 )+P(A_3)P(B|A_3)}

代入已知数据计算，

P(A_1│B)=\frac{0.5*0.3}{0.5*0.3+0.25*0.4+0.25*0.5}=0.4

参考资料：

Dimitri.Bertsekas John N.Tsitsiklis. 概率导论(第2版)(图灵数学统计学丛书40)[M]. 人民邮电出版社, 2009.