如何简单易懂地理解贝叶斯非参数模型?

如题
关注者
198
被浏览
121,712
登录后你可以
不限量看优质回答私信答主深度交流精彩内容一键收藏

在机器学习中有很多算法,而有一种算法有着坚实的数学背景,并且被广泛使用,这种算法就是朴素贝叶斯算法,当然,朴素贝叶斯算法的优点有很多,当然,这种算法的缺点也是我们不能忽视的,那么大家知道不知道朴素贝叶斯算法的优点和缺点是什么呢?下面我们就给大家介绍一下这个问题。

那么什么是朴素贝叶斯算法呢?其实朴素贝叶斯属于生成式模型,也就是关于生成模型和判别式模型,主要还是在于是否需要求联合分布,这种算法是一种比较简单的算法,你只需做一堆计数即可。如果注有条件独立性假设,朴素贝叶斯分类器的收敛速度将快于判别模型,比如逻辑回归,所以你只需要较少的训练数据即可。即使NB条件独立假设不成立,NB分类器在实践中仍然表现的很出色。它的主要缺点是它不能学习特征间的相互作用,用mRMR中R来讲,就是特征冗余。

那么朴素贝叶斯算法的优点是什么呢?这种算法的优点有五个,第一就是朴素贝叶斯模型发源于古典数学理论,有着坚实的数学基础,以及稳定的分类效率。第二就是对大数量训练和查询时具有较高的速度。即使使用超大规模的训练集,针对每个项目通常也只会有相对较少的特征数,并且对项目的训练和分类也仅仅是特征概率的数学运算而已。第三就是对小规模的数据表现很好,能个处理多分类任务,适合增量式训练(即可以实时的对新增的样本进行训练)。第四就是对缺失数据不太敏感,算法也比较简单,常用于文本分类。第五就是朴素贝叶斯对结果解释容易理解。

当然,朴素贝叶斯算法的缺点也是很明显的,朴素贝叶斯算法的缺点有四点,第一就是

需要计算先验概率。第二就是分类决策存在错误率。第三就是对输入数据的表达形式很敏感。第四就是对由于使用了样本属性独立性的假设,所以如果样本属性有关联时其效果不好。

那么朴素贝叶斯应用领域是什么呢?其实朴素贝叶斯算法在欺诈检测中使用较多。当然,我们还可以用朴素贝叶斯算法来决定一封电子邮件是否是垃圾邮件。还可以用朴素贝叶斯算法判断一篇文章应该的类别,同时也能够使用贝叶斯算法去判断一段文字表达的是积极的情绪还是消极的情绪。从中我们可以看出朴素贝叶斯算法是一个十分实用的算法。

在这篇文章中我们给大家介绍了很多关于朴素贝叶斯算法的相关知识,通过对这些知识的讲解相信大家已经对朴素贝叶斯算法有了一定的了解,希望这篇文章能够帮助大家。

最后附上Scikit-learn中文文档:
scikit-learn中文社区