朴素贝叶斯分类器是什么？简单快速的概率分类方法

朴素贝叶斯分类器（Naive Bayes Classifier）是一类基于贝叶斯定理的简单概率分类器。它根据一个样本的各项特征，计算这个样本属于每一个类别的概率，然后选择概率最大的那个类别作为分类结果。它之所以被称为“朴素”，是因为它做了一个简化的假设：在已知类别的情况下，各个特征之间相互独立。

它是怎么分类的

朴素贝叶斯分类器的基础是贝叶斯定理，它描述了如何根据新的证据来更新对一件事情的判断。具体到分类问题上：样本属于某个类别的概率，正比于这个类别本身出现的概率（先验概率），乘以在这个类别下出现这样一组特征的概率（似然）。分类器为每个类别计算这个值，选出最大的那个。

以垃圾邮件过滤为例：先从训练数据中统计出垃圾邮件和正常邮件各占多大的比例，以及每个词在垃圾邮件和正常邮件中出现的概率，比如“中奖”在垃圾邮件中出现得很频繁，在正常邮件中很少见。来了一封新邮件，就把邮件中每个词在垃圾邮件中出现的概率乘起来，再乘以垃圾邮件的比例，得到一个分数；对正常邮件也做同样的计算。哪个分数更大，就把这封邮件归为哪一类。

这里之所以可以把每个词的概率直接相乘，正是因为有特征相互独立的假设。在实际计算中，为了避免许多个很小的概率相乘导致数值过小，通常会取对数，把乘法变成加法。此外，为了避免训练数据中没有出现过的词导致概率为零，还会使用拉普拉斯平滑等方法。

几种常见的类型

根据特征的类型不同，朴素贝叶斯有几种常见的变体：高斯朴素贝叶斯，假设每个连续的特征在每个类别中服从正态分布，适用于身高、温度这样的连续数值；多项式朴素贝叶斯，适用于计数类的特征，比如每个词在文档中出现的次数，是文本分类中最常用的一种；伯努利朴素贝叶斯，适用于只有“有”或“没有”两种取值的特征，比如某个词在文档中是否出现。

优点

朴素贝叶斯分类器非常简单，训练和预测的速度都极快，只需要统计各种频率，不需要复杂的迭代优化；需要的训练数据相对较少；能够处理大量的特征，在文本这种特征维度很高的数据上表现不错；对无关的特征不太敏感；而且结果容易理解。

缺点和应用

它的主要缺点是特征独立的假设在现实中往往不成立，当特征之间的相关性很强时，效果会受到影响；它给出的概率数值也往往不够准确，常常过于极端，虽然这通常不影响最终的分类结果。尽管如此，朴素贝叶斯在实践中被证明相当有效。2002 年，Paul Graham 发表的文章《对付垃圾邮件的一个方案》介绍了基于贝叶斯方法的垃圾邮件过滤，推动了这种方法在电子邮件系统中的广泛应用。它还被用于新闻分类、情感分析、医学诊断辅助等领域，并常常被当作文本分类任务的基线方法，用来与更复杂的模型进行比较。