资讯

绝对多数投票法是什么?得票必须过半才算数的集成规则

2026-11-053 分钟阅读百科
TL;DR绝对多数投票法(Majority Voting)是集成学习的结合策略之一,某个类别获得超过半数基学习器的投票才被采纳,否则拒绝预测;它与只需得票最多即可的相对多数投票法、带权重的加权投票法并列,适用于对可靠性要求高、允许拒绝判断的任务。

绝对多数投票法(Majority Voting)是集成学习中把多个模型的预测结果组合起来的一种规则:只有当某个类别获得了超过半数的模型的投票时,才把它作为最终的预测结果;如果没有任何一个类别的票数过半,就拒绝做出预测。在周志华的《机器学习》一书中,它与相对多数投票法、加权投票法一起,被列为分类任务中常用的三种投票结合策略。

三种投票法的区别

假设一个集成模型由多个分类器组成,每个分类器对一个样本投出一票。绝对多数投票法:要求得票数必须超过总票数的一半。比如有 10 个分类器,某个类别至少要得到 6 票才能被采纳。如果票数比较分散,没有哪个类别过半,比如三个类别分别得到 4 票、3 票和 3 票,就不给出预测结果。相对多数投票法:只要求得票最多,不要求超过半数。在上面的例子中,得到 4 票的类别就会被选为预测结果;如果有多个类别并列得票最多,就从中随机选择一个。加权投票法:给不同的分类器分配不同的权重,按照加权后的票数来决定,表现更好的分类器影响更大。

在日常的叫法中,人们也常常把“少数服从多数”的投票统称为多数投票,但严格来说,绝对多数和相对多数是两种不同的规则。在只有两个类别并且分类器数量为奇数时,两者的结果是一样的,因为得票最多的类别一定过半。

“拒绝预测”有什么用

绝对多数投票法的一个特点是它允许“弃权”:当各个分类器的意见很不统一时,它不会勉强给出一个结论。这在一些对可靠性要求很高的任务中很有价值:比如在医疗诊断中,如果多个模型的判断分歧很大,说明这个病例可能比较疑难,与其给出一个不太可靠的结论,不如把它交给医生进一步检查。在金融风控、内容审核等场景中,也可以把模型拿不准的情况转交人工处理。这种做法体现了一种“宁可不说,也不说错”的思路。当然,如果任务要求必须对每个样本都给出预测,就不能使用绝对多数投票法,或者需要为“拒绝”的情况设计另外的处理方式。

为什么投票能提高准确率

投票之所以有效,可以用一个简单的例子来说明:假设有多个分类器,每一个的准确率都是 70%,而且它们犯错是相互独立的。那么,大多数分类器同时犯错的概率,会比单个分类器犯错的概率小得多。分类器的数量越多,多数投票的准确率就越高,这与 18 世纪法国数学家孔多塞提出的“陪审团定理”是同一个道理。不过,这个结论有一个关键的前提:各个分类器的准确率要高于随机猜测,而且它们犯的错误要尽量不同。如果所有的分类器犯的都是同样的错误,那么投票也无法纠正。因此,集成学习非常重视各个基学习器之间的多样性,比如通过使用不同的训练数据子集、不同的特征子集、不同的算法来训练它们。