BLEU 和 ROUGE 是什么?机器翻译与摘要的老牌评分
TL;DRBLEU 和 ROUGE 是通过比较生成文本与参考答案的词语重叠程度来打分的自动评测指标,BLEU 常用于机器翻译,ROUGE 常用于文本摘要。
BLEU 和 ROUGE 是两种基于词语重叠的自动评测指标:把模型生成的文本和人工写好的参考答案放在一起,看两者有多少词和短语是一样的。重叠越多,分数越高。BLEU 主要用于机器翻译,ROUGE 主要用于文本摘要,后来都被广泛用于各种有参考答案的生成任务。
BLEU:偏重“说得准”
BLEU 由 IBM 的 Kishore Papineni 等人在 2002 年提出。它计算模型输出里的 1 到 4 个词组成的片段(n-gram),有多少在参考译文里出现过,也就是精确率。为了防止模型只输出几个最有把握的词来刷高精确率,BLEU 还加了一个长度惩罚:输出比参考答案短太多就扣分。常见的报告范围是 0 到 100。
ROUGE:偏重“说得全”
ROUGE 由 Chin-Yew Lin 在 2004 年提出,最初用来评估自动摘要。和 BLEU 相反,它更看重召回率:参考摘要里的关键内容,模型的输出覆盖了多少。常用的变体有 ROUGE-1、ROUGE-2(分别看单词和两词片段),以及 ROUGE-L,后者基于最长公共子序列,既考虑覆盖了多少内容,也考虑词语顺序是否一致。
为什么现在不那么吃香了
这两个指标的最大问题是只看字面重叠。同一个意思可以有很多种说法,模型换了个同义词、调整了语序,意思完全正确,分数却可能很低;反过来,词都对上了但意思拧巴,分数也可能不低。在大模型时代,生成内容越来越灵活,BLEU 和 ROUGE 与人类判断的一致性就更差了。所以如今它们多作为参考指标,更多评测会结合语义相似度指标、大模型打分或人工评估。
但它们计算快、成本低、可复现,在翻译、摘要这类有标准答案的任务里,仍然是论文里最常见的基础指标之一。