鲁棒性是什么？面对扰动、噪声和意外情况仍能稳定工作的能力

鲁棒性（Robustness），也叫稳健性，是指一个系统、算法或模型在面对各种干扰、扰动和意外情况时，仍然能够保持正常工作、性能不会大幅下降的能力。“鲁棒”是英文 robust 的音译，原意是强壮、结实。

在统计学中

在统计学中，稳健性主要指统计方法不容易受到异常值和数据偏离假设的影响。一个经典的例子是平均数和中位数：一个小区里十户人家的年收入大多在十万元左右，如果其中一户是收入上亿元的富豪，平均收入就会被拉高到一千多万元，完全不能反映大多数家庭的情况；而中位数几乎不受这一个极端值的影响。所以说中位数比平均数更稳健。统计学中有一个专门的分支叫稳健统计，研究在数据有异常值或不完全满足假设时，仍然可靠的估计和检验方法。

在机器学习中的几种鲁棒性

对噪声的鲁棒性：真实世界的数据往往带有噪声，比如模糊的照片、带有背景噪声的录音、拼写错误的文字。鲁棒的模型在面对这些不完美的输入时，仍然能给出正确的结果。对异常值和标签错误的鲁棒性：训练数据中可能存在异常的样本和标错的标签，鲁棒的模型不会被这些少数的错误数据带偏。对分布变化的鲁棒性：模型在训练时见到的数据，和实际使用时遇到的数据，可能有所不同，比如用白天的照片训练的自动驾驶模型，遇到夜晚、雨雪天气的情况，或者医学模型从一家医院换到另一家医院使用。能在这些新情况下保持良好表现，称为分布外泛化能力。对抗鲁棒性：研究者发现，对一张图片做人眼几乎察觉不到的微小修改，就可能让一个图像识别模型以很高的置信度给出完全错误的判断，比如把熊猫认成长臂猿。这种被刻意构造出来、让模型出错的输入叫作对抗样本，由 Christian Szegedy、Ian Goodfellow 等人在 2013 到 2014 年间系统地揭示。抵抗这种攻击的能力就是对抗鲁棒性。在大语言模型中，对提示注入和越狱攻击的抵抗能力，也是一种鲁棒性。

为什么鲁棒性很重要

在实验室的标准测试中表现优异的模型，部署到真实的世界中后，可能因为遇到了没有见过的情况而失灵。在自动驾驶、医疗诊断、金融风控、安防等关系到安全和重大利益的领域，模型的鲁棒性不足可能带来严重的后果。因此，鲁棒性是衡量一个 AI 系统是否可靠、可信的关键指标之一。

如何提升鲁棒性

数据增强：在训练时对数据进行各种变换，加入噪声、改变光照和角度，让模型见识更多样的情况。收集更多样化的训练数据，覆盖更多的场景和条件。对抗训练：在训练时主动生成对抗样本，并把它们加入训练数据中，让模型学会抵抗这类攻击，这是目前提升对抗鲁棒性最有效的方法之一，但会增加训练成本，并可能略微降低在正常数据上的准确率。使用稳健的损失函数，比如对异常值不那么敏感的 Huber 损失。集成多个模型。以及在部署之后持续监控模型的表现，检测输入数据分布的变化。