参数高效微调 PEFT 是什么？只训练一小部分参数就能定制大模型

参数高效微调（Parameter-Efficient Fine-Tuning，PEFT）是一类用很小的代价让预训练模型适应新任务的技术。它不更新模型的全部参数，而是只训练其中很少的一部分，或者额外加入少量新的参数，其余的大部分参数保持冻结不变。

为什么需要它

大模型的参数动辄几十亿、几百亿。全量微调需要更新所有参数，带来几个问题：需要大量的显存，不仅要存参数，还要存每个参数的梯度和优化器状态，普通的显卡根本放不下；需要大量的算力和时间；而且每针对一个任务微调一次，就要保存一整份完整的模型副本，如果要为一百个客户、一百个任务分别定制模型，存储成本惊人。参数高效微调就是为了解决这些问题。

主要方法

LoRA（低秩适应）：目前最流行的方法。它不直接修改原始的权重矩阵，而是在旁边加两个很小的矩阵，用它们的乘积来表示权重的变化量，只训练这两个小矩阵。训练完成后，可以把变化量合并回原始权重，推理时不增加任何额外开销。它的变体 QLoRA 结合量化技术，能在一张消费级显卡上微调几十亿参数的模型。

Adapter（适配器）：在模型的每一层中插入一个小的神经网络模块，只训练这些模块。

前缀微调和提示微调：在输入的前面加上一段可学习的向量，作为“软提示”，只训练这段提示，模型本身完全不动。

此外还有只微调偏置项的 BitFit、只调整少数几层的方法等。

优点和局限

参数高效微调通常只需要训练原模型 0.1% 到 1% 左右的参数，显存需求大幅降低，训练更快；每个任务只需要保存很小的一份增量参数，可能只有几十兆，同一个基础模型可以搭配很多个这样的“插件”，按需切换；冻结大部分参数也有助于保留模型原有的通用能力，减少灾难性遗忘。在很多任务上，它的效果可以接近全量微调。局限是：对于和预训练差异很大、需要学习大量新知识的任务，它的效果可能不如全量微调。实践中，它已经成为个人开发者和企业定制大模型最常用的方式。