资讯

少样本学习是什么?给模型看几个例子就会做

2026-11-042 分钟阅读百科
TL;DR少样本学习指模型只靠很少的示例就学会一项新任务;在大模型里最常见的形式,是在提示词里放几组输入输出示例,让模型照着做。

少样本学习(Few-Shot Learning)指模型只靠很少的示例就学会一项新任务。在传统机器学习里,它是一个研究方向,目标是让模型用每类几张图片就学会识别新类别;到了大模型时代,它最常见的形式是在提示词里放几组“输入→输出”的示例,模型不更新任何参数,就能照着示例的格式和规律处理新输入。后一种也叫上下文学习(In-Context Learning)。

零样本、单样本和少样本

这几个词按给出示例的数量区分。零样本是只写任务说明、不给例子,比如“把下面这句话翻译成英文”;单样本是给一个例子;少样本一般是给三到十个例子。2020 年 GPT-3 的论文标题就是《Language Models are Few-Shot Learners》,论文展示了模型规模足够大以后,只靠提示词里的几个例子就能完成翻译、问答、算术等任务,这让“提示工程”成了一门手艺。

为什么几个例子就管用

大模型在预训练阶段已经见过海量文本,学到了大量任务的“套路”。示例的作用更像是告诉它“这次要用哪个套路、输出长什么样”,而不是从零教会它新知识。研究也发现,示例的格式、标签的分布、排列顺序都会影响结果,有时候示例里的标签就算是错的,模型照样能学到输出格式。

写好少样本提示的几条经验

示例要覆盖典型情况和容易出错的边界情况,别全是同一类。格式要严格统一,模型对格式非常敏感,示例里用什么分隔符、什么字段名,它就会照抄。示例数量不是越多越好,三五个高质量的往往比二十个随手凑的强,而且示例越多,占用的上下文和费用越多。如果任务很固定、调用量很大,与其每次都塞一堆示例,不如考虑微调。

和微调怎么选

少样本提示的好处是零成本、随改随用,适合任务经常变化或者还在探索阶段的场景。微调需要准备数据、花训练成本,但能把能力“固化”进模型,推理时提示词更短、更便宜、更稳定。很多团队的做法是先用少样本提示验证效果,确认需求稳定了再用积累下来的数据去微调。

在 AI 主线看来,少样本提示是每个用 AI 干活的人都该掌握的基本功:遇到模型理解不了你要什么,先别急着换模型,给它看两个例子试试。