监督学习是什么？用带标准答案的数据来训练模型

监督学习（Supervised Learning）是机器学习中最常见、应用最广泛的一种学习方式。它使用带有“标准答案”的数据来训练模型：每一个训练样本都包括输入和对应的正确输出，也就是标签。模型通过学习这些例子，掌握从输入到输出的规律，然后就能对新的、没有见过的输入做出预测。

为什么叫“监督”

“监督”这个说法来自一个比喻：学习的过程就像有一位老师在旁边指导，对于每一道练习题，老师都会告诉学生正确的答案是什么。学生做完题，对照正确答案，发现自己哪里错了，然后改正。经过大量的练习，学生就学会了解题的方法，遇到新的题目也能自己做出来。在监督学习中，标签就扮演着这位老师的角色。

两大类任务

分类：预测的输出是一个类别。比如判断一封邮件是否是垃圾邮件；识别一张图片中的动物是猫还是狗；根据医学影像判断是否存在病变；识别手写的数字。回归：预测的输出是一个连续的数值。比如根据房子的面积、位置、房龄等预测房价；根据历史数据预测明天的气温或下个月的销量；预测一位用户在购物网站上会花多少钱。

学习的过程

监督学习的一般流程是：收集数据并打上标签；把数据划分为训练集、验证集和测试集；选择一种模型；用训练集训练模型，让模型的预测尽量接近标签，通常是通过最小化损失函数来实现；用验证集调整超参数和选择模型；最后用测试集评估模型在新数据上的真实表现。学习的关键目标是泛化：模型不仅要在训练数据上表现好，更重要的是在没有见过的新数据上也能做出准确的预测，避免过拟合和欠拟合。

常用的方法

线性回归和逻辑回归、决策树、随机森林和梯度提升树、支持向量机、K 近邻、朴素贝叶斯，以及各种神经网络。深度学习在图像识别、语音识别、机器翻译等领域取得的突破，在很大程度上都是监督学习的成果，比如在带有标注的 ImageNet 图像数据集上训练的图像识别模型。

局限和其他学习方式

监督学习最大的局限是需要大量带有标签的数据，而给数据打标签往往需要耗费大量的人力、时间和金钱，一些专业的领域，比如医学影像，还需要专家来标注。为了减少对标注数据的依赖，人们发展了其他几种学习方式：无监督学习，从没有标签的数据中发现结构，比如聚类和降维；半监督学习，同时利用少量有标签的数据和大量无标签的数据；自监督学习，从数据本身自动地构造出学习的目标，比如预测文本中的下一个词、还原被遮住的图片区域，这是大语言模型预训练采用的方式；以及通过与环境互动、根据奖励来学习的强化学习。如今的大模型通常先用自监督学习进行预训练，再用监督学习的方式进行指令微调，然后用强化学习进行对齐。