表示学习是什么？让模型自己学会如何描述数据

表示学习（Representation Learning），也叫表征学习或特征学习，是指让机器学习模型自动地从原始数据中学习出有用的特征表示的方法，而不是依靠人工去设计这些特征。好的表示能够抓住数据中对完成任务最关键的信息，让后续的分类、预测等任务变得更加容易。

为什么“表示”如此重要

同样的信息，用不同的方式来表示，处理起来的难易程度可能天差地别。一个经典的例子是罗马数字和阿拉伯数字：用阿拉伯数字计算“二百一十乘以五十二”并不困难，但如果用罗马数字来写，计算就会非常麻烦。在机器学习中也是如此：同一张图片，如果用原始的像素值来表示，要判断其中是不是一只猫非常困难，因为猫可能出现在任何位置、任何角度、任何光照下，像素值会千差万别；但如果能用“有没有尖耳朵、有没有胡须、毛发的纹理”这样的特征来表示，判断就容易多了。

从特征工程到表示学习

在传统的机器学习中，特征需要由人来设计，这叫特征工程。比如在计算机视觉中，研究者精心设计了尺度不变特征变换、方向梯度直方图等图像特征；在语音识别中，使用梅尔频率倒谱系数等声学特征。特征工程需要大量的领域知识和经验，耗时费力，而且人设计的特征未必是最适合任务的。表示学习的目标，就是让模型自己从数据中学习出最合适的特征表示。

约书亚·本吉奥、亚伦·库维尔和帕斯卡尔·文森特在 2013 年发表了一篇有影响力的综述《表示学习：回顾与新视角》，系统地阐述了表示学习的思想。本吉奥等人发起的国际学习表征会议（ICLR）也以表示学习为名，如今已成为机器学习领域最重要的学术会议之一。

深度学习就是在学习表示

深度学习的成功，在很大程度上要归功于它强大的表示学习能力。深度神经网络通过多个层次，逐步地从原始数据中学习出越来越抽象的表示：在图像识别的网络中，前面的层学会识别边缘和颜色，中间的层把它们组合成纹理和形状，再往后的层识别出眼睛、轮子这样的部件，最后的层识别出完整的物体。每一层都在前一层的基础上构建更高级的表示，这就是“深度”的意义所在。

主要的表示学习方法

有监督的表示学习：在完成分类等任务的过程中，神经网络的中间层自然地学到了有用的表示。比如在 ImageNet 上训练的图像识别网络，它的中间层特征可以被迁移到其他各种图像任务中。自编码器：让网络先把输入压缩成一个低维的表示，再从这个表示中尽量还原出原始的输入，中间那个压缩的表示就学到了数据的关键信息。词嵌入：比如 Word2Vec，通过预测上下文学习每个词的向量表示，语义相近的词在向量空间中彼此靠近。对比学习：让模型学会把同一个样本的不同变化版本，比如同一张图片经过不同的裁剪和调色，映射到相近的表示上，同时把不同的样本推开。SimCLR、MoCo 等方法用这种方式在没有标签的情况下学到了高质量的图像表示。大规模自监督预训练：大语言模型通过在海量文本上预测下一个词，学到了极其丰富的语言和知识的表示；视觉模型通过预测被遮住的图片区域等方式进行预训练。这些预训练模型学到的表示可以迁移到大量的下游任务中，只需要少量的数据进行微调，甚至直接使用。

好的表示有什么特点

好的表示通常能够把数据中各种不同的变化因素区分开来，比如把一张人脸图片中的身份、表情、光照、角度分别表示出来，这叫“解耦”；对任务无关的变化保持不变，比如无论猫在图片中的位置如何，都能得到相似的表示；同时又保留对任务有用的信息。如今，嵌入向量已经成为检索、推荐、聚类和检索增强生成等众多应用的基础。