嵌入模型是什么？负责把内容变成向量的模型

嵌入模型（Embedding Models）是专门负责把内容转换成向量的机器学习模型。输入一段文字、一张图片、一段音频或一段代码，它输出一个固定长度的稠密向量。这些向量被设计成：意思相近、结构相似的内容，在向量空间里离得更近。和传统的关键词匹配不同，嵌入模型学到的是数据背后的潜在特征，所以“汽车”和“轿车”虽然字不同，向量却很接近。

从词向量到通用嵌入

早期的词表示依赖统计方法，比如 TF-IDF 和潜在语义分析（LSA）。2013 年谷歌提出的 Word2Vec 用浅层神经网络学习词的分布式表示，是一个转折点。之后，基于 Transformer 的模型让嵌入能够理解上下文，Sentence-BERT 等工作专门训练句子级别的嵌入，使“比较两句话意思像不像”变得又快又准。再后来，嵌入模型普遍用对比学习训练：让意思相同的文本对靠近、不相关的推远。

如今的嵌入模型可以分成几类：通用文本嵌入，比如 OpenAI、谷歌、各家开源的 text-embedding 系列和 BGE、E5 等；多模态嵌入，比如 CLIP 让图片和文字共享同一个空间；以及针对代码、特定领域的专用嵌入。

怎么选嵌入模型

看语言：处理中文为主的业务，要选在中文数据上训练充分的模型。看维度：维度越高，表达能力通常越强，但存储和检索成本也越高；有些模型支持套娃表示（MRL），可以截取前几百维使用，按需平衡。看长度：模型能接受的最大输入长度决定了文档要切多碎。看评测：MTEB 等公开榜单可以作为参考，但最可靠的还是用自己的数据测检索效果。

用在哪里

语义搜索、推荐系统、文本聚类和去重、异常检测，以及检索增强生成（RAG）里的“找资料”环节，都离不开嵌入模型。在 RAG 系统中，嵌入模型的好坏往往比生成模型更直接地决定了最终答案的质量：找不到对的资料，再强的大模型也答不好。