pplx-embed-v2-context-9b 是什么：Perplexity 的上下文嵌入模型

它是什么

pplx-embed-v2-context-9b 是 Perplexity 在 2026 年 10 月 28 日开放权重的多模态嵌入模型，参数约 9B，用于在文本、图像和视觉文档（比如扫描件、带图表的 PDF 页面）上做检索。权重发布在 Hugging Face，模型需要加载自定义代码使用。

“上下文嵌入”解决什么问题

做检索增强生成（RAG）时，通常要把长文档切成小块，每块单独转成向量。问题是切开以后，每一块丢了上下文：一段话里写着“该公司第三季度营收增长”，单看这一块，根本不知道“该公司”是谁。这个模型支持两种模式：非上下文模式下，每段文本单独编码；上下文模式下，编码某个片段时能看到它所在文档的其他内容，于是向量里带上了“这段话在讲谁、在什么背景下”的信息，检索时更容易被正确召回。

它对图像也支持上下文切块：把一张大图或一页视觉文档切成若干块分别建索引，官方说这能明显提升检索效果。切好的图像块可以直接放进标准的稠密向量近似最近邻索引里检索。

用起来要注意什么

模型训练时给查询和文档用了不同的前缀，编码查询和编码文档要用对应的方式，用错了检索质量会悄悄变差，这是接入时最容易踩的坑。在上下文模式下，同一篇文档的各个片段要一起送进去编码。它的完整向量是 2048 维，前 1024 维通过 MRL（套娃表示学习）训练，可以截取使用，而且这 1024 维的前缀和 Perplexity 另一款嵌入模型共享同一个向量空间，所以可以用一个模型编码文档、用另一个模型编码查询。官方还支持 int8 量化的向量，能显著节省存储。

适合谁

做企业知识库、文档问答、需要检索扫描件和图表的团队，是它最直接的用户；长文档切块后召回效果差的问题，正好是它的设计目标。9B 的规模比常见的小嵌入模型大不少，大批量建索引时要算好算力成本，可以只用 1024 维前缀和 int8 量化来压低开销。AI 主线的看法是：嵌入模型正在从“每段话各管各的”走向“理解整篇文档再编码”，这对 RAG 效果的提升往往比换一个更大的生成模型更划算。