2026 Embedding 模型全景对比:从 MTEB 榜单到 RAG 选型决策

2026 Embedding 模型全景与选型决策

TL;DR

  • What this is: A deep comparison of text/multimodal embedding models as of late 2026, based on MTEB English/Multilingual v2 and RTEB leaderboards (checked 27 Oct 2026), vendor pricing pages, and independent retrieval benchmarks.
  • This is for: Engineers building RAG pipelines, agent memory systems, or semantic search — anyone who must pick an embedding model and commit to re-indexing costs.
  • We chose: No single winner. The right pick is a constraint filter (license, data residency, language, modality) followed by a 100–200 query eval on your own corpus. Qwen3-Embedding is the strongest default open model; voyage-4-large is the strongest hosted API; Gemini Embedding 2 wins cross-lingual + multimodal; Cohere Embed 5 wins long documents.

一、为什么 Embedding 模型值得单独写一篇

Embedding 模型是 RAG 系统的隐形地基。它在流水线里跑两次:一次离线索引时嵌入每一个 chunk,一次每次请求时嵌入用户问题并找最近邻。那些 chunk 就是语言模型唯一能读到的上下文,所以 embedding 模型在生成开始之前就设定了回答质量的上限。

选错 embedding 模型的代价是终身的:向量来自不同模型不可比,换模型 = 全量重嵌入。一篇 2026 年的对比文章里反复出现的数字是——重新嵌入 1000 万个 chunk 大约花费 $520(按 2026 年 9 月价格),所以这不是”明天改一行配置”的事,而是”索引建好了就别轻易动”的事。

另一个动机:公开榜单往往误导。MTEB 总分是 7 种任务的平均(检索、语义相似、分类、聚类、成对分类、重排、摘要),只有一种和搜索有关。一个模型可能因为分类强就爬上总榜,检索反而平庸。所以这篇文章的核心方法论是:看检索列,不看总分。


二、先搞懂榜单:MTEB vs RTEB

榜单 覆盖 对 RAG 的意义
MTEB English v2 41 个任务,349 个模型 英语单语种检索/语义基线
MTEB Multilingual v2 131 个任务,483 个模型 跨语种检索,250+ 语言平均
RTEB(beta) 30 个任务,混合公开/私有数据 纯检索榜,部分数据私有防训练泄漏

三个关键陷阱(2026-10-27 快照真实存在):

  1. 训练重叠:MTEB 榜首附近的几个开源模型,零样本占比只有 48%——它们训练时见过约一半的测试任务。
  2. 覆盖缺口:2026 年最常用的托管模型(Voyage 4 族、Gemini Embedding 2、Cohere Embed 5)都没有完整 MTEB v2 分数,按总分排序的表会直接把它们丢掉。
  3. 任务混合:MTEB 总分混合聚类/分类与检索,模型可以在总榜爬升而检索没变好。

结论:用 MTEB 的 retrieval 列,或者直接用 RTEB(只测检索,且部分数据私有、无法训练)。自报分数(厂商自己的 model card)比榜单分数乐观,优先相信榜单独立运行的结果。


三、核心对比表(2026-10-27 快照)

以下是 15 个值得关注的模型,数据来自 MTEB/RTEB 榜单 API、模型 card、厂商定价页(同日核对)。

开源权重模型(自托管)

模型 许可证 参数量 维度(可截断) 最大 token MTEB En v2 MTEB Multi v2 RTEB
Qwen3-Embedding-8B Apache 2.0 8B 4096(32~4096) 32K #5 #4 #15
Qwen3-Embedding-4B Apache 2.0 4B 2560(MRL) 32K #7 #6 n/r
Qwen3-Embedding-0.6B Apache 2.0 0.6B 1024(32~1024) 32K #27 #20 n/r
harrier-oss-v1-27b MIT 27B 5376 32,768 n/r #1 n/r
harrier-oss-v1-0.6b MIT 0.6B 1024 32,768 #22 #10 n/r
Nemotron-3-Embed-8B OpenMDW-1.1 8B 4096(可切) 32,768 n/r n/r #2
Nemotron-3.5-Embed-8B OpenMDW-1.1 8.38B 4096(可截断) 32,768 n/r n/r n/r(文本嵌入与 3-Embed 相同)
Octen-Embedding-8B Apache 2.0 8B 4096 32,768 n/r #7 #3
EmbeddingGemma 2 Apache 2.0* 270M 文本 768(512/256/128) 8,192 #59 #40 n/r
BGE-M3 MIT 568M 1024 密集 + 稀疏 + 多向量 8,192 n/r n/r n/r
voyage-4-nano Apache 2.0 ~340M 1024(256/512/2048) 32,000 n/r n/r n/r
all-MiniLM-L6-v2 Apache 2.0 23M 384 256 #150 #152 #85

* EmbeddingGemma 2 的 card 标 Apache 2.0,但要求遵守 Google 的 Gemma 禁止用途政策,且 MTEB 元数据仍标 Gemma 许可证。

托管 API 模型

模型 提供商 维度 最大 token 模态 价格/1M tokens
voyage-4-large Voyage AI 1024(256/512/2048) 32,000 文本 $0.12
voyage-4 Voyage AI 1024(256/512/2048) 32,000 文本 $0.06
voyage-4-lite Voyage AI 1024(256/512/2048) 32,000 文本 $0.02
gemini-embedding-2 Google 3072(128~3072) 8,192 文本/图像/视频/音频/PDF $0.20($0.10 批处理)
gemini-embedding-001 Google 3072(128~3072) 2,048 文本 未列价(榜单 #9/#5/#13)
Cohere Embed 5 Pro Cohere 2048(1536~256) 128K 文本+图像+混合 PDF $0.12
Cohere Embed 5 Fast Cohere 2048(1536~256) 128K 文本+图像 $0.08
text-embedding-3-large OpenAI 3072(可缩短) 8,192 文本 $0.13
text-embedding-3-small OpenAI 1536(可缩短) 8,192 文本 $0.02

关键解读

  • Qwen3-Embedding-8B 是开源默认:Apache 2.0、32K 上下文、每个尺寸都支持 MRL 截断、指令感知(查询侧写 task instruction)、还有配套的 Qwen3-Reranker(0.6B/4B/8B)。榜单标注它 95% 的 En v2 任务、99% 的 Multi v2 任务是零样本,分数不是靠训练测试集刷出来的。
  • harrier-oss-v1-27b 是质量天花板:MIT 许可,MTEB Multi v2 #1(0.7427),检索列 0.7827 全场最高。但权重约 54GB(bf16),不是默认,是”质量上限”。
  • Nemotron-3-Embed-8B 是检索榜王者:RTEB #2(仅次于一个 2048 维 + 进化提示词的 voyage-4-large 配置),OpenMDW-1.1 明确商用。Nemotron 3.5 版加了图像文档,且文本嵌入与 3-Embed 相同——文本用户无感升级,多模态用户保留文本质量。
  • 领域检索:合同、申报、临床笔记 → 把 Nemotron-3-Embed 和 Octen-Embedding 放进候选列表。
  • 许可证陷阱:jina-embeddings-v5-text-small 是 CC BY-NC 4.0(商用需联系 Jina);NV-Embed-v2 是 CC BY-NC 4.0;KaLM-Embedding-Gemma3-12B 是自定义社区许可。Multi v2 前五名里有两个需要法务先看,这是 Apache/MIT 选项最有力的现实论据。

四、托管 API:不想自托管时怎么选

首选:voyage-4-large($0.12/M)

纯检索榜上最强的托管模型:默认 1024 维排 RTEB #6,2048 维 + 进化提示词排 #1。32,000 token 上下文,是 OpenAI 的 4 倍。

Voyage 4 族的杀手锏是共享向量空间:voyage-4-large、voyage-4、voyage-4-lite、开源 voyage-4-nano 四个模型产生兼容向量。你可以用贵的大模型索引全量语料,用便宜的 lite($0.02)或自托管 nano 做查询,无需重索引。Voyage 称这种非对称配置在其测试的 8 个领域都提升了检索。二值输出还能把存储缩小 32 倍(同维度 float32 对比)。

价值之选:text-embedding-3-small($0.02/M)

最便宜的基线,与 voyage-4-lite 同价,但 RTEB #54 vs voyage-4-lite #22——同价下 Voyage 明显更强。适合先做基线,再测大模型是否值得升级。

多模态/全模态:gemini-embedding-2($0.20/M)

唯一把文本、图像、视频、音频、PDF 放进同一个向量空间的模型,100+ 语言,8,192 token。注意:它的向量与 gemini-embedding-001 不兼容,升级必须全量重嵌入。检索输入格式也变了(task: question answering | query: ...),不再是旧的 task_type 参数。

长文档/扫描件:Cohere Embed 5($0.12 Pro / $0.08 Fast)

唯一有 128K token 输入的托管模型,文本+图像+混合 PDF 共用一个空间,Matryoshka 从 2048 降到 256,float/int8/二值输出。Pro 和 Fast 共享空间(可索引用 Pro、查询用 Fast)。Qdrant 的独立测试(标准 nDCG@10,5 个公开 ViDoRe V3 语料,12,969 页图像,1,489 题)给 Embed 5 Pro 打了 65.8(单向量/页),落后 ColEmbed-3B-v2 的 67.5。尚无独立 MTEB/RTEB 分,厂商自报的数字先存疑。

OpenAI 生态:text-embedding-3-large($0.13/M)

MTEB 64.6,8,192 token,3072 维(可缩短)。被 Voyage/Gemini/Cohere 在检索上超越,但生态集成是它的护城河:LLM 调用、微调、assistant API 全在一个平台。MRL 截断到 1024 维存储省 3 倍、检索只降 ~2%。


五、开源模型:自托管的现实选择

默认推荐:Qwen3-Embedding

理由不是”榜首”,而是每个维度都均衡:

  • 8B 版:MTEB En v2 0.7522(#5)、Multi v2 0.7058(#4),Multi 检索列 0.7088;95%/99% 任务零样本
  • 32K 上下文(每个尺寸都有)
  • MRL 截断从全宽到 32 维
  • 指令感知:查询侧写 Instruct: Represent this document for retrieval\nQuery: 通常提升 1-5%
  • 配套 Qwen3-Reranker(0.6B/4B/8B)

硬件估算法:bf16 约 2 字节/参数,8B 需 ~16GB GPU 显存(激活和批处理另算),4B ~8GB,0.6B ~1.2GB。CPU 服务请留在 10 亿参数以下并限制输入长度。从 0.6B 起步,只有自己的评测证明收益才升 4B/8B。

亚 10 亿参数的小模型(CPU/边缘/低延迟)

模型 参数量 维度 上下文 特点
harrier-oss-v1-0.6b 0.6B 1024 32,768 Multi v2 #10,比 Qwen3-0.6B 高 10 位
Qwen3-Embedding-0.6B 0.6B 1024(MRL) 32K En v2 检索列更强(0.6183 vs 0.5845)
EmbeddingGemma 2 270M 768 8,192 Apache 2.0 + 音频/图像同一空间
UltraBERT-Embed-150M 151M 768 32,768 最小 32K 上下文模型,纯英文
granite-embedding-311m-multilingual-r2 311M 768 32,768 Apache 2.0,311M 有 32K 很罕见
BGE-M3 568M 1024 8,192 MIT,密集+稀疏+多向量三合一

如果你的语料是混合的(含 ID、型号、错误码),混合检索是生产默认:向量索引找意图 + 关键词索引找字面匹配。BGE-M3 是唯一单模型同时产出密集、稀疏、多向量表示的——一个模型服务混合索引两侧,MIT 许可。

一个被低估的差距

还在用 all-MiniLM-L6-v2?它的 En v2 检索列只有 0.4292,Qwen3-Embedding-0.6B 是 0.6183。这不是小差距,是换模型级别的提升。


六、四个真实生产场景的独立评测(Milvus CCKM 基准)

MTEB 只测单语种文本检索。Milvus/Zilliz 做了一个 CCKM 基准(Cross-modal, Cross-lingual, Key information, MRL),专门测榜单漏掉的四件事。10 个模型,2025-2026 发布。

1. 跨模态检索(文本→图像,近重复干扰项)

模型 R@1 模态间隙
Qwen3-VL-2B 0.945 0.25
Gemini Embedding 2 0.928 0.73
Voyage Multimodal 3.5 0.900 0.59
Jina CLIP v2 0.873 0.87
CLIP ViT-L-14(2021 基线) 0.768 0.83

开源 Qwen3-VL-2B 打败所有闭源 API。模态间隙(文本/图像簇的距离)是关键:Qwen 的 0.25 约为 Gemini 0.73 的三分之一,意味着文本和图像向量在空间里更接近,跨模态匹配更容易。小间隙 = 可在同一 collection 存文本+图像直接搜;大间隙可能需要重排步骤补偿。

2. 跨语种检索(中文↔英文,166 对平行句 + 152 个硬负样本)

模型 R@1 Easy Medium Hard(成语)
Gemini Embedding 2 0.997 1.000 1.000 1.000
Qwen3-VL-2B 0.988 1.000 1.000 0.969
Jina Embeddings v4 0.985 1.000 1.000 0.969
Voyage Multimodal 3.5 0.982 1.000 1.000 0.938
OpenAI 3-large 0.967 1.000 1.000 0.906
Cohere Embed v4 0.955 1.000 0.980 0.875
BGE-M3 0.940 1.000 0.960 0.844
nomic-embed-text 0.154 0.300 0.120 0.031
mxbai-embed-large 0.120 0.220 0.080 0.031

Gemini 2 是唯一在 Hard 层(成语”画蛇添足”→”gilding the lily”)拿满分的模型——真正的跨语言语义理解,不是模式匹配。英文专注的小模型(nomic/mxbai)在跨语种上几乎归零。

3. 关键信息检索(4K~32K 文档中找一根针)

模型 1K 4K 8K 16K 32K 衰减
Gemini Embedding 2 1.000 1.000 1.000 1.000 1.000 0%
OpenAI 3-large 1.000 1.000 1.000 — — 0%
Jina v4 1.000 1.000 1.000 — — 0%
Cohere v4 1.000 1.000 1.000 — — 0%
BGE-M3 1.000 1.000 0.920 — — 8%
mxbai 0.980 0.600 0.400 — — 58%
nomic 1.000 0.460 0.440 — — 56%

前 7 名在各自上下文窗口内满分;BGE-M3 在 8K 开始滑(0.920);轻量模型(mxbai/nomic)在 4K 字符(约 1000 token)就掉到 0.4-0.6——mxbai 是因为 512 token 窗口直接截断。

4. MRL 维度压缩(3072 → 256 维,质量损失)

模型 256 维质量变化
Voyage Multimodal 3.5 +0.6%
Jina Embeddings v4 +0.5%
Gemini Embedding 2 -0.6%

从 3072 到 256 维是 12 倍存储减少(1 亿向量 float32 约 1.14 TB → 95 GB)。Voyage MM-3.5 和 Jina v4 截断到 256 维损失不到 1%,Gemini 只损失 0.6%——这些模型可以放心压缩。有的模型截断后显著退化,所以截断前先在自己的评测集上对比。


七、长上下文 ≠ 不分块(反直觉但重要)

32K token 窗口让你能把整篇文档嵌成一个向量。但 Qdrant 用 UltraBERT-Embed-150M 测了整篇 vs 512-token 分块(nDCG@10,LongEmbed 基准):

任务 整篇向量 512-token 分块
SummScreenFD(单主题文档) 0.974 0.954
QMSum(多主题会议) 0.536 0.712
2WikiMultihopQA(多跳) 0.929 0.991
MLDR(20 万篇文章) 0.509 0.683
needle 32K recall@1 30% recall@1 56%

结论:整篇向量只赢在”文档就讲一件事”的场景。多主题、多跳、需要精确定位的文档,分块显著更好。32K 窗口是长章节和表格的余量,不是停止分块的理由。此外嵌入整篇会议记录耗时约为分块的 3 倍(NVIDIA L4 上)。


八、语义搜索 vs 向量搜索(50,000 文档实测)

Maximem 自己的 50,000 文档 / 5,000 查询研究,揭示了 embedding 模型在检索里的真实权重:

  • 向量搜索整体领先关键词:MRR@10 0.6320 vs 0.5325
  • 但去掉自然语言→代码数据集后,排名反转:精确匹配关键词 0.5931 vs 向量 0.5614
  • 科学考题上关键词碾压向量:0.8145 vs 0.6142——因为”线粒体”这个词本身就是答案,不是概念的近似

嵌入模型无法修复的失败模式(Galileo/Splunk 文档也确认):

  • “2024 Q3 营收”会检索出所有季度的营收段落,因为年份在向量里权重极低
  • “不含外部依赖的 Python 示例”会检索出含依赖的(排除类查询失效)
  • 多跳 HotpotQA 失败模式:向量找到第一个实体文档,错过第二个的桥接文档——桥接文档不像查询

结论:混合检索是生产默认(关键词找 ID/名称/罕见词 + 向量找释义/意图 + 合并)。更好的 embedding 缩小差距,但不消除这类查询。

延迟:embedding 税

Meilisearch 在 AWS London 实测:本地 all-MiniLM-L6-v2 约 10ms/查询,本地 bge-large-en-v1.5 约 60ms,网络 OpenAI text-embedding-3-small 约 460ms、3-large 约 750ms。搜索即打字(search-as-you-type)场景基本只有本地亚 10 亿模型能胜任。

索引成本同样可观:同一台机器建 50,000 文档关键词索引 2.11 秒,嵌入+索引 161.6 秒——差 76 倍。每次换 embedding 模型都要重付这笔税。


九、RAG 选型七步法(可直接执行)

选 embedding = 约束过滤 + 自己的数据上做实验。榜单是候选名单,你的标注查询是决策。

  1. 先写硬约束:许可证(能否商用)、数据能否出内网、必须支持的语言、每查询延迟预算、月支出上限。这些淘汰的候选比任何榜单都多。
  2. 候选 4 个:取 MTEB En/Multi v2 检索列顶部 + RTEB 顶部,按约束过滤,含 1 个小模型做基线。今天英语商业产品的合理候选:Qwen3-Embedding-4B、harrier-oss-v1-0.6b、Nemotron-3-Embed-8B + 一个托管模型(voyage-4 或 text-embedding-3-small)。
  3. 建 100~200 条标注评测集:来自你真实的问题,每条带答案 chunk 的 ID。包含精确标识符、释义、答案在表格里的、以及几条无答案的。
  4. 评检索而非答案:用 nDCG@10(正确 chunk 是否靠前)、Recall@10(是否出现)、MRR@10(第一个正确命中多高)。答案质量取决于生成器和提示词,单独测。
  5. 同时测延迟、存储、价格:100 万向量 @1024 维 float32 约 4.1GB,int8 约 1GB,二值约 128MB;@4096 维 float32 约 16.4GB。嵌入 10 亿 token:$20(text-embedding-3-small / voyage-4-lite)、$60(voyage-4)、$80(Embed 5 Fast)、$120(voyage-4-large / Embed 5 Pro)、$130(text-embedding-3-large)、$200(gemini-embedding-2)。选评测能容忍的最小模型 + 最小维度。
  6. 上下文长度匹配分块,而非反向:32K 窗口 ≠ 嵌 32K chunk;一个向量模糊整个文档的所有事实。大多数 RAG 流水线在段落/章节级分块检索最佳。
  7. 为下一个模型做准备:原始文本和 chunk ID 与向量分开存储,这样重嵌入是批处理任务而非迁移。

最小评测脚本(Sentence Transformers):

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
from sentence_transformers import SentenceTransformer
import numpy as np

# queries: list[str]; gold: list[int] (答案 chunk 索引); chunks: list[str]
def evaluate(model_id, queries, gold, chunks, k=10, **query_kwargs):
model = SentenceTransformer(model_id)
doc_vecs = model.encode(chunks, normalize_embeddings=True, batch_size=32)
q_vecs = model.encode(queries, normalize_embeddings=True, **query_kwargs)
ranks = np.argsort(-(q_vecs @ doc_vecs.T), axis=1)[:, :k]
hits = [np.where(r == g)[0] for r, g in zip(ranks, gold)]
recall = np.mean([len(h) > 0 for h in hits])
mrr = np.mean([1.0 / (h[0] + 1) if len(h) else 0.0 for h in hits])
return {"recall@10": recall, "mrr@10": mrr}

print(evaluate("Qwen/Qwen3-Embedding-0.6B", queries, gold, chunks, prompt_name="query"))

何时微调 / 用领域模型

语料充满通用模型少见的词汇(药名、法规引用、内部产品码)时,先找领域模型、再微调通用模型。领域差异真实存在:2026-09 AIMultiple 的 11 个开源模型基准(金融/法律/技术支持/医疗各 50 题,nDCG@10 单次运行)里,BGE Large EN v1.5 领跑金融子集、总分排第四。微调通常对领域内查询提升 10-30%,前提是 500-1000 条标注的查询-文档对。


十、切换成本与数据主权

换模型 = 重嵌入一切,因为不同模型的向量不可比。Google 直接说明:gemini-embedding-001 和 gemini-embedding-2 产生不兼容空间,升级必须重嵌所有现有数据。

三个厂商现在卖”同族共享空间”:

  • Voyage:voyage-4 全系列向量兼容(含开源 nano)
  • Cohere:Embed 5 Pro 和 Fast 共享空间(一档查询另一档的索引有少量损失)
  • NVIDIA:Nemotron 3.5 Embed-8B 与 Nemotron-3-Embed-8B 产生相同文本嵌入,加图像文档不强制文本重嵌

数据主权另一半:托管 API 会收到你的每个 chunk 和每次查询。Google 定价页写免费层输入用于改进产品、付费层不用于训练。自托管把文本留在内网,代价是 GPU 服务、升级、on-call——这个权衡应该被工程经理显式定价,因为每次模型升级都要重来。


十一、2026 年的新变化(9-10 月五连发)

9 月 26 日以来五个值得知道的新模型,各自改变了什么:

模型 发布 改变什么
EmbeddingGemma 2 10/6 许可证从 Gemma 条款移到 Apache 2.0,输入 2K→8K,768 维覆盖文本/代码/图像/视频/音频,270M 文本骨干
Cohere Embed 5 9/30 Pro/Fast 两档共享空间,128K 输入,图文融合,Matryoshka 2048→256,float/int8/二值
Nemotron 3.5 Embed 10/20 给 Nemotron-3 加图像文档,文本嵌入相同(文本用户无感),1B 版同步
pplx-embed-v2 10/13 Perplexity MIT 许可的 late-interaction 模型,每 token 一个 128 维向量,直接嵌页面图像免 OCR
UltraBERT-Embed-150M 10/10 151M、Apache 2.0、纯英文,32,768 token 单向量

pplx-embed-v2 的存储陷阱:每页图像约变成 1,700 个向量、float32 约 856KB/页;1-bit 量化砍到 40KB 但保留 96.5% 质量(重排前)。页面图像得分高,但先算索引价格再选。

EmbeddingGemma 2 的落差:card 自报 68.46(En v2)比 v1 高,但榜单独立运行 0.6753(#59)低于 v1 的 0.6967(#34)。自报和独立运行都真实,差距来自谁跑的、怎么跑的。另外 card 警告:float16 下返回 NaN 或静默退化嵌入,用 bfloat16 或 float32。

榜单本身也在动:harrier-oss-v1-0.6b 从无分到 En v2 #22(比 Qwen3-0.6B 高 5 位);jina-embeddings-v5-text-small 从 9/26 的 #15 变成只有 38/41 任务无完整分——排名变化可能是覆盖率变化,模型没变。


十二、配图说明

文章封面图(embedding-models-overview-2026.png)为 Matplotlib 手绘架构图,深色背景蓝紫配色,概括了本文的选型决策路径:开源 vs 托管两条路线 → 硬约束过滤 → 场景推荐组合 → 五个关键决策点。


❓ 常见问题(FAQ)

Q: 2026 年最好的 Embedding 模型是哪个?

没有单一答案。按用途:通用 RAG 首选开源 Qwen3-Embedding-8B(Apache 2.0,MTEB Multi #4,95% 零样本);托管 API 首选 voyage-4-large($0.12/M,RTEB 2048 维 #1);跨语种+多模态 Gemini Embedding 2(跨语种 R@1 0.997,唯一 Hard 层满分);长文档 Cohere Embed 5(128K 输入)。正确做法是约束过滤后在自己的 100-200 条查询上实测,而非看总分。

Q: 开源模型能用于生产 RAG 吗?

能。截至 2026-10-27,MTEB Multi v2 榜首是微软 MIT 许可的 harrier-oss-v1-27b,开源 Qwen3-Embedding-8B 排 #4 紧追 gemini-embedding-001。开闭源之争没有操作意义,重要的是谁托管、如何版本化、许可证是否允许商用。

Q: 可以用不同模型做查询和文档吗?

一般不能。每个模型有独立向量空间,查询向量与另一模型的文档向量不可比。例外是设计为共享空间的家族:Voyage 4 全系列、Cohere Embed 5 Pro/Fast、NVIDIA Nemotron 3.5/3-Embed。同一模型的查询/文档前缀不同是可以的,且往往必须。

Q: 维度大小影响 RAG 吗?

主要影响成本。存储和搜索成本随维度线性增长,3072 维向量占用是 1024 维的 3 倍。MRL(Matryoshka)训练让前 N 维独立有效:3072→256 维省 12 倍存储,Voyage MM-3.5/Jina v4 损失 <1%。但在截断前先在评测集上对比截断尺寸 vs 全尺寸。

Q: 应该多久重新评估一次 embedding 模型?

MTEB 榜单每 3-4 个月显著变动,新模型通常比前代检索提升 3-5%。务实节奏:每 6 个月用当前前三名重跑你的检索评测。若新模型在你语料上超过当前模型 5% 以上,规划迁移;低于 5%,重嵌入成本很少回本。

Q: 需要微调 embedding 模型吗?

通用语料一般不值得。专业领域值得,通常提升 10-30% 的领域内检索,前提是有 500-1000 条你真实语料的查询-文档对。没有就先建评测集,用强通用模型起步。


🔗 相关文章