Forum

Notifications
Clear all

RAG 里的 Embedding 模型怎么选?中文场景有什么推荐?

0 帖子
1 Users
0 Reactions
13 查看
0
[#12]
Topic starter

【官方常见问题精选】欢迎在下方补充你的经验或追问。

嵌入模型决定了“能不能检索到对的内容”,往往比生成模型更影响 RAG 的整体效果。

选择时考虑几点:

  • 语言覆盖:中文或中英混合的资料,应选择明确支持中文和多语言的模型。只针对英文训练的模型,在中文上通常表现较差。
  • 常见候选:BGE 系列(如 bge-m3,支持多语言和较长文本)、Qwen 的 Embedding 系列、multilingual-e5 系列等。版本更新较快,请以各自官方页面和你的实测为准。
  • 体积与速度:越大的嵌入模型越准,但建库越慢。文档量很大时,要考虑耗时。
  • 最大输入长度:超过限制的文本会被截断,切分块时不要超过它。
  • 向量维度:维度越高,存储和检索成本越高。

使用要点:

  • 索引和查询要用同一个嵌入模型,换模型后必须重建索引。
  • 有些模型要求为“查询”和“文档”加不同的前缀指令,请阅读模型卡说明,漏掉会影响效果。
  • 在 Ollama 中可以直接拉取嵌入模型并通过 embeddings 接口调用。

验证方法:准备 20~30 个典型问题,并标出应该命中的文档片段,比较不同嵌入模型的命中率。有条件再加一个重排序模型。

你们用的是哪个嵌入模型?效果怎么样?欢迎分享。


Share: