Ch13 RAG

概念-重排序

一句话理解

重排序(Reranking)是 RAG 系统中的”精挑细选”环节:从初步检索返回的几十条结果中,用更精确的模型重新排序,挑出最相关的 Top-K 送给 LLM。

为什么需要重排序

初步检索(Embedding 相似度搜索)追求速度,但精度不够:

  • 检索返回 50 条结果,大多”有点相关但不够好”
  • 直接全塞给 LLM 会浪费 token 且稀释重点

重排序用一个更精确但更慢的模型,对这 50 条重新打分排序,只取最相关的 3-5 条。

比喻:海选(初步检索)→ 复试(重排序)→ 决赛(生成答案)。海选快但粗,复试慢但精。

常见重排序模型

模型类型特点
bge-reranker-v2Cross-Encoder开源,中文效果好
Cohere RerankAPI效果好,需付费
ColBERT延迟交互在速度和精度间平衡
RankLLMLLM-based用 LLM 本身排序

2026 年建议

  • 重排序是 RAG 系统的”性价比最高”的优化——加一个 reranker,检索质量提升 10-20%,成本增加不到 5%
  • 中小规模用 bge-reranker,企业级用 Cohere Rerank

相关笔记

来源

关联4

知识图谱

局部图谱 · 点节点跳转