大模型应用开发 / 知识点
RAG 检索召回与评估指标速查
语料与索引准备
供 RAG 检索的原始知识集合,可以来自 Wiki、技术文档、数据库导出或代码资料;语料质量、时效性和完整度会直接限制后续检索效果。
Corpus 语料库
Corpus 是供 RAG 检索系统使用的原始知识集合,决定系统“能检索到什么”,其覆盖范围、准确性、时效性和完整度会直接影响最终回答质量。
成立边界
Corpus 关注的是整个可检索知识集合,不是其中某一篇文档或某一个 Chunk。Wiki、技术文档、数据库导出、代码资料等都可以成为语料来源,但只有经过整理并纳入检索管道的内容,才属于实际使用的 Corpus。
语料库需要明确范围和版本边界。例如只收录某个产品的当前版本文档,可以避免旧版本内容进入检索结果;同时还要处理重复、过期、错误和权限不应暴露的内容。
与相邻概念的区别
| 概念 | 关注范围 | 主要作用 |
|---|---|---|
| Corpus | 整体知识集合 | 决定系统可检索的知识边界 |
| Document | Corpus 中的逻辑内容单元 | 承载一篇文章、页面、文件或记录 |
| Chunk | Document 拆分后的检索单元 | 参与向量或关键词检索并返回上下文 |
三者通常形成“Corpus → Document → Chunk”的组织关系。Corpus 太杂或缺失关键资料时,仅优化 Chunk 切分或召回算法也无法弥补知识覆盖不足。
最小例子
一个售后问答 RAG 系统收录产品手册、故障排查文档和版本发布说明,这三类资料合起来可以构成 Corpus。其中一份《路由器故障排查》是一个 Document,拆出的“无线连接异常”片段则是 Chunk。
常见误解
常见误解是把“向量数据库中的全部记录”直接等同于 Corpus。实际 Corpus 更强调业务上允许被检索的知识全集;向量库只是存储和检索这些知识的一种实现。
进入 RAG 管道的一个逻辑内容单元,通常对应文章、页面、文件或记录;文档一般还会继续拆成多个 Chunk,而不是整体直接用于向量检索。
Document 文档
Document 是 RAG 语料库中的一个逻辑内容单元,通常对应一篇文章、一个页面、一个文件或一条业务记录,并作为后续清洗、切分和元数据管理的基本对象。
成立边界
Document 应保持一个相对完整的语义边界,例如一篇产品说明、一页 Wiki 或一份故障处理记录。它通常不会直接作为向量检索的最小单元,而是进一步拆分为多个 Chunk,以便提高召回粒度。
一个 Document 最好能保留稳定的身份信息,例如文档 ID、来源、标题、版本和更新时间。这样检索命中 Chunk 后,系统仍能追溯其原始上下文,并在文档更新时定位需要重新处理的内容。
与相邻概念的区别
| 概念 | 关系 | 典型用途 |
|---|---|---|
| Corpus | Document 的集合 | 定义整个可检索知识范围 |
| Document | Corpus 中的逻辑内容单元 | 管理原始内容及其元数据 |
| Chunk | Document 的内容片段 | 作为主要检索与上下文召回单元 |
因此,Document 与 Chunk 不是同义词。一个 Document 可以拆成多个具有顺序、标题或来源信息的 Chunk;是否切分以及如何切分,应根据内容结构和检索需求决定。
最小例子
一篇名为《数据库连接池配置指南》的 Markdown 文件可以作为一个 Document。清洗后,它可能按“连接参数”“超时设置”“故障排查”等语义区域拆成多个 Chunk。用户询问连接超时时,检索器更适合召回相关 Chunk,而不是把整篇文档全部塞入上下文。
常见误解
常见误解是认为“文件就是 Document”。文件只是常见的来源形式;数据库记录、网页内容或 API 返回的知识条目同样可以建模为 Document。关键在于它是否被当作一个独立、可追踪的逻辑内容单元。
从原始文档中切出的最小检索单元,通常独立生成 Embedding 并参与召回;切得过碎会丢失上下文,过大又容易混入无关信息。
Chunk 文本块
Chunk 是从原始文档切分出的检索单元,通常以它为粒度生成 Embedding、参与向量召回,并把相关内容交给后续生成环节。
边界
Chunk 不等于固定长度的字符串,也不一定等于一段自然语言。实际切分可以依据标题、段落、列表、代码块或语义边界,使一个 Chunk 尽量表达相对完整的知识。
一个合适的 Chunk 应同时满足两个条件:能够独立提供回答问题所需的关键上下文,又不会带入大量与当前问题无关的信息。切分过碎容易丢失定义、条件和上下文;切分过大则会降低检索粒度并增加无关内容。
与相邻概念的区别
| 概念 | 主要回答的问题 |
|---|---|
| 原始文档 | 知识原本以什么完整形式存在 |
| Chunk | 检索时以多大的语义单元参与召回 |
| Embedding | 如何把 Chunk 表示成可计算相似度的向量 |
| Document | 在业务或存储层面如何标识整份来源内容 |
Chunk 是内容切分结果;Embedding 是对 Chunk 的向量化表示,两者不是同一个对象。
最小例子
一篇关于 HTTP 重试的文档包含“适用场景”“退避策略”和“幂等性注意事项”。合理切分时,可以让每个主题形成独立 Chunk,并保留必要的小节标题;不要把标题单独切成一个几乎没有语义的 Chunk。
常见误解
常见误解是认为“Chunk 越小,检索越精准”。实际效果取决于问题粒度、文档结构和召回策略;当一个答案依赖相邻段落之间的关系时,过度切碎反而会降低可用性。
速查:Chunk 的目标不是机械切段,而是让召回单元本身携带足够上下文。
单个 Chunk 的目标长度,常按 token、字符或段落控制;需要在语义完整性和检索粒度之间平衡,没有适用于所有知识库的固定最优值。
Chunk Size
Chunk Size 是单个 Chunk 的目标长度,用来控制每个检索单元包含多少内容;它决定了检索粒度、上下文完整性以及单次召回带入的文本规模。
成立边界
Chunk Size 可以按 token、字符、词数或结构化段落计算,但这些单位不可直接等价。不同模型的 token 化方式不同,同样长度的中文、英文、代码和表格可能占用不同数量的 token。
实际切块时,长度只是约束之一,还要结合标题层级、段落边界、代码块、列表以及业务语义。常见做法是设置目标长度,并允许自然边界在一定范围内浮动。
与 Chunk 的区别
| 概念 | 含义 |
|---|---|
| Chunk | 实际切出来的一个文本块 |
| Chunk Size | 对单个文本块长度的控制尺度或目标值 |
| Chunk Overlap | 相邻 Chunk 之间保留的重复上下文 |
因此,Chunk Size 描述的是切块策略中的长度参数,而不是某个具体 Chunk 的固定属性。
最小例子
假设将产品手册按段落切分,并把单个 Chunk 的目标长度控制在约 500 token。一个包含完整“配置条件、示例和限制”的小节即使略微超过目标值,也可能比强行截断更合理;反过来,如果一个小节远大于目标值,则可以在子标题或自然段边界处分拆。
常见误解
常见误解是把某个固定数值当成所有知识库的最优 Chunk Size。技术文档、FAQ、法律文本和代码的结构差异很大,应结合检索问题、上下文长度和召回评测结果调整。
速查:Chunk Size 解决的是“一个检索单元装多少内容”,最终应以语义完整性与检索效果的实测平衡为准。
相邻 Chunk 之间重复保留的内容,用于减少切分边界导致的信息断裂;重叠过大会增加索引体积,并产生大量相似或重复召回结果。
Chunk Overlap
Chunk Overlap 是切分文档时,在相邻 Chunk 之间重复保留的一段内容,用来降低信息被边界截断后无法完整召回的风险。
边界
Overlap 的核心是相邻 Chunk 的内容重复,通常按字符数、Token 数或其他切分单位设置。它不是额外生成的新内容,而是让前一个 Chunk 的尾部同时出现在后一个 Chunk 的开头。
Overlap 过小,跨边界的句子、条件或上下文可能被拆开;Overlap 过大,则会扩大索引规模,并提高相似 Chunk 同时被召回的概率。合适的值取决于文本结构、Chunk 大小和检索任务。
与 Chunk Size 的区别
| 概念 | 作用 | 主要影响 |
|---|---|---|
| Chunk Size | 决定单个 Chunk 能容纳多少内容 | 上下文完整度、索引数量 |
| Chunk Overlap | 决定相邻 Chunk 重复多少内容 | 边界连续性、重复召回 |
例如 Chunk Size 为 500 Token、Overlap 为 100 Token 时,前一块末尾约 100 Token 会同时出现在后一块开头;这里的 100 Token 是重叠量,不是新增加的独立内容。
最小例子
原文被切成连续片段:A B C D E、D E F G H,其中 D E 同时存在于两个 Chunk 中,这部分就是 Chunk Overlap。
常见误解
Overlap 并不是越大越好。它主要解决切分边界造成的上下文缺失;当重复内容已经足以覆盖关键语义边界后,继续增加 Overlap 通常只会带来更大的索引和更多近似重复结果。
附加在文档或 Chunk 上的结构化属性,如标题、内容类型、章节、版本和更新时间;既可用于过滤,也可用于排序加权和结果溯源。
Metadata 元数据
Metadata 元数据是附加在文档或 Chunk 上、用于描述其来源、分类、版本或业务属性的结构化信息,可在检索时帮助过滤、排序、加权和溯源。
成立边界
Metadata 本身通常不是主要的正文语义内容,而是围绕正文提供可计算的上下文。例如 title、content_type、chapter、version 和 updated_at 可以帮助系统判断某个 Chunk 属于什么文档、哪个版本以及何时更新。
元数据只有在字段定义稳定、值可比较且与检索目标相关时才有实际价值。字段混乱、类型不一致或内容随意填写,会使过滤和排序规则失去可靠性。
与正文内容的区别
| 对象 | 主要回答的问题 | 典型用途 |
|---|---|---|
| 正文内容 | “这段内容说了什么?” | 语义检索、答案生成 |
| Metadata | “这段内容属于什么、来自哪里、何时更新?” | 过滤、排序、溯源 |
例如检索“部署说明”时,可以先用 content_type=guide 过滤技术指南,再对正文内容进行相似度检索;回答生成后还能依据 title 和 updated_at 说明来源。
最小例子
一个 Chunk 的正文是“使用 Compose 启动数据库服务”,其 Metadata 可以记录:content_type=guide、chapter=deployment、version=v2。正文决定它讲了什么,Metadata 帮助系统判断它属于哪里以及是否符合当前筛选条件。
常见误解
Metadata 不是把所有重要内容都搬到字段里。过度依赖 Metadata 会造成字段维护成本和过滤规则复杂度上升;真正用于语义判断的关键信息,仍应保留在可检索的正文内容中。
查询与召回
把文本映射成固定维度的数值向量,使语义相近的内容在向量空间中更接近;通常用于 Dense Retrieval,但不等同于最终相关性判断。
Embedding 向量表示
Embedding 向量表示是把文本等对象编码为固定维度的数值向量,使系统能够用向量空间中的距离或相似度表达内容之间的语义接近程度。
边界
Embedding 主要负责表示语义特征,不是直接判断检索结果是否满足业务需求。向量通常用于 Dense Retrieval 的候选召回,再由重排器、规则或人工评估判断相关性。
向量距离的具体含义取决于模型和相似度计算方式,常见方式包括余弦相似度、点积和欧氏距离。不能仅凭“距离更近”就断言答案质量更高。
与关键词检索的区别
| 概念 | 主要依据 | 更容易捕获 |
|---|---|---|
| Embedding 向量表示 | 语义表示后的向量关系 | 同义表达、语义相近内容 |
| 关键词检索 | 词项及其匹配关系 | 精确术语、编号、专有名词 |
| 重排 | Query 与候选内容的相关性模型 | 更细粒度的相关性排序 |
实际 RAG 系统中,Embedding 与关键词检索可以组合使用,以同时覆盖语义匹配和精确词项匹配。
最小例子
用户 Query 是“如何恢复设备重启后的定时任务”。一篇资料写“启动完成后重新注册闹钟”,虽然没有出现完全相同的措辞,也可能因为语义相近而获得较高的向量相似度。
但另一篇资料即使向量相似度更高,也不一定更相关。例如它只讨论“创建闹钟”,却没有涉及设备重启后的恢复逻辑。此时仍需后续相关性判断。
常见误解
常见误解是把 Embedding 当成“相关性评分器”。更准确的理解是:Embedding 负责把内容转换成便于比较的表示,召回排序依据与最终答案是否正确是两个不同问题。
负责根据用户 Query 从知识库选出候选内容的组件,可以基于向量、关键词或混合策略实现;它决定哪些资料有机会进入后续重排阶段。
Retriever 检索器
Retriever 检索器是根据用户 Query 从知识库中筛选候选内容的组件,它决定哪些资料能够进入后续的重排、生成或上下文拼接环节。
边界
Retriever 的核心职责是召回候选集,不是保证最终排序或答案正确。候选集里只要没有真正需要的资料,后续重排通常也无法凭空补回缺失内容,因此召回覆盖范围是检索链路的重要质量边界。
Retriever 可以使用不同策略:向量检索适合语义相似内容,关键词检索适合精确术语和标识符,混合检索则组合两者的候选结果。实际系统还可能叠加过滤条件,例如文档权限、租户、时间范围或内容类型。
与重排器的区别
| 概念 | 主要任务 | 输入与输出 |
|---|---|---|
| Retriever | 从较大知识库中召回候选 | Query → 候选集合 |
| Reranker | 对候选进行更细粒度相关性排序 | Query + 候选 → 排序结果 |
| Generator | 基于选定上下文生成回答 | Query + 上下文 → 答案 |
因此,Retriever 更关注“不要漏掉有用资料”,Reranker 更关注“把最相关资料排在前面”。
最小例子
知识库有 10 万个文档,用户询问“设备重启后如何恢复定时任务”。Retriever 先从这 10 万个文档中召回其中若干候选,例如包含闹钟恢复、启动广播、任务持久化等内容的资料;随后重排器再对候选进行精细排序。
评估 Retriever 时,不能只看返回结果是否“看起来相关”,还要检查真正相关的资料是否进入候选集。例如正确资料排名很低与完全没有被召回,是两个不同的问题。
常见误解
常见误解是把 Retriever 直接等同于“最终搜索结果”。在典型 RAG 链路中,Retriever 只是候选召回环节;后续仍可能经过重排、过滤、上下文裁剪,最终进入模型的内容未必与原始召回列表完全相同。
基于 Embedding 向量相似度进行检索,擅长匹配措辞不同但语义接近的问题和资料;对精确标识符、版本号和代码符号不一定占优。
Dense Retrieval
Dense Retrieval 是将查询和文档编码为稠密向量,再依据向量相似度召回语义相关内容的检索方式。
成立边界
它依赖 Embedding 模型把文本映射到连续向量空间,检索时通常计算查询向量与候选文档向量的相似度。它更关注整体语义,因此即使查询与资料使用了不同措辞,也可能被召回。
Dense Retrieval 的效果取决于 Embedding 模型、文本切分、向量库以及相似度计算方式。它并不保证字面关键词一定匹配,对精确错误码、版本号、类名或配置键这类离散标识符,单纯依赖向量相似度可能出现遗漏或排序不稳定。
与相邻概念的区别
| 概念 | 主要依据 | 更适合的匹配 |
|---|---|---|
| Dense Retrieval | 向量语义相似度 | 同义改写、自然语言问题、语义相关内容 |
| Sparse Retrieval | 词项及其权重 | 错误码、类名、配置键、精确术语 |
| Hybrid Retrieval | 稠密与稀疏信号结合 | 同时需要语义匹配与精确词项匹配 |
因此,Dense Retrieval 的核心优势是“意思接近也能找到”,而不是“查询中的每个词都必须出现”。
最小例子
用户查询“怎么让服务在数据库准备好后再启动”,资料写的是“使用健康检查控制应用依赖条件,避免数据库尚未 Ready 时建立连接”。虽然两段文字没有完全相同的词,但语义接近,Dense Retrieval 可以通过向量相似度将其关联起来。
相反,用户查询 ERR_CONNECTION_RESET 时,如果文档只出现另一个含义相近的网络错误描述,向量模型可能认为两者相关,却未必能稳定召回包含该精确错误码的资料。
常见误解
常见误解是把 Dense Retrieval 等同于“理解文本”。它实际上是在 Embedding 模型定义的向量空间中进行相似度匹配,召回结果仍会受到模型能力、领域语料和切分方式影响。对于需要精确命中的标识符类查询,通常应考虑与 Sparse Retrieval 结合。
依据词项及其权重进行稀疏表示检索,强调关键词是否真正出现;对于错误码、类名、配置键和专有术语,往往比纯向量检索更稳定。
Sparse Retrieval
Sparse Retrieval 是依据文本中的离散词项及其权重进行检索,并利用词项重合度或相关性分数召回文档的检索方式。
成立边界
稀疏表示通常只有少量词项具有非零权重,因此检索结果会明显受到查询词是否出现在文档中影响。经典方法包括 TF-IDF 和 BM25;实际系统中也可能使用其他倒排索引与词项评分方案。
这种方法特别适合要求精确匹配的查询,例如错误码、类名、配置键、版本号和专有术语。它的局限也很明确:如果用户和文档表达的是同一意思,却使用完全不同的词汇,单纯依赖词项匹配可能无法建立稳定关联。
与相邻概念的区别
| 概念 | 主要依据 | 更适合的匹配 |
|---|---|---|
| Sparse Retrieval | 词项及其权重 | 精确术语、错误码、标识符、关键词 |
| Dense Retrieval | 向量语义相似度 | 同义改写、语义相关问题 |
| Hybrid Retrieval | 稀疏与稠密信号结合 | 兼顾精确匹配和语义召回 |
Sparse Retrieval 关注“哪些词真正出现以及它们有多重要”,Dense Retrieval 更关注“整体语义是否接近”。
最小例子
查询 Redis connection refused 时,资料中明确出现 Redis、connection 和 refused,稀疏检索可以直接利用这些词项建立较强的相关性。查询一个明确的 Java 类名或配置键时,这种精确词项信号通常也很有价值。
而查询“缓存服务拒绝连接该怎么排查”,如果资料使用的是“Redis connection refused”,两者语义相近但措辞不同,Sparse Retrieval 可能因为词项重合有限而降低相关性,此时 Dense Retrieval 可以补充语义召回。
常见误解
常见误解是认为 Sparse Retrieval 只是“按关键词搜索”,但它通常不只是判断词是否存在,还会结合词频、文档频率等信号计算相关性。另一个误解是认为它天然比 Dense Retrieval 更准确;实际效果取决于查询类型,精确标识符与自然语言问题往往需要不同的召回信号。
经典文本相关性排序算法,会综合词频、逆文档频率和文档长度计算匹配程度;常作为 Sparse Retrieval 或 Hybrid Search 的关键词侧基础。
BM25
BM25 是一种基于词项匹配的文本相关性排序方法,会综合词频、逆文档频率和文档长度判断查询与文档的相关程度,常用于稀疏检索和 Hybrid Search 的关键词侧。
边界
BM25 主要利用查询词与文档词面的重合关系,不直接理解同义词、上下文或语义关系。它通常会抑制过长文档带来的匹配优势,并限制单个词频持续增加后的边际收益。
与语义检索的区别
| 概念 | 主要依据 | 更擅长处理 |
|---|---|---|
| BM25 | 词项、词频、IDF、文档长度 | 精确术语、产品名、错误码、专业关键词 |
| Semantic Search | 向量语义相似度 | 同义表达、改写、概念相关内容 |
BM25 对“Access Token”这类明确术语通常很直接,但对“登录凭证失效”和“Token 过期”这样的不同表述,不会仅凭语义相近就自动建立匹配。
最小例子
查询词为“Access Token 过期”时,包含完整术语的文档会因词项匹配获得较高相关性;若另一篇文档只写“登录凭证失效”,虽然语义可能接近,但 BM25 不会因为理解了这个同义关系而必然提高其排序。
常见误解
BM25 不是简单的“命中词越多,分数越高”。词项在整个文档集合中的稀有程度、词频的饱和特性以及文档长度都会影响最终得分,因此长文档并不会仅因包含更多词就自然占优。
按语义而不是只按字面关键词寻找相关内容,例如“登录凭证失效”可以命中“Access Token 过期”;通常依赖 Embedding 实现。
Semantic Search
Semantic Search 是按查询与内容表达的语义相似程度寻找相关结果的检索方式,因此即使查询词与文档词面不同,也可能命中表达相近的内容。
成立边界
语义检索通常先使用 Embedding 将查询和文档转换为向量,再依据向量相似度进行召回或排序。它依赖嵌入模型对领域术语和上下文的表示能力,并不意味着任何意思相近的文本都一定能被准确匹配。
与关键词检索的区别
| 概念 | 主要依据 | 典型优势 |
|---|---|---|
| 关键词检索 | 字面词项匹配 | 精确术语、编号、错误码、名称 |
| Semantic Search | 语义向量相似度 | 同义表达、自然语言改写、概念匹配 |
因此,“登录凭证失效”可能命中“Access Token 过期”,而关键词检索未必能直接得到同样的关联。
最小例子
查询“登录凭证失效”时,系统可以把查询编码成向量,再与包含“Access Token 过期”的文档向量比较;如果两者在嵌入空间中足够接近,该文档就可能进入结果集。
常见误解
Semantic Search 不等于“完全理解文本”。拼写错误、罕见专业术语、数字编号以及要求精确匹配的内容,可能更适合由关键词检索或 Hybrid Search 补充。实际效果还会受到 Embedding 模型、分块方式和相似度计算方法的影响。
同时使用向量语义检索和关键词检索,再合并候选结果;适合既包含自然语言概念又包含类名、命令、错误码等精确词项的技术知识库。
Hybrid Search
Hybrid Search 是同时执行向量语义检索与关键词检索,再将两路候选结果合并排序的召回方式。
边界
它适用于查询中既有“意思相近即可匹配”的自然语言,又包含必须精确命中的类名、命令、错误码或产品术语的场景。两路召回解决的是不同类型的匹配问题:向量检索关注语义相关性,关键词检索关注词项出现及其精确程度。

与单路检索的区别
| 方式 | 主要能力 | 更容易处理的问题 |
|---|---|---|
| 向量检索 | 语义相似匹配 | 同义表达、自然语言描述、概念改写 |
| 关键词检索 | 词项精确匹配 | 类名、命令、错误码、专有名词 |
| Hybrid Search | 融合两类信号 | 同时包含语义与精确词项的技术查询 |
混合召回并不意味着简单把两份结果直接拼接。实际系统通常还需要统一候选、去重和重排,否则某一路的结果可能大量挤占最终名额。
最小例子
用户查询“Spring Boot 启动时报 BeanCreationException,怎么排查依赖注入失败”,其中“怎么排查依赖注入失败”适合语义检索,而 BeanCreationException 又需要关键词精确命中。Hybrid Search 可以让两种信号共同参与召回。
常见误解是认为只要同时调用两种检索器就算完成混合召回。真正的边界在于:两路候选必须进入统一的结果处理与排序过程,否则只是两个独立召回结果的并列展示。
结合会话和业务上下文,把过短、含代词或表达模糊的用户问题改写成可独立检索的 Query;对“这个为什么”一类追问尤其重要。
Query Rewrite
Query Rewrite 是利用当前问题以及必要的会话、业务上下文,把省略信息、代词或口语化表达改写成语义完整、可独立检索的查询。
成立边界
改写的目标是补全检索所需信息,不是替用户改变问题意图。典型输入包括“这个为什么”“那怎么修”“刚才那个接口还能重试吗”等依赖前文才能理解的追问。独立且信息完整的 Query 通常无需改写,过度改写反而可能引入错误限定条件。

与原始 Query 的区别
| 类型 | 特征 | 处理方式 |
|---|---|---|
| 完整 Query | 对象、动作和约束基本明确 | 可直接检索 |
| 上下文依赖 Query | 含“这个、它、刚才那个”等代词 | 需要结合会话消解 |
| 信息缺失 Query | 缺少关键对象或范围 | 只能补足已有上下文,不应凭空猜测 |
Query Rewrite 与用户问题扩写不同。扩写可以加入更多相关词,但查询重写首先要求结果能够在脱离当前对话后仍保持原问题的指代关系与核心意图。
最小例子
上一轮用户问“Redis 集群连接超时怎么排查?”,下一轮只问“这个为什么会在发布后出现?”。重写后可以得到“Redis 集群连接超时为什么会在发布后出现?”。其中“这个”被前文的具体问题替换,但“为什么”这一因果意图保持不变。
重写时不应凭空补入“生产环境”“三节点”等前文不存在的条件。正确的改写只使用可验证的上下文信息,并尽量减少新增假设。
为原始 Query 补充同义词、别名、缩写或相关技术表达,以覆盖知识库中不同写法;适合术语存在中英文、简称或版本差异的场景。
Query Expansion
Query Expansion 是在不改变原始检索意图的前提下,为 Query 补充同义词、别名、缩写、术语变体或相关表达,从而扩大潜在匹配范围。
成立边界
它解决的是同一意图存在多种文字表达导致的召回遗漏,而不是改变用户真正想查询的问题。扩展词应与原意保持语义相关,否则可能把无关文档带入候选集,降低检索精度。
与相邻方法的区别
| 方法 | 主要变化 | 典型作用 |
|---|---|---|
| Query Expansion | 扩充原 Query 的词汇表达 | 覆盖同义词、别名、缩写等写法 |
| Query Rewrite | 重写 Query 的表达方式 | 改善歧义、补全隐含条件 |
| Multi-Query Retrieval | 生成多个独立 Query 分别检索 | 从多个角度扩大召回覆盖 |
Query Expansion 通常仍围绕一个原始 Query 工作;Multi-Query Retrieval 则明确产生多路查询并分别执行检索。
最小例子
原始 Query 为“JWT 登录失效处理”,可补充“JSON Web Token”“token 过期”“令牌失效”等术语变体,使文档中使用不同叫法但表达同一问题的内容更容易进入候选集。
常见误解是把“增加越多关键词”当成更好的扩展。实际应优先控制语义相关性与噪声,否则召回范围扩大后,排序阶段反而更难区分真正相关的文档。
把一个问题改写为多个不同角度的查询分别检索,再合并结果;主要用于提高召回覆盖率,但会增加检索次数、成本和去重压力。
Multi-Query Retrieval
Multi-Query Retrieval 是把一个原始问题改写成多个语义角度不同但目标一致的 Query,分别执行检索,再合并并去重候选结果。
成立边界
这种方法适合原问题存在多种合理表达、单一路径可能遗漏相关文档的场景。多个 Query 必须保持相同的检索意图;若改写后引入新的业务条件,就不再只是扩大覆盖,而是在改变问题本身。
与相邻方法的区别
| 方法 | 查询数量 | 核心目的 |
|---|---|---|
| 单路检索 | 一个 | 直接匹配原问题 |
| Query Expansion | 通常仍围绕一个 Query 扩充词汇 | 覆盖术语变体 |
| Multi-Query Retrieval | 多个独立 Query | 从不同角度提高召回覆盖 |
多路召回通常还需要统一候选集合、去重,以及必要的排序或融合策略,因此成本不仅是检索次数增加。
最小例子
用户问“Redis 持久化故障怎么排查”,可以拆成“Redis persistence troubleshooting”“RDB/AOF 持久化异常”“Redis 数据落盘失败排查”等查询,分别召回后合并结果。它们讨论的仍是同一个故障排查目标,只是采用不同术语和切入角度。
常见误解是把生成更多 Query 等同于一定能提升检索效果。实际收益取决于改写质量、各路结果的重合程度以及后续去重和排序;当多路 Query 高度重复时,只会增加检索成本而没有明显覆盖收益。
根据内容类型、租户、版本、章节等元数据限制检索范围;过滤过严会直接排除正确答案,应区分必须满足的硬过滤与仅提高排序的软约束。
Metadata Filter
Metadata Filter 是在向量相似度或关键词检索前后,利用文档元数据限制候选集合的机制。它能减少无关结果,但过滤条件过严会把本来正确的内容直接排除。
成立边界
适合作为硬过滤的条件通常是结果必须满足的约束,例如租户隔离、文档状态、明确指定的版本或内容类型。主题、关键词强弱等信息通常更适合参与排序,而不是直接过滤。
过滤发生在召回阶段时,候选文档必须先通过条件才有机会进入 Top-K;因此一个错误的硬过滤条件,即使语义相似度很高,也无法挽回。
与软约束的区别
| 机制 | 作用 | 失败影响 |
|---|---|---|
| 硬过滤 | 直接排除不满足条件的文档 | 可能漏掉正确答案 |
| 软约束 | 保留候选,再调整排序或分数 | 通常只影响排序位置 |
| 无过滤 | 仅依赖检索相关性 | 更容易混入跨范围噪声 |
最小例子
下面用纯 Python 表示一个最小的硬过滤过程:只保留指定租户和版本的文档,随后再进行其他检索计算。
documents = [
{"id": "doc-1", "tenant": "acme", "version": "v2", "text": "退款规则"},
{"id": "doc-2", "tenant": "acme", "version": "v1", "text": "退款规则"},
{"id": "doc-3", "tenant": "beta", "version": "v2", "text": "退款规则"},
]
# tenant 和 version 是这里明确要求必须满足的硬过滤条件。
filtered = [
doc for doc in documents
if doc["tenant"] == "acme" and doc["version"] == "v2"
]
print([doc["id"] for doc in filtered])预期结果
['doc-1']常见误解
最常见的误区是“过滤越多越精准”。实际检索评估中,应分别检查过滤前候选集、过滤后候选集和最终答案:若 Recall 下降是因为正确文档被硬过滤排除,问题不在向量模型,而在过滤边界。
表示检索阶段保留排名最前的 K 个候选结果;K 太小容易漏掉正确内容,过大则会引入噪声,通常与 Rerank 配合使用。
Top-K
Top-K 是检索阶段保留排名前 K 个候选结果的参数。它决定进入后续 Rerank、上下文拼接或答案生成流程的候选规模,而不是直接决定最终答案。
成立边界
K 越小,候选集合越集中,计算和上下文开销通常更低,但正确文档排在第 K 名之后就无法进入后续阶段。K 越大,召回覆盖面通常扩大,同时也会带入更多低相关候选。
在 RAG 评估中,Top-K 应结合 Recall@K、精确性、Rerank 成本和上下文长度一起观察,不能只看一个 K 值的最终回答质量。
与相邻概念的区别
| 概念 | 回答的问题 |
|---|---|
| Top-K | 初始检索保留多少候选 |
| Recall@K | 正确内容是否出现在前 K 个候选中 |
| Rerank | 如何对候选重新排序 |
| Context Top-N | 最终实际送入模型的候选有多少 |
例如,Top-K=20 可以先召回 20 条,再由 Rerank 选出其中更相关的 5 条进入上下文;二者控制的是不同阶段。
最小例子
下面用一个可运行的 Python 示例说明 Top-K:候选按相关性分数降序排列,只保留前 K 个结果。
candidates = [
{"id": "doc-a", "score": 0.91},
{"id": "doc-b", "score": 0.87},
{"id": "doc-c", "score": 0.84},
{"id": "doc-d", "score": 0.72},
]
top_k = 2
ranked = sorted(candidates, key=lambda item: item["score"], reverse=True)
selected = ranked[:top_k]
print([(item["id"], item["score"]) for item in selected])预期结果
[('doc-a', 0.91), ('doc-b', 0.87)]常见误解
Top-K 不是“越大越好”,也不是最终答案数量。评估时应先确认正确文档的排名分布,再选择能够覆盖目标 Recall 的 K;随后再用 Rerank 或上下文截断控制噪声。
初次检索后进入后续排序阶段的一组候选文档或 Chunk;召回阶段更关注把正确内容纳入候选集,而不是立即得到最终最优排序。
Candidate Set
候选集是初次检索返回、等待后续相关性判断或重排序的一组文档或 Chunk;它决定正确内容有没有进入后续处理范围。
成立边界
候选集通常来自向量检索、关键词检索或混合检索,数量一般明显大于最终交给 LLM 的上下文数量。召回阶段的核心是提高目标内容进入候选集的机会,而不是先追求候选内部已经完全有序。
与最终结果的区别
| 概念 | 作用 | 典型范围 |
|---|---|---|
| 候选集 | 承接初次召回,供后续筛选或排序 | Top-20、Top-50 等 |
| 最终上下文 | 实际提供给 LLM 的内容 | 少量高相关结果 |
| 排名结果 | 对候选集进行相关性排序后的顺序 | 按分数或模型判断排列 |
候选集过小,正确答案可能在初次检索阶段就被漏掉;候选集过大,则会增加后续重排序成本和上下文处理负担。
最小例子
一次检索得到 20 个 Chunk,其中只有第 17 个包含回答问题所需的关键定义。这 20 个 Chunk 就是候选集;只要第 17 个已进入候选集,后续 Rerank 仍有机会把它提升到前几位。
可以用检索结果数量快速确认候选集规模:
# 片段示例:依赖上游 retriever 已返回按相关性排列的结果列表
candidates = retriever.search(query, top_k=20)
print(len(candidates))预期输出
20常见误解
“候选集已经是最终答案”是不准确的。候选集只表示进入后续竞争范围,不代表其中每条内容都足够相关,也不代表排名已经最优。
重排与上下文组织
对初次召回的一批候选内容进行更精细的相关性判断并重新排序,常用于把 Top-20 或 Top-50 缩减为真正提供给 LLM 的少量结果。
Rerank 重排序
Rerank 是对初次召回的候选文档或 Chunk 重新计算相关性并排序,使真正有用的内容优先进入最终上下文。
成立边界
Rerank 位于初次召回之后,通常输入一个已经生成的候选集,再对候选与查询之间的匹配程度做更细致判断。它解决的是“候选已经找到了,但顺序还不够准”的问题,不负责弥补完全没有进入候选集的内容。

与初次召回的区别
| 环节 | 主要任务 | 典型特点 |
|---|---|---|
| 初次检索 | 尽可能找到相关候选 | 覆盖率优先,通常较快 |
| Rerank | 在候选中重新判断相关性 | 精度优先,计算成本更高 |
| 最终选择 | 截取少量高相关结果 | 控制上下文长度和噪声 |
Rerank 不能替代召回。若正确 Chunk 根本没有进入候选集,再强的精排模型也无法把它排到前面。
最小例子
下面用一个抽象接口表示典型处理顺序;其中 rerank 需要由具体检索框架或模型提供。
# 片段示例:retriever 与 reranker 需由实际系统提供
candidates = retriever.search(query, top_k=20)
reranked = reranker.rerank(query, candidates)
final_context = reranked[:5]
print(len(final_context))预期输出
5常见误解
Rerank 后分数更高,不等于内容一定“正确”。重排序通常衡量查询与候选之间的相关性;最终答案质量还取决于召回覆盖率、Chunk 切分、上下文拼接以及生成模型对证据的使用方式。