RAG与搜索融合：多跳检索与迭代RAG

可视化演示

通过多跳检索流程图、迭代RAG四阶段循环和三种RAG类型对比，展示多跳检索逐步聚合信息与迭代优化的核心机制。

RAG基础概念

老周不是神探。他记不住城南档案室里的每一份卷宗，也背不下全市警员的排班表。但每次接到报案，他都会先做同一件事——翻档案。把案件关键词输进警局系统，调出相关记录，再结合自己的办案经验去判断。档案库替他记着那些“脑子装不下”的事实，他负责“怎么用这些事实”。人脑记不住的，就用外挂档案补上，这就是最朴素的“检索增强”。

大模型（LLM）也有同样的困扰。它训练完成后，知识就固定在了参数里，无法实时更新，也记不住最新的事件。RAG（Retrieval-Augmented Generation，检索增强生成）的思路，就是给大模型配一个“档案库”：在生成回答之前，先从外部知识库中检索与问题相关的文档片段，把这些片段拼进提示词，再让模型基于“档案+自己的推理”作答。

一条典型的 RAG 流程分两条线。离线线：把知识库切分成片段、用嵌入模型向量化、建立索引；在线线：将用户问题向量化，在索引中召回 Top-k 片段，交给重排器精排，最后与问题一起送入 LLM。这样既保持了模型的通用推理能力，又能随时更新知识库——档案更新了，破案能力立刻跟着更新。

对老周来说，档案库解决的是“记忆”问题；对 RAG 来说，检索解决的也是“记忆”问题。但单跳检索就像只翻一次档案——对“昨晚谁进过展厅”这种问题够用了，可对“名画藏在哪”这种复杂问题，一次检索远远不够。这正是下一节要说的“多跳”。

多跳检索原理

老周第一次翻档案只得到“维修工小李可疑”。但他没有结束调查，而是顺着这条线索继续：小李的维修记录里写着地下仓库，仓库管理员提到凌晨有货车离开，货车登记信息指向城东仓库……每一步都在回答前一步产生的新问题。证据像链条一样，一环扣一环，任何一环断了，案子就破不了。

很多真实问题也是这样的“链条题”：回答“这家公司为什么突然涨价”，需要先检索公司背景，再检索供应链新闻，再检索竞品动态。单跳检索只能拿到第一环；多跳检索则把复杂问题拆成一条有依赖关系的查询链——当前检索到的文档，被用来生成下一跳的查询，形成“检索→推理→再检索”的循环。

多跳检索的经典结构包括四个部件：子问题分解器把大问题拆解成若干小问；检索器逐跳召回文档；生成器阅读证据、产出下一跳查询；最后将中间证据汇总，供最终答案生成。业内常见的实现思路有 Self-Ask 式的“自问自答”、Chain-of-Thought 风格提示，以及带记忆的 Agent 式检索，它们本质上都在做同一件事：让证据链自己生长。

线索链的致命弱点是“一步错、步步错”。老周的经验是：每得到一个新线索，先交叉验证再走下一步。系统也一样——多跳检索必须有证据校验和错误防控，否则第一环的错误会被后面的每一环放大，这就是后面“常见误区”部分要重点展开的内容。

迭代式RAG

老周破案还有第二个习惯：不轻信一轮口供。他回到局里把笔录摊开，发现“仓库管理员说货车凌晨离开”这条证据只有孤证，立刻带上新问题回现场复核。搜一下、查一下，不够，再搜、再查——直到证据链闭合，或者确认再无新线索可挖。这个“复查”过程，就是迭代式 RAG 的原型。

迭代式 RAG 把这个复查机制变成了系统能力。它不只做“检索→生成”一遍，而是在“检索→生成→评估→再检索→再生成”的大环路上反复：模型先根据已有证据给出一个答案草案，置信度评估模块判断草案是否可信；如果不可信，就把草案里的信息缺口整理成新查询，继续下一轮检索。

每一轮迭代有四个关键动作：上下文累积（把历轮证据存进记忆）、查询精化（基于缺口生成更准的查询）、检索扩展、答案更新。循环由两个终止条件控制——置信度达到阈值，或达到最大轮数。相比单轮 RAG，它的答案更扎实、可追溯；代价是延迟和算力成本随轮数线性上升，所以“何时停”是工程落地时最关键的设计决策。

多跳检索解决“往哪走”，迭代 RAG 解决“何时停”。老周的办案手册里这两条缺一不可：线索链让他找到所有可能的证人，复查机制让他确保没有冤枉好人。两者结合，才是完整的“侦探式搜索”。

关键算法

老周的装备箱里摆着四样东西：放大镜——把模糊的字迹看清；指纹比对仪——判断两样东西是否匹配；审讯提纲——把大问题拆成小问题；笔录本——记下所有证词。RAG 系统里，也有对应的四件法宝，支撑起多跳检索与迭代循环的每一次运转。

查询改写（放大镜）：LLM 根据历史对话与已有证据，把“那个公司为什么涨价”这种指代不明、信息不全的查询，改写成“某公司 2024 年三季度调价公告”，再送入检索引擎。相似度打分（指纹比对仪）：查询和文档先被编码成稠密向量，再用余弦相似度排序召回，决定哪些文档有资格进入证据链。子问题生成（审讯提纲）：分解器把“名画藏在哪”这类复合问题拆成“谁接近过展厅→维修记录→货车去向→藏匿地点”的有序子问题。记忆机制（笔录本）：把历轮检索到的证据存入上下文或外部记忆，防止重复检索与信息丢失，让每一轮都站在上一轮的肩上。

工具要配合使用：老周不会拿指纹比对仪去读字迹，系统也一样——简单问题单跳直答，复杂问题才启动子问题分解和多轮迭代。算法没有好坏，只有合不合适的案情。下一节要聊的，就是如何在有限警力下把这些工具用到极致。

性能优化

局长只给老周 48 小时，警力也有限。若把全城每户人家都问一遍，答案肯定能找到，但时间根本不够；若只问两个目击者，又可能漏掉关键线索。老周的解法是：先铺开“关键证据面”，再对最可疑的点重点深挖。RAG 系统同样面对“质量-延迟-成本”的三角约束。

质量用检索覆盖率来度量——真正的关键证据有没有被召回到前 k 个位置。召回率（Recall@k） 是核心指标：知识库中共有 N 个相关文档，检索系统返回的前 k 个结果中覆盖了多少个。延迟由迭代轮数和单轮检索量决定，成本则与调用大模型的次数成正比，三者此消彼长。

常见的优化手段包括：检索质量方面，采用混合检索（向量 + BM25 关键词）再加重排器精排；延迟控制方面，多路检索并行、限制每轮文档数、中间轮用小模型生成；成本权衡方面，做分级路由——简单问题走单跳、复杂问题才走多跳；缓存策略方面，对高频查询缓存检索结果甚至最终答案，让“常见案情”秒级结案。

老周最后在 40 小时破案，靠的不是蛮力搜索，而是“分层部署警力”。系统也一样：在预算和时效约束下，把算力花在最值得追溯的证据链上，才是工程上真正的高手。这些策略要落地成团队的标准流程，就是最后一节的内容。

工程实践

老周退休前，把自己的破案方法写成了刑侦队标准作业流程：接警登记、档案初查、线索链追踪、证据复核、结案复盘。新警员照着流程走，即使经验不足，也不会犯低级错误。个人能力被沉淀成了团队能力。多跳检索与迭代 RAG 的工程落地，同样需要这样的标准化。

第一步是场景适配：开放域闲聊追求快和自然，垂直领域问答（法律、医疗、运维）追求准和可溯源，两者的检索深度与迭代策略截然不同。第二步是工具选型：向量数据库（如 Milvus、FAISS）负责语义召回，Elasticsearch 负责关键词召回，重排模型负责精排，LLM 负责生成与子问题分解。

上线之后要做评测与监控：把“检索质量”和“答案质量”分开评测，前者用 Recall@k、MRR，后者用答案准确率、引文正确率；对中间跳的检索日志定期采样，一旦发现检索漂移（查询越走越偏）就及时调整；把失败样本回流到标注集，持续迭代检索器与提示词。总延迟模型则帮助团队判断“该砍掉哪一轮迭代”。

老周退休后，刑侦队破案率没有下降，因为流程还在、复盘机制还在。好的 RAG 系统也一样——个人聪明（好的 prompt 技巧）会消失，但把方法论固化到评测、监控、回流闭环里，系统的能力才会持续进化。

AI 应用场景

Python 演示

# -*- coding: utf-8 -*-# 多跳检索与迭代RAG最小演示(规则模拟,无需大模型) DOCS = [    {"id": 1, "text": "保安看到维修工小李接近展厅", "next": "小李的维修记录"},    {"id": 2, "text": "小李负责地下仓库管道维修", "next": "货车的登记信息"},    {"id": 3, "text": "货车登记在王某名下", "next": "城东仓库的监控录像"},    {"id": 4, "text": "城东仓库监控拍到疑似画作的包裹", "next": None},    {"id": 5, "text": "王某最近与多个古董商有资金往来", "next": None},]  def haystack(d):    return d["text"] + " " + (d["next"] or "")  def char_score(query, text):    qs = set(query)    ts = set(text)    if not qs:        return 0.0    return len(qs & ts) / float(len(qs))  def search(store, query, k=2):    ranked = sorted(store, key=lambda d: char_score(query, haystack(d)), reverse=True)    return ranked[:k]  def fake_llm(docs, visited):    # 模拟LLM: 从证据中提取下一跳查询, 已访问过的线索不再重复    for d in docs:        if d["next"] and d["next"] not in visited:            return d["next"]    return None  def multi_hop_search(store, question, max_hops=4, k=2):    queries = [question]    visited = set([question])    evidence = []    for _ in range(max_hops):        docs = search(store, queries[-1], k)        evidence.append(docs)        nxt = fake_llm(docs, visited)        if nxt is None:            break        visited.add(nxt)        queries.append(nxt)    return queries, evidence  def iterative_rag(store, question, max_rounds=3, k=2):    clue = ""    seen = set([question])    for rnd in range(max_rounds):        query = question + (clue or "")        docs = search(store, query, k)        if any("城东仓库" in haystack(d) for d in docs):            return "结论: 画作藏在城东仓库(置信度1.00)", rnd + 1        for d in docs:            if d["next"] and d["next"] not in seen:                seen.add(d["next"])                clue = d["next"]                break    return "结论: 证据不足, 建议扩大排查范围", max_rounds  def main():    store = DOCS    queries, evidence = multi_hop_search(store, "名画藏在哪")    print("多跳检索路径:")    for i, q in enumerate(queries):        print("  第%d跳查询: %s" % (i, q))    answer, rounds = iterative_rag(store, "名画藏在哪")    print("迭代RAG经过%d轮后给出: %s" % (rounds, answer))  if __name__ == "__main__":    main()

1. def char_score(query, text):用字符集合的重合度模拟向量相似度，让中文也能直接算“相关度”。
2. qs = set(query)把查询拆成字符集合，是计算重叠度的前提。
3. def search(store, query, k=2):检索函数，对知识库排序后返回最相关的前 k 篇文档。
4. ranked = sorted(store, ...)按相似度从高到低排序，相当于把卷宗按相关程度排好队。
5. def fake_llm(docs, visited):模拟大模型从证据中挑出“下一跳查询”。
6. if d["next"] and d["next"] not in visited:防止重复走同一条线索，对应老周“不重复问同一个证人”的经验。
7. def multi_hop_search(...):多跳检索主循环：检索 → 提取线索 → 生成新查询。
8. if nxt is None: break没有新查询可生成时停止，对应线索链走到尽头。
9. def iterative_rag(...):迭代式 RAG 主循环：带着线索反复检索，直到找到关键证据。
10. if any("城东仓库" in haystack(d) for d in docs):置信度判断：找到关键证据就立即停止，对应“证据链闭合即结案”。

常见误区

面试题