Self-RAG / CRAG：检索结果自我评估触发二次检索与反思

可视化演示

展示主成分分析(PCA)的核心过程：计算数据协方差矩阵的最大特征向量，将高维数据投影到主成分方向实现降维，支持散点图与投影模式切换。

核心思想：从“拿来即用”到“先审后用”

回到那位批改作业的老师。在她动笔打分之前，她会快速浏览一遍参考答案，判断这份答案是否足够好——题目问的是“论述辛亥革命的影响”，而参考答案里写的是“辛亥革命的过程”，这显然文不对题。她会怎么做？大概率是合上这份资料，去书架上找另一本书，或者去资料室调取更准确的档案。这个“先判断、再决定是否使用”的动作，就是 Self-RAG 和 CRAG 的灵魂。

传统 RAG 系统就像一台老式自动售货机：你投币（提问），它就从固定轨道里掉出一罐饮料（检索结果），不管这罐饮料是不是过期了、是不是你想要的牌子。而 Self-RAG 和 CRAG 系统则换了一位“智能售货员”：它拿到你的需求后，会先看看货架上有什么，评估一下这些货品与你的需求的匹配度——匹配才递给你，不匹配就转身去仓库（二次检索）找新的货源。

技术层面，Self-RAG 的核心是引入了一组“反思 Token（Reflection Token）”——这是 Transformer 输出词汇表里的一组特殊标记，模型在生成答案前先输出这些标记来表达对检索结果的“态度”。例如 Retrieve 表示“需要检索”，ISREL 表示“检索结果与问题相关”，ISSUP 表示“答案有足够证据支持”。这些特殊 token 让模型像老师写评语一样，对检索质量进行显式标注。

在实际推理时，模型并不需要穷举所有反思 token。它先在每个解码步骤预测最合适的 token——比如预测 ISREL 为“相关”——再以高频 token 为条件继续生成正文。这样就实现了“先评估、后作答”的互动决策链。

回顾售货员的比喻：Self-RAG 的反思 token 就是售货员内心不断评估的一句话：“这罐饮料对得上顾客的需求吗？对不上得赶紧换一个。” 它把“评估”动作直接嵌入了模型的每一次生成，让 AI 不再是张口就来，而是在开口前先在心里打个草稿。

传统RAG的局限：照本宣科的“助教困境”

想象一位刚入职的助教，领导交给他一本厚厚的标准答案手册，嘱咐他说：“学生问什么，你就照着这本手册念。” 第一天，学生问手册上有的问题，他答得不错；第二天，学生问了一个手册上没写的新问题，他依然机械地翻动手册，念了一段毫不相关的内容——因为他根本没有“手册里没有答案”这个意识。这就是传统 RAG 的典型困境。

传统 RAG 的流程是简单的三段式：检索（Retrieve）→ 增强（Augment）→ 生成（Generate）。系统从向量数据库中召回 top-k 个相关文档，把它们拼进 prompt，再让语言模型生成回答。整个过程是“单程流水线”——没有一个环节会停下来问：“我召回的这些文档真的有用吗？” 正如助教从不质疑手册的正确性。

这个设计有三个致命短板：

• 一次性检索：检索动作只发生一次，如果第一轮召回的文档就是噪音，系统没有自我纠错的机会；

• 无反馈机制：生成器对检索质量的好坏没有任何信号反馈，好文档坏文档被一视同仁地拼进 prompt；

• 噪音敏感：当检索文档与问题主题偏移时，模型会被错误信息“带偏”，产生看似流畅实则错误的回答。

从概率角度看，传统 RAG 的生成目标是纯粹最大化似然 $P(y|x, D)$，其中 $D$ 是检索文档集合。这个目标函数里没有对 $D$ 质量的任何度量——质量高低全凭运气。好比助教的打分 只取决于标准答案手册的内容，而不取决于手册本身是否正确。

那么如何打破这个死局？答案是为系统增加一个“评估-再检索”的反馈回路。这正是 Self-RAG 和 CRAG 的出发点——先让模型批判自己：“我眼前这份资料真的能解答这道题吗？” 不能，就立即启动补救机制。

回到助教的故事，改变后的助教多了一个习惯：翻开手册前，先快速扫一眼目录和章节标题，确认找对了章节才开念。找不到对口内容时，他会主动去隔壁办公室问资深教师（相当于二次检索）。这份“自觉”正是传统 RAG 升级为 Self-RAG 或 CRAG 后获得的。

Self-RAG原理：反思Token引导的智能检索决策

现在我们来围观这位“升级版”老师具体是怎么工作的。假设她在批改一道历史论述题，手里拿到了初始的参考答案。与以往不同，她不会立刻动笔，而是先在心中默问三个问题：第一，“这个学生的题目我需要查资料吗？还是凭常识就能判断？” 第二，“手头这份参考答案跟题目相关吗？” 第三，“这份答案的依据充分吗？” 这三个问题分别对应 Self-RAG 框架中三类反思 token 的功能。

Self-RAG 是 2023 年发表的一种自反思式检索增强生成框架（论文标题为 Self-RAG: Learning to Retrieve, Generate, and Critique through Self-Reflection）。它的核心创新在于通过训练一个批判模型（critic model）来生成反思 token，从而让生成过程动态决定：是否检索（Retrieve token）、检索文档与问题的相关性（ISREL token）、回答是否被检索文档支持（ISSUP token）、以及回答对用户问题的满意度（ISUSE token）。

• Retrieve：模型预测当前问题是否需要检索外部知识。如果模型自信满满（比如问“1+1等于几”），它可以输出 NoRetrieve 直接作答；反之输出 Retrieve 触发搜索。

• ISREL：检索到文档后，模型评估文档与问题是否相关。不相关则触发“二次检索”——换一批关键词，重新召回。

• ISSUP / ISUSE：在生成答案时验证证据充分性和答案实用性，确保生成的内容有坚实的依据。

训练过程分为两个阶段：先训练生成模型（generator）学会在被检索文档的支撑下生成回答；再训练批判模型（critic model）学会输出上述反思 token。推理时，模型在每个解码步骤并行生成多种候选片段，并用反思 token 的分数对这些候选片段打分排序，选出最高的那段输出。

Self-RAG 的决策过程实际上是动态的：如果第一个检索到的文档 ISREL 得分低，模型可以再次采样新的查询词，重新执行检索；如果所有文档都相关度低，模型可以输出“资料不足”回应，而不是强行编造。这种动态机制极大地提升了回答的可信度。

回到老师批改作业的比喻：Self-RAG 就像是给老师配备了一位“复核员”。老师每写一条评语，复核员就站在旁边对照评分标准打钩打叉——不相关就打回重写，证据不足就标注“待补充”。老师与复核员之间的往复对话，就是模型内部生成与批判的博弈，最终交付的高分答卷往往更扎实、更有依据。

CRAG机制详解：低置信度时的“网络求生”

场景切换到一位正在准备公开课的年轻教师。她开始试讲时，发现自己准备的教案里有一段关于“新课标改革”的描述可能过时了——她对此的把握度不高。此时她做出了一个果断决定：暂停试讲，打开电脑快速搜索最新政策文件。这种“当我不确定，我就去查证”的行为模式，正是 CRAG（Corrective Retrieval Augmented Generation）设计的精髓。

CRAG 的出发点是：与其让模型对质量不佳的检索文档假装自信，不如显式地评估检索结果的可信度，并在信任不足时执行“纠正动作”。CRAG 的思路用精确的“置信度评估器”（confidence evaluator）来判断检索到的各个文档与用户问题的相关程度，然后根据评估结果走三条路径之一：

• 高置信度：当评估器判定检索文档与问题高度相关时，系统直接采用原文档生成回答，不浪费计算资源；

• 模糊置信度：文档部分相关、但还不够充分时，系统通过“知识条带提取”（knowledge strip extraction）从文档中抽取最关键的片段，过滤掉不相关段落；

• 低置信度：评估器判定检索结果基本不可用时，系统触发“备选检索动作”——对大语言模型（LLM）而言，这一步常是调用网络搜索（web search）API，用更宽泛的查询词从全网获取大量互补的文本片段，再从中精炼出高价值的补充信息。

CRAG 的置信度评估器本身是一个轻量级判别模型，它接收用户问题与检索文档的拼接序列，输出一个相关性分数。论文中使用了一个基于 T5-large 的微调模型，可以理解为一个“相关性打分器”。

触发二次检索的判定逻辑非常直接：

值得一提的是，CRAG 的三档设计非常契合“最小成本纠正”原则：能直接用时绝不折腾，部分可用时只做裁剪，完全不可用才劳师动众去搜全网。比如政策评估助理发现一份 2018 年的地方政策文件，评估器认为与当前问题相关性中等——系统不会直接使用，也不会立刻全网搜索，而是先提取文件中与问题直接相关的条款，筛除冗余背景段落，再用提取出的“知识条带”辅助生成。

回到公开课老师的比喻：CRAG 就是她的备课辅助系统。当她不太确定教案质量时，系统帮她标出核心段落（知识条带提取）；当她确认教案不可靠时，系统自动弹出搜索引擎帮她找最新资料。这种“能省则省、当用则用”的策略，让每一次检索资源都花在刀刃上。

方法对比：两种风格的“自我审核员”

同一所学校的两位老师，批改相同的一份作业，风格可能完全不同。王老师喜欢在批改前先做三步自我质询——“这道题需要查资料吗？”“资料相关吗？”“答案有依据吗？” 然后才动笔；李老师则迅速扫一眼资料，心里按可信度打个分——“大概八分准，直接改；六分准，画画重点；三分准，上网查。” 前者是 Self-RAG 的风格，后者是 CRAG 的风格。

两者的核心差异体现在三个维度：

| 对比维度 | Self-RAG | CRAG |

|---------|----------|------|

| 决策时机 | 生成前和生成中均做决策（每个解码步骤都可能触发检索） | 只在生成前对检索集做一次置信度评估 |

| 反思信号 | 多类反思 token（是否检索、相关性、支持度、有用性） | 单一置信度分数（三档离散化） |

| 二次检索渠道 | 重新构造查询词，走内部检索器 | 调用外部网页搜索 API |

| 训练方式 | 需要对生成器和批判模型做专门的微调训练 | 只训练一个轻量级置信度评估模型 |

| 灵活度 | 高——每一步都能动态决定用不用新文档 | 中——评估一次后走三档中的一档 |

从架构层面看，Self-RAG 对模型本体的改造更深——它直接改变了语言模型的解码机制，把“评价”内嵌为输出的一部分；CRAG 则更像一个外挂的“纠错模块”，用一个小评估器包裹原有的生成模型。因此，Self-RAG 适合需要“边想边查”的复杂推理任务（比如多跳问答），而 CRAG 适合“查一次、定生死”的简单检索场景（比如事实型问答）。

从计算成本角度分析，Self-RAG 的解码开销远高于传统模型——每步都要计算反思 token 的分数；CRAG 的开销则主要在置信度评估器和可能的网页搜索上。论文实验表明，Self-RAG 在 PopQA 和 PubHealth 等长尾知识基准上比传统 RAG 有 10-20% 的准确率提升，而 CRAG 在复杂事实校验类任务上也展示出对噪音的强鲁棒性。

回到两位老师的比喻：王老师（Self-RAG）的批改速度稍慢，但每一句批语都经过反复推敲；李老师（CRAG）的批改速度更快，凭借“快准狠”的信赖度判断也很高效。选择哪位老师，取决于你是要处理一份需要深度思考的论文，还是一次快速判断是非的测验——现实中优秀的 AI 系统往往两者结合，先用 CRAG 做粗筛，再用 Self-RAG 做细节反思。

应用场景：三位“AI质检员”的上岗实录

现在，我们跟随三位采用 Self-RAG / CRAG 技术的“AI 质检员”，看看他们在真实职场中的亮眼表现。他们虽然身处不同行业，但工作内核惊人一致：不盲信检索结果，先评估、再决定是否使用。

第一位质检员就职于某省级政策研究机构。公务员小李每天要起草大量政策解读文件，以前他靠关键词搜索欧盟和国内政策文档，结果往往搜出一堆过时的旧版文件，直接引用会造成重大错误。现在他用的政策评估系统嵌入了 CRAG 机制——系统先对搜到的政策文件做相关性打分，低分就自动去政府官网拉取最新修订版，并高亮“知识条带”供小李核对。小李的起草效率提升了 60%，出错率下降了八成。

第二位质检员服务于一家三甲医院的临床科研团队。医生们需要快速追踪最新的靶向药临床研究结果。传统系统偶尔会查到已被撤回的论文，险些误导治疗决策。引入 Self-RAG 后，模型在生成回答时先输出反思 token 判断检索文献的可信度；当它识别到某篇论文与当前患者病例不相关时，会主动发出二次检索请求，只采纳近三年发表于高影响力期刊的证据。这一机制让临床循证检索的准确率提高了 35%。

第三位质检员任职于一家跨境电商公司的市场部。市场分析师需要每天监控竞品动态，她使用智能情报系统抓取全网评论。CRAG 的置信度评估器在此大显身手——当抓取的评论帖子与“竞品价格策略”话题相关度不高时，系统自动降低这些帖子的权重，转而搜索行业分析报告，提炼出精准的价格变动情报。分析师过去每天花 3 小时人工筛帖子，现在只需 30 分钟审核系统整理好的情报摘要。

AI 应用场景

Python 演示

import math  class RetrievalEvaluator:    """模拟文档相关性评估器，返回一个0到1之间的置信度分数"""     def __init__(self):        # 用关键词匹配模拟真实评估器的打分逻辑        self.keywords = ['policy', 'clinical', 'price', 'study']     def score(self, question, document):        q_words = set(question.lower().split())        d_words = set(document.lower().split())        overlap = len(q_words & d_words)        total = max(len(q_words), 1)        return overlap / total  class SimulatedRAG:    def __init__(self, high_threshold=0.6, low_threshold=0.3):        self.evaluator = RetrievalEvaluator()        self.high_th = high_threshold        self.low_th = low_threshold        self.search_count = 0        self.extract_count = 0     def retrieve(self, query):        """模拟一次文档检索，返回候选文档列表"""        docs = [            'policy update on carbon tax',            'clinical study for targeted therapy',            'price analysis report 2024',        ]        return docs     def web_search(self, query):        """模拟二次网页搜索"""        self.search_count += 1        return ['fresh web result for ' + query]     def correct(self, question, docs):        """CRAG式纠正：根据置信度决定是否二次检索"""        best_doc = max(docs, key=lambda d: self.evaluator.score(question, d))        s = self.evaluator.score(question, best_doc)        if s >= self.high_th:            action = 'use'        elif s >= self.low_th:            action = 'extract'            self.extract_count += 1        else:            action = 'search'            new_docs = self.web_search(question)            best_doc = new_docs[0]        return action, best_doc, s  def main():    rag = SimulatedRAG()    question = 'latest clinical study for cancer treatment'    docs = rag.retrieve(question)    action, selected_doc, score = rag.correct(question, docs)    print(f'Question: {question}')    print(f'Best doc: {selected_doc}')    print(f'Confidence score: {score:.2f}')    print(f'Action taken: {action}')    print(f'Web searches triggered: {rag.search_count}')    print(f'Extractions performed: {rag.extract_count}')  if __name__ == '__main__':    main()

1. class RetrievalEvaluator定义一个评估器类，用词重叠率模拟深度模型的置信度打分。
2. score(question, document)计算问题与文档的关键词重叠比例，作为相关性分数。
3. correct(self, question, docs)核心纠正逻辑：先选出最佳文档并打分，再根据阈值决定 use/extract/search。
4. self.search_count用计数器跟踪触发网页搜索的次数，便于观察低置信度场景的行为。
5. web_search(self, query)模拟二次检索动作，与真实 CRAG 中调用搜索 API 的行为一致。

常见误区

面试题