RAG Agent：让智能体像大厨一样动态获取外部知识

可视化演示

\u53ef\u89c6\u5316\u5c55\u793aRAG Agent\u7684\u81ea\u4e3b\u68c0\u7d22\u51b3\u7b56\u5faa\u73af\u3001\u591a\u8f6e\u8fed\u4ee3\u68c0\u7d22\u4e0e\u67e5\u8be2\u6539\u5199\u3001\u4ee5\u53ca\u591a\u6e90\u77e5\u8bc6\u6574\u5408\u4e0e\u51b2\u7a81\u68c0\u6d4b\uff0c\u4ea4\u4e92\u5207\u6362\u89c2\u5bdfAgent\u52a8\u6001\u83b7\u53d6\u5916\u90e8\u77e5\u8bc6\u7684\u6838\u5fc3\u73af\u8282\u3002

1. Agent概念概览：一个会「查菜谱」的主厨

阿聪的基本功，是长年累月练出来的，刀工火候全在肌肉记忆里。可新餐厅的菜单有四十道菜，他只做过其中五道。遇到「杏仁鳟鱼配芦笋」，他面临一个抉择：硬做，还是翻菜谱？聪明的厨师知道，有些菜靠基本功就能搞定，有些菜必须借助外部资料。这个「先判断、再行动」的意识，就是 RAG Agent 的灵魂。

大模型同样如此。它的「基本功」是训练时学到的参数知识——常识、语法、热门话题都在里面；而公司政策、最新产品文档、私有数据库这些「新菜单上的菜」，它从未见过。传统 RAG 的做法是：不管三七二十一，先把文档查一遍再说。但 RAG Agent 更进一步，它让模型自己决定：这道菜我有把握吗？没有才去查。

技术上看，RAG Agent 是一个「感知—决策—行动」循环。Agent 收到用户问题（Query）后，由一个策略函数（Policy）判断是否调用外部知识；如果需要，就执行检索（Retrieve）获取证据文档；最后将证据与自身推理结合，生成最终答案。整个过程由 Agent 自主编排，这是它与「固定先查后答」的传统 RAG 最本质的区别。

所以 RAG Agent 不是「会联网的聊天机器人」那么简单，它更像阿聪的身份定位：一个知道自己不知道什么的厨师——知道何时该翻菜谱，也知道如何把菜谱和手艺融为一体。

2. 检索触发决策：翻菜谱还是直接下锅

阿聪看到「杏仁鳟鱼配芦笋」这道菜时，大脑飞速运转：鱼的煎法他有十足把握，但「芦笋泥配杏仁脆片」的装盘逻辑他没见过。粗略一估，七成把握，但七成在米其林餐厅意味着可能被退菜。于是他果断翻开菜谱，补上这块短板。而若是「番茄炒蛋」这种闭眼都会做的菜，他绝不会多翻一页。

这个「估算把握」的过程，在 RAG Agent 里叫置信度评估。模型在回答之前，先对自己「肚里的知识」做一个信心打分：信心高于阈值，就直接回答（Direct）；低于阈值，就触发检索（Retrieve）。这个判断函数就是触发策略。常见的策略有三种：全量检索（每次都查，稳但慢）、按需检索（信心低才查，快但险）、混合式（先按需，推理中途发现不会就再补查）。

实际操作中，置信度可以由模型输出的概率分数、不确定性估计等指标衡量，而阈值 $\tau$ 是一个需要调参的关键超参数。$\tau$ 调得太低，模型过度自信，答错了还嘴硬；$\tau$ 调得太高，模型动不动就翻菜谱，延迟和成本双双上涨。

阈值 $\tau$ 像阿聪的「心理底线」：资深厨师自信阈值低，遇到七成把握的菜也敢硬做；新主厨阈值调高点，多翻几页菜谱，总比端出黑暗料理强。

3. 检索工具设计：菜谱要整理得方便查

菜谱书不是随便翻的。它有目录、有页码、有章节索引，阿聪查「酥皮做法」时绝不会从头翻到尾，而是先看目录锁定页码。知识库也一样——Agent 要能快速准确地查到东西，依赖一个设计良好的检索工具接口。

这个工具接口（Tool API）规定了「怎么问」和「给什么」：输入查询参数，输出候选文档（TopK）。为了让查询更精准，通常要先做 Query 改写：把口语「咋报销啊」改写成规范检索词「报销流程」；再把改写后的文本编码成向量，与知识库中的文档向量做相似度打分，分数最高的 K 篇返回给 Agent。

多源检索整合就像阿聪同时翻「法餐菜谱」和「面点菜谱」两本书——将多个知识库的检索结果按分数归一化后合并排序，让 Agent 一次拿到跨领域的综合证据。工具设计还包括异常处理：搜不到时返回空集，再由 Agent 决定下一步怎么走。

阿聪的案台上放的不只一本菜谱，还有师傅的电话和 iPad 教学视频。工具接口设计得越多、越标准，Agent 的「信息触手」就越长，能触达的知识也就越广。

4. 信息充分判断：试吃一口才知道够不够

阿聪照着菜谱做了第一版，夹起一块让副厨试吃。副厨皱起眉头：「鱼肉可以，但酥皮根本没起来——这页菜谱的信息不够！」这个「试吃」动作，在 RAG Agent 里就是信息充分性判断。

Agent 拿到检索回来的文档后，不会盲目相信「查到了就对了」。它要评估两件事：一是相关性——这些文档跟当前问题沾边吗？二是覆盖度——文档合起来，能否覆盖问题里的关键信息点（实体、条件、数字）？如果相关性得分低，或者关键信息缺了一大块，就判定为「信息不充分」。

实现时，通常给每篇文档算一个相关性得分，再按排名加权求和，与充分性阈值 $\tau_s$ 比较。评估粒度可以是文档级、句子级甚至 token 级：企业知识助手只需检查关键实体是否全部出现在文档中，复杂推理则让模型生成一个「还缺什么信息」的清单，逐项核对。

这个「试吃」机制，让 Agent 不至于端上一盘「看起来有菜谱、实际上缺步骤」的半成品。阿聪的餐厅能拿米其林三星，靠的就是这一口严谨。

5. 多轮迭代检索：不够就再打电话追问

阿聪翻完菜谱，发现「酥皮配方」在第 3 页，但做法里写着「需要低温醒面」——低温是多少度？菜谱没写。他掏出手机，又给法国师傅打了个电话。一次没查够，就再查一次；这次的电话比翻书更精准，直接问「4°C 低温醒面多久」。多轮迭代检索，就是把这个「查→评→再查→再评」的循环形式化。

第 $t$ 轮，Agent 用当前查询 $q^{(t)}$ 检索知识库，得到文档集 $D^{(t)}$，然后做充分性判断。如果判定不充分，就用一个 Refine（精化）函数，根据已查到的文档生成更精准的下一轮查询——比如从文档里提炼出「低温=4°C」这个缺失的关键信息，补充进查询词。之后进入第 $t+1$ 轮，直到满足终止条件。

循环不能无限跑下去，所以有两个终止条件：信息充分了（达到阈值 $\tau_s$），或者轮次超过上限 $T_{\max}$（常见 2 到 5 轮）。少了查不全，多了浪费时间和算力，这个「止损线」是多轮迭代的设计精髓。

多轮迭代不是无脑重复，而是「越问越精准」的追问——阿聪的电话越打越短，因为问题越来越聚焦。真正高效的 Agent，每一轮检索都比上一轮更接近答案。

6. 结果整合推理：把菜谱变成自己的菜

菜谱、电话记录、阿聪自己的手艺——三样东西凑齐了。但他绝不会把菜谱纸直接铺在盘子上端给客人。他会动手做菜，把菜谱的步骤融进自己的火候与调味里。这个「融会贯通」的过程，在 RAG Agent 里就是结果整合推理。

Agent 同样不能把检索文档原文整段粘贴给用户。它要经历三步：去重过滤——三篇文档讲同一件事，只留最详细的那篇；上下文注入——把过滤后的证据按逻辑顺序组织进提示词上下文；推理生成——让大模型结合自身常识与检索证据，用通顺、简洁的语言生成答案。每一步都直接影响最终质量。

还有一个生产级细节：检索文档如果太多，会把模型的上下文窗口挤爆，所以要控制注入长度；如果两篇文档「打架」（一个说报销 3 天到账，一个说 7 天），还要按时效性和可信度做矛盾裁决。这些工艺，是 RAG Agent 与「简单拼接」的本质区别。

最终端上桌的是一道完整的菜——菜谱的影子还在（答案里可以追溯引用来源），但已经变成了自己的语言。客人吃到的，是阿聪的厨艺，而不是菜谱复印件。

7. 评估与调优：用顾客点评精进手艺

餐厅每季度看一次顾客点评：复购率、差评关键词「酥皮没起来」、「太咸」。阿聪复盘后发现，上次参考的菜谱出版社不靠谱，换成法国师傅的配方后进步明显。评估与调优，就是 RAG Agent 持续变强的闭环。

RAG Agent 的评估分两层。检索层看 Recall@K：真实相关的文档，有没有被召回？端到端层看答案准确率：模型最终输出的答案，对不对、忠不忠实于检索证据？调优则围绕几个旋钮展开：触发阈值 $\tau$、充分性阈值 $\tau_s$、每轮取回数 TopK、最大迭代轮次 $T_{\max}$，通过评测数据做网格搜索。

调优策略有规律可循：如果「答非所问」频繁，就提高 $\tau$ 让 Agent 更勤快检索；如果「幻觉」变多，就提高 $\tau_s$ 从严把关；如果「检索噪声」干扰大，就调小 TopK。每一步调整都用指标验证，而不是拍脑袋。

好厨师靠客人反馈精进手艺，好 Agent 靠评估指标持续迭代。阿聪的菜谱越用越薄，但他的菜越做越好——这正是 RAG Agent 能不断变强的根本原因。

AI 应用场景

Python 演示

class RAGAgent:    """极简 RAG Agent 演示: 模拟"查菜谱"决策循环"""     def __init__(self, knowledge_base, threshold=0.8, top_k=2):        self.kb = knowledge_base          # 外部知识库(菜谱库)        self.threshold = threshold        # 触发检索的置信度阈值 tau        self.top_k = top_k                # 每轮取回 TopK 文档        self.retrieve_count = 0           # 检索次数计数器     def estimate_confidence(self, query):        """模拟模型对自身知识的信心评估(0~1)"""        hits = sum(1 for kw in self.kb if kw in query.lower())        return min(1.0, hits / 3.0)     def retrieve(self, query):        """检索器: 在知识库中找候选文档"""        self.retrieve_count += 1        docs = []        for kw, content in self.kb.items():            if kw in query.lower():                docs.append((kw, content, 1.0))        docs.sort(key=lambda x: x[2], reverse=True)        return docs[:self.top_k]     def judge_sufficient(self, docs, query):        """充分性判断: 问题里的关键实体都要被覆盖"""        words = [w for w in query.lower().split() if w.isalpha() and len(w) > 3]        covered = [w for w in words if any(w in d[1].lower() for d in docs)]        return len(covered) >= max(1, len(words))     def refine_query(self, query, docs):        """根据已查到的文档, 生成更精准的下一轮查询"""        extra = " ".join(            w for kw, content, _ in docs            for w in (kw + " " + content).lower().split()            if w.isalpha() and len(w) > 4 and w not in query.lower()        )        return (query + " " + extra).strip()[:60]     def answer(self, query, max_rounds=3):        """RAG Agent 主流程: 信心判断->检索->充分性判断->迭代"""        docs = []        for _ in range(max_rounds):            if self.estimate_confidence(query) >= self.threshold:                break                    # 信心足, 直接回答            docs = self.retrieve(query)  # 翻菜谱            if self.judge_sufficient(docs, query):                break                    # 试吃合格, 停止检索            query = self.refine_query(query, docs)        if not docs:            return "信息不足: 建议人工确认或补充知识库"        return "综合检索结果: " + " | ".join(content for _, content, _ in docs)  if __name__ == "__main__":    kb = {        "leave": "leave policy: 15 paid days per year",        "reimburse": "reimburse policy: submit via OA within 3 days",    }    agent = RAGAgent(kb)    print(agent.answer("leave policy for new employees"))    print("检索次数:", agent.retrieve_count)    print(agent.answer("insurance claim process"))    print("检索次数:", agent.retrieve_count)

1. hits = sum(1 for kw in self.kb if kw in query.lower())数问题里命中几个知识库关键词，用于估算「有没有把握」。
2. self.retrieve_count += 1每检索一次计数器加一，对应阿聪翻菜谱的次数。
3. docs.sort(key=lambda x: x[2], reverse=True)按相关性得分排序，取最高的 TopK 篇。
4. return len(covered) >= max(1, len(words))「试吃」判断：关键实体全部被覆盖才算信息充分。
5. query = self.refine_query(query, docs)信息不足时，从已查文档中提炼新词，生成更精准的追问。
6. if self.estimate_confidence(query) >= self.threshold: break信心足够就直接回答，不浪费检索资源。

常见误区

面试题