想象你是一家公司的老板,手下来了一位能力很强但尚不熟悉业务的新人。你想让他尽快独当一面,通常有三条路:花重金送他去进修班,把公司业务准则彻底刻进他的思维方式;或者给他配一台装满实时资料的公司平板,遇到不懂就随手查;再或者,干脆把他提拔成项目负责人,授予他调用资源、自主决策的权力。这三条路,恰好对应 AI 领域三种主流的能力升级方式——微调(Fine-tune)、检索增强生成(RAG)和智能体(Agent)。微调是“改脑子”,用标注数据重塑模型本身;RAG 是“配外脑”,把知识库挂在模型外面随取随用;Agent 是“给权力”,让模型自己拆任务、调工具、干成事。它们不是谁取代谁的对立关系,而是 AI 产品从 0 到 1 再到 100 的分层演进路线。这篇文章,就用这位新人的成长故事,带你一次看清三者的差异、成熟度、成本与产品落地路径。

岗位关联

掌握三条技术路线的分层选型逻辑,能让你在规划 AI 产品迭代时少花钱、少踩坑,从容回答“现在到底该上哪套方案”这个灵魂拷问。

目录
  1. 可视化演示
  2. 技术演进全景
  3. Fine-tune精讲
  4. RAG架构解读
  5. Agent能力跃迁
  6. 成熟度对比
  7. 产品路线图
  8. 投入产出分析
  9. AI 应用场景
  10. Python 演示
  11. 常见误区
  12. 面试题

可视化演示

对比Fine-tune、RAG与Agent三种AI能力方案的成本、效果与适用场景

本节配有交互动效(进入视口后自动加载,约 3KB)。

Fine-tune vs RAG vs Agent Fine-tune适合领域知识内化,效果高但成本也高 RAG通过外挂知识库低成本扩展模型能力 能力 = 模型参数 + 知识检索 + 工具调用 三种方案互补构成完整的AI产品能力栈

技术演进全景

回到那位新人。你作为老板,最关心的不是“哪条路最高级”,而是“他现在的岗位急需什么”:如果只是话术不标准,送去进修班改习惯;如果是行业知识匮乏,配个资料库更划算;如果要独立负责一个大项目,那就必须放权。AI 能力的演进也是如此——Fine-tune、RAG、Agent 依次登上舞台,背后不是技术炫技,而是产品需求从“让模型更懂我”逐步升级到“让模型能干活”。

首先登场的是 Fine-tune。早期大家发现通用大模型在专业领域“水土不服”,于是用行业数据继续训练它,相当于把新人的思维彻底重塑一遍。紧接着,人们发现每次重塑都太贵太慢,干脆把知识放到模型外面,需要时检索出来喂给模型,这就是 RAG,相当于给新人配了一台实时更新的平板。再后来,单次问答已经满足不了复杂的业务流程,于是 Agent 出现,让模型自己规划任务、调用工具、检查结果,相当于授予新人项目负责人的权力。

这三者给出了一个非常直观的叠加关系:Agent 规划任务时需要检索知识(RAG),输出专业话术时需要领域底座(Fine-tune),所以它们是分层互补,而不是互相取代。

所以当产品经理画架构图时,别再纠结“三选一”。正确的姿势是像老板盘点人才一样问自己:底座够不够扎实?知识够不够新鲜?流程能不能自理?三项答案加起来,才是系统的真实战力。

Ptotal=Pbase+Pknowledge+Pagency\displaystyle P_{\text{total}} = P_{\text{base}} + P_{\text{knowledge}} + P_{\text{agency}}
一个 AI 系统的整体产出能力,约等于“模型底座能力 + 外部知识补给能力 + 自主编排能力”三者之和。
  1. 总产出记号P_total 代表整套 AI 系统交付给业务方的最终价值,是后面三项能力叠加后的汇总口径。
    PtotalP_{\text{total}}
  2. 底座能力P_base 指模型经过微调后内化的领域基本功,比如专业术语、回答风格和稳定的推理习惯。
    Ptotal=Pbase+⋯P_{\text{total}} = P_{\text{base}} + \cdots
  3. 知识补给P_knowledge 指 RAG 随时从外部知识库检索出的即时信息增量,它让系统永远“跟得上最新政策”。
    +  Pknowledge+ \; P_{\text{knowledge}}
  4. 编排杠杆P_agency 指 Agent 通过拆解任务、调度工具带来的放大效应,它把单点能力组织成完整的业务流程。
    +  Pagency+ \; P_{\text{agency}}

Fine-tune精讲

送新人去脱产进修,课程内容是把公司的业务准则、话术风格、行业黑话全部刻进他的思维底层。学费很贵——需要高质量教材(标注数据)、名师一对一辅导(GPU 算力),而且课程周期以月计。更头疼的是,公司战略半年一变,他刚从进修班出来,新业务上线,又得回炉重造。这就是 Fine-tune 的典型画像:效果深刻,但成本高企、更新笨重。

技术上说,Fine-tune 是在预训练大模型的基础上,用某个垂直领域的标注数据继续训练,让模型参数向领域分布偏移。你可以全量更新所有参数,也可以只用 LoRA 这类高效方法冻结大部分参数、只训练少量适配层。经过微调的模型,在特定任务上的表现、输出格式、语气风格都更稳定可控,特别适合金融合规话术、医疗报告生成这类“错一个字都不行”的场景。

但代价同样清晰:首先,数据建设本身就是一座山,几百上千条“问题-标准答案”对需要领域专家逐条审核;其次,训练和评估调优需要专门的 MLOps 能力;最后,知识是有保质期的,一旦业务规则变更,模型不会自己更新,只能重新训练。用公式来盘账,总成本一目了然。

回到老板视角,送人去进修班从来不是“拍脑袋”的决定——只有当岗位足够核心、话术足够刚性、错误代价足够大时,这笔学费才值得掏。微调同理:它是深水区的重武器,不是浅水区的日常工具。

CFT=Cdata+Ccompute+Ceval\displaystyle C_{\text{FT}} = C_{\text{data}} + C_{\text{compute}} + C_{\text{eval}}
微调的总投入 = 标注数据成本 + 算力训练成本 + 效果评估与迭代调优成本。
  1. 总成本记号C_FT 表示完成一次高质量微调所需的全部资源投入,它通常以月和周为单位衡量。
    CFT=Cdata+Ccompute+CevalC_{\text{FT}} = C_{\text{data}} + C_{\text{compute}} + C_{\text{eval}}
  2. 数据成本C_data 是构建高质量标注数据集的花费,包括专家标注、审核、脱敏清洗,是整个微调中最容易被低估的部分。
    CdataC_{\text{data}}
  3. 算力成本C_compute 指 GPU 训练和实验调参的硬件消耗,参数规模越大、训练轮次越多,这笔账单越惊人。
    +  Ccompute+ \; C_{\text{compute}}
  4. 评估成本C_eval 指效果评测、回归测试、上线前的红队对抗测试等持续投入,它决定了模型敢不敢真正上生产环境。
    +  Ceval+ \; C_{\text{eval}}

RAG架构解读

你发现进修班太慢太贵,于是换了个思路:给新人配一台公司平板,里面装着实时同步的产品手册、历史案例、最新政策。他回答问题前先查资料,再组织语言。资料更新了?直接换内容,不用重新培训大脑;某个领域不懂?多装几本手册就行。这就是 RAG(Retrieval-Augmented Generation,检索增强生成)——把知识外挂到大模型的身后,让“记忆”和“思考”解耦。

RAG 的典型流水线分三步:先把企业文档切片、向量化,存入向量数据库;用户提问时,同样把问题向量化,检索出最相关的 Top-K 文档片段;最后把这些片段连同问题一起塞进大模型的上下文,让模型“看着资料作答”。因为答案来自外部知识库而不是模型记忆,所以可以精确追溯到原文,大大压制了幻觉;知识更新也变成“改库”而非“改模型”,成本从几十万降到几千块,速度从天级变成小时级。

当然,RAG 也有自己的天花板:如果库里没有的内容,它照样答不出来;检索到的片段如果本身质量差或与问题错位,生成效果也会被带偏。所以业界常说,RAG 的上限取决于“检索质量”四个字。衡量“找得准不准”,最常用的数学工具是余弦相似度。

你看,给新人配平板这套操作,本质上是在“喂养”他的每一次回答。产品经理最该盯的指标,不是模型有多聪明,而是知识库的覆盖率、新鲜度和检索命中率——平板里的资料更新不及时,再聪明的新人也会说错话。

score(q,d)=vq⋅vd∥vq∥×∥vd∥\displaystyle \text{score}(q, d) = \frac{\mathbf{v}_q \cdot \mathbf{v}_d}{\lVert \mathbf{v}_q \rVert \times \lVert \mathbf{v}_d \rVert}
问题和文档片段的匹配分数 = 两个向量的点积除以两个向量模长的乘积,结果越接近 1 表示越相关。
  1. 向量化表示v_q 是用户问题的向量,v_d 是某篇文档片段的向量,它们把文字翻译成计算机能比较的坐标点。
    vq,  vd\mathbf{v}_q, \; \mathbf{v}_d
  2. 点积计算分子是向量点积,它同时衡量方向一致性和长度贡献,两个向量越“同向”,点积越大。
    vq⋅vd\mathbf{v}_q \cdot \mathbf{v}_d
  3. 模长归一分母是两者模长的乘积,作用是消除文本长度带来的偏差,让分数只看方向不看篇幅。
    ∥vq∥×∥vd∥\lVert \mathbf{v}_q \rVert \times \lVert \mathbf{v}_d \rVert
  4. 相似度得分整体比值就是余弦相似度,取值在 -1 到 1 之间,检索系统按它排序,把最相关的前 K 段送进模型。
    score(q,d)→1\text{score}(q, d) \to 1

Agent能力跃迁

进修班上了,平板也配了,但新人还只能“你问我答”。真正让他独当一面,需要最后一步:升职。你不光给他目标,还授予他权限——可以自己把大目标拆成小任务,可以调用公司内部的各种系统,干完一步检查一步,发现不对劲马上调整方案重来。这就是 Agent(智能体):从“被动的答题者”变成“主动的办事员”。

Agent 的核心不是某一个模型,而是一套“大脑 + 手脚 + 记忆”的组织结构。大脑是 LLM,负责理解目标和推理;规划器负责把目标拆成多步行动计划;工具集是手脚,可以是查数据库的 API、发邮件的脚本、浏览网页的爬虫;记忆模块让它在多轮任务中记住中间结果;最后还有一个反馈闭环,每执行一步就检查结果是否符合预期,不符合就自我修正。业界常说的 ReAct 模式,就是让模型交替进行“思考-行动-观察”,像人一样边干边想。

这意味着 Agent 的能力边界远超前两者:它不再满足于“答得好”,而是追求“办得成”。但代价是系统复杂度指数级上升——规划错了会绕远路,工具调用错了会引发连锁错误,长时间自主运行还可能偏离初始目标。它的成熟度远不如前两者,需要编排框架、沙箱环境和人工兜底共同守护。

在老板眼里,放权是最高级的培养方式,但也是风险最大的。给新人授权之前,你要确认他已经有扎实的底座(微调)和充足的知识补给(RAG)。所以 Agent 不是前两者的替代品,而是站在它们肩膀上的“终极形态”。

st  →  plan    at  →  tools    ot  ⟶  st+1\displaystyle s_t \;\xrightarrow{\;\text{plan}\;}\; a_t \;\xrightarrow{\;\text{tools}\;}\; o_t \;\longrightarrow\; s_{t+1}
Agent 的工作循环:从当前状态出发,规划出动作,调用工具执行,观察结果,再进入下一个状态,如此往复直到目标完成。
  1. 当前状态s_t 描述第 t 步时系统所处的状态,包括已收集的信息、已完成的任务和当前剩余的待办。
    sts_t
  2. 规划动作a_t 是大模型基于当前状态规划出的下一步动作,比如“调用订单查询接口”或“搜索退款政策”。
    st  →  plan    ats_t \;\xrightarrow{\;\text{plan}\;}\; a_t
  3. 工具执行o_t 是调用工具后获得的观察结果,它是一手的真实反馈,也是下一步规划的输入材料。
    at  →  tools    ota_t \;\xrightarrow{\;\text{tools}\;}\; o_t
  4. 状态推进观察结果被吸收进记忆,系统进入新状态 s_{t+1},循环往复,直到目标达成或触发终止条件。
    ot  ⟶  st+1o_t \;\longrightarrow\; s_{t+1}

成熟度对比

三条培养路线摆在面前,老板最关心的问题只有一个:哪条最靠谱?答案取决于你看的是“当下”还是“未来”。从工程成熟度看,RAG 是目前最稳的主力选手:组件标准化、生态成熟、效果可预期;Fine-tune 紧随其后,有大量实践经验但门槛高;Agent 则像刚晋升的年轻主管,冲劲十足但时不时捅娄子,需要有人兜底。

从能力上限看,顺序恰好反过来。微调只能让模型“更懂某个领域”,知识仍封存在参数里;RAG 让模型“随时获取外部知识”,但仍是单轮问答的被动形态;Agent 则能自主规划、连续执行、动态修正,把前两者的能力组织成真正的业务流程。用一句话概括:成熟度看当下,能力上限看未来,成熟的是 RAG,性感的是 Agent。

因此理性的技术决策不是“哪个好就全上哪个”,而是按场景匹配。如果场景要求稳定合规、快速上线,RAG 是首选;如果场景要求特定风格的深度输出且预算充足,Fine-tune 值得投入;如果场景包含多步骤、多系统操作,Agent 才有用武之地。多数成熟产品最终都是“组合拳”:RAG 负责喂知识,微调负责定风格,Agent 负责跑流程。

把你的人才盘点表摊开:谁稳定、谁通用、谁省心,一比便知。技术选型没有最好,只有最适合——老板不会因为某位员工年轻有为,就把所有核心业务都押在他身上,AI 选型同理。

Maturity=Stability×GeneralityMaintenance\displaystyle \text{Maturity} = \frac{\text{Stability} \times \text{Generality}}{\text{Maintenance}}
技术成熟度可以粗略理解为:稳定性和通用性越高、维护成本越低,方案就越成熟可靠。
  1. 稳定性指标Stability 表示方案在线上环境长期运行不出错的概率,RAG 的标准化程度让它在这项上得分最高。
    Stability\text{Stability}
  2. 通用性指标Generality 表示方案跨场景复用的能力,微调出的模型换一个领域就失效,通用性明显吃亏。
    ×  Generality\times \; \text{Generality}
  3. 维护成本分母Maintenance 是长期运维投入,包括知识库更新、模型重训、工具链维护,它作为分母会拉低成熟度。
    Maintenance\text{Maintenance}
  4. 成熟度商值分子两项相乘后除以维护成本,得到一个相对分数,用来横向比较三种方案当下的可靠性。
    Stability×GeneralityMaintenance\frac{\text{Stability} \times \text{Generality}}{\text{Maintenance}}

产品路线图

培养新人有节奏:先让他用平板查资料解决日常高频问题,跑通流程;再挑几个关键岗位送他去进修,把话术打磨到极致;等他足够成熟,才放心把整个项目交给他。产品迭代的路线图,正是这条“先跑起来、再变专业、最后放权”的路径。

第一阶段的主题是“单点功能验证”。不要一上来就重训模型,先用轻量 RAG 搭一个 MVP,把最常见的用户问题接住,用真实流量验证价值假设——用户到底需要什么、回答质量差距在哪。这个阶段的目标不是完美,而是用最小成本拿到真实反馈。第二阶段是“微调深化”。当验证出几个高价值场景后,针对这些场景收集高质量标注数据做 Fine-tune,让输出风格、专业深度显著提升,同时继续用 RAG 兜住知识的新鲜度。第三阶段才是“Agent 编排”。当单点能力稳定后,把多个能力编排成完整的业务流程,让系统自己拆解任务、调用工具、闭环执行,实现从“问答工具”到“数字员工”的跃迁。

路线图最忌讳的是跳级。跳过 RAG 直接上 Agent,等于把一个还没摸清业务的新人直接放到负责人的位置,翻车是大概率事件;同样,永远停留在 RAG 阶段,则会被竞争对手用更智能的体验反超。产品的进化应当是踩着前一级的台阶稳步向上。

这条路线图背后是典型的“小步快跑”产品哲学:每走一步都能沉淀数据、验证假设、培养团队,让每一步的决策都建立在上一步的真实反馈上,而不是凭空拍脑袋。

R(t)={RAG MVP,t<t1RAG+FT,t1≤t<t2Agent,t≥t2\displaystyle R(t) = \begin{cases} \text{RAG MVP}, & t < t_1 \\ \text{RAG} + \text{FT}, & t_1 \le t < t_2 \\ \text{Agent}, & t \ge t_2 \end{cases}
路线函数 R(t):在早期时间点用 RAG 验证价值,中期 RAG 与微调并用深耕效果,后期引入 Agent 实现自主编排。
  1. 时间分界点t_1 是验证期结束的时间节点,标志是核心指标达标,比如回答命中率或用户满意度达到预设阈值。
    t1t_1
  2. 第一阶段t 小于 t_1 时,方案是纯 RAG MVP,目的是用最小成本验证需求,不做重投入。
    RAG MVP,t<t1\text{RAG MVP}, \quad t < t_1
  3. 第二阶段t_1 到 t_2 之间,RAG 与 Fine-tune 并行,用微调打磨高价值场景,用 RAG 保持知识实时更新。
    RAG+FT,t1≤t<t2\text{RAG} + \text{FT}, \quad t_1 \le t < t_2
  4. 第三阶段t 不小于 t_2 后,进入 Agent 编排,将已验证的问答与工具能力组装成端到端的业务流程。
    Agent,t≥t2\text{Agent}, \quad t \ge t_2

投入产出分析

老板最终要拍板的还是预算。进修班学费高但能从根本上改变人;平板方案便宜但要持续更新内容;放权收益最大却要承受试错成本。AI 技术路线也一样,每一分钱都要花得明白,每一阶段的收益都要有办法量化。

先看成本结构。Fine-tune 的成本集中在前期:数据标注、算力训练、评估调优,属于“一次性重投入”;RAG 的成本则分布在持续运营:文档治理、向量库维护、检索质量监控,属于“细水长流型”;Agent 的成本最复杂,除了开发编排框架,还要预留容错成本——工具调用失败、任务跑偏、需要人工介入兜底。再看收益量化:人力节省、响应速度提升、差错率下降、用户体验改善,都可以折算成可比较的业务价值。用 ROI 一算,答案往往出人意料——很多团队花大价钱微调出的模型,ROI 反而不如一个精心维护的 RAG 方案。

团队能力的建设要和路线图同步。第一阶段团队要掌握文档处理、向量检索、Prompt 工程;第二阶段要补上数据标注规范、微调实验管理和评估体系建设;第三阶段则要具备任务拆解设计、工具接入和 Agent 安全护栏的能力。每一步的能力沉淀,都是下一阶段的入场券。

回到老板视角,培养新人不是做慈善,每一笔培训费都要对股东负责。AI 能力的演进同样要敬畏成本、敬畏收益、敬畏节奏——用数据说话,用 ROI 把关,让技术的每一步升级都踩在业务价值的鼓点上。

ROI=Gain−CostCost\displaystyle \text{ROI} = \frac{\text{Gain} - \text{Cost}}{\text{Cost}}
投入产出比 =(业务收益 − 投入成本)÷ 投入成本。ROI 大于 0 才有继续投入的理由,数值越高越值得加大投入。
  1. 业务收益Gain 是 AI 落地带来的可量化收益,比如客服人力节省、客诉处理时长下降、转化率提升带来的增收。
    Gain\text{Gain}
  2. 投入成本Cost 是方案从建设到运维的全生命周期成本,不只看采购价,还要算上人工、算力和容错。
    Cost\text{Cost}
  3. 净收益差值分子是收益减去成本,它表示这笔投入真正赚到了多少,而不是被成本数字迷惑。
    Gain−Cost\text{Gain} - \text{Cost}
  4. 投入产出比净收益除以成本得到 ROI,它让不同技术路线可以在同一把尺子上比较,支撑理性的决策。
    Gain−CostCost\frac{\text{Gain} - \text{Cost}}{\text{Cost}}

AI 应用场景

智能客服产品的三阶段升级

阶段:产品迭代规划

解决的问题:传统客服机器人只能匹配固定话术,遇到政策更新就答错,深度问题直接转人工,导致人力成本居高不下。用“RAG 先行、微调深化、Agent 编排”的分层路线,让客服系统从“会聊天”进化到“能办事”。

具体案例:某电商平台第一轮先做 RAG,把售后政策、物流规则向量化入库,机器人准确率从 60% 提到 85%;第二轮针对高客单价退款场景微调语气与话术,满意度再升 10 个百分点;第三轮引入 Agent,机器人自动调用订单接口查单、计算退款金额、生成工单并回填系统,人工介入率从 80% 降到 20%。

企业内部知识问答平台的选型决策

阶段:技术选型与成本评估

解决的问题:传统做法是雇佣大量人工来答复员工关于 HR 政策、法务条款、报销制度的重复提问,知识分散且更新滞后。通过三方案成本与成熟度的对比框架,可以快速判断不同内容该用哪条技术路线。

具体案例:一家千人规模的公司搭建知识平台:制度类问答全部走 RAG,保证每条答复都能溯源到最新发文;法务合同审核意见这类高频高价值场景,用微调模型产出标准化审核结论;员工入职办理这种多步骤流程,则用 Agent 串联表单填写、材料校验、系统录入三个环节,跑通全自动入职流程。

季度技术评审会上的 ROI 复盘

阶段:投入产出分析与迭代节奏把控

解决的问题:很多团队上线 AI 功能后从不复盘财务账,导致成本失控、价值说不清。用 ROI 公式把收益和成本摆到同一张表上,能逼出哪些功能该加投、哪些该止损。

具体案例:某 SaaS 公司在季度评审会上晒出三张表:RAG 问答模块月成本 8 千元、节省人力 3 人,ROI 高达 5.2;微调模块累计投入 30 万元但只服务 2 个客户场景,ROI 仅 0.4;Agent 试点还处于容错期,ROI 为负但趋势向好。最终决策:RAG 扩大场景,微调收缩到核心客户,Agent 延长试点三个月再评估。

Python 演示

python60 行
# -*- coding: utf-8 -*-"""Fine-tune / RAG / Agent 技术选型与阶段预算模拟器"""  SCHEMES = [    {"name": "Fine-tune", "maturity": 7, "cost": 9, "speed": 3, "fit": 6},    {"name": "RAG", "maturity": 9, "cost": 4, "speed": 9, "fit": 8},    {"name": "Agent", "maturity": 5, "cost": 7, "speed": 5, "fit": 9},]  def scheme_score(scheme, depth_need, recall_need, budget, risk_tolerant):    """计算单方案综合分, 分数越高越适合当前场景"""    if scheme["name"] == "Fine-tune":        match = depth_need * 0.6 + (1.0 - recall_need) * 0.4    elif scheme["name"] == "RAG":        match = recall_need * 0.6 + (1.0 - depth_need) * 0.4    else:        match = (depth_need + recall_need) * 0.5    cost_penalty = scheme["cost"] / 10.0 * (1.0 - budget)    risk_penalty = (10 - scheme["maturity"]) / 10.0 * (1.0 - risk_tolerant)    return scheme["maturity"] * 0.3 + match * 0.4 - cost_penalty * 0.2 - risk_penalty * 0.1  def recommend(depth_need, recall_need, budget, risk_tolerant):    """返回得分最高的技术方案名称与得分"""    scores = []    for s in SCHEMES:        scores.append((s["name"], scheme_score(s, depth_need, recall_need,                                                budget, risk_tolerant)))    scores.sort(key=lambda item: item[1], reverse=True)    return scores[0]  def make_roadmap(total_budget):    """按 RAG先行 -> 微调深化 -> Agent编排 给出预算分配"""    return [        ("第1阶段: RAG 快跑", total_budget * 0.30),        ("第2阶段: RAG + Fine-tune 深化", total_budget * 0.40),        ("第3阶段: Agent 编排", total_budget * 0.30),    ]  def main():    print("=== AI 能力演进: 技术选型与预算模拟 ===")    print("请回答四个问题, 每题取值 0.0 ~ 1.0")    depth = float(input("场景对深层推理的依赖度(0~1): "))    recall = float(input("场景对最新知识的依赖度(0~1): "))    budget = float(input("团队当前可投入的预算比例(0~1): "))    risk = float(input("公司对技术风险的容忍度(0~1): "))    best = recommend(depth, recall, budget, risk)    print("推荐方案: %s" % best[0])    print("综合评分: %.3f" % best[1])    print("---- 建议的 3 阶段投入节奏 ----")    for name, amount in make_roadmap(100.0):        print("%s: %.1f 万元" % (name, amount))  if __name__ == "__main__":    main()
目的:把“微调 / RAG / Agent 怎么选”变成可计算的问题——输入场景对深度推理、最新知识、预算和风险的依赖,程序输出综合评分最高的方案,并给出三阶段预算分配建议。
  1. SCHEMES = [...]预设三种方案的成熟度、成本、落地速度与场景适配度基线数据,相当于给三位“候选人”建了档案。
  2. match = recall_need * 0.6 + ...场景匹配度加权:知识新鲜度需求高就偏 RAG,推理深度需求高就偏微调。
  3. cost_penalty = scheme["cost"] / 10.0 * (1.0 - budget)预算越紧张,成本高的方案扣分越多,模拟“钱不够别硬上微调”的直觉。
  4. risk_penalty = (10 - scheme["maturity"]) / 10.0 * (1.0 - risk_tolerant)成熟度低的方案在风险容忍度低时被扣分,对应 Agent 需要兜底的现实。
  5. return scheme["maturity"] * 0.3 + match * 0.4 - ...综合分 = 成熟度权重 + 场景匹配权重 − 成本惩罚 − 风险惩罚,一把尺子量到底。
  6. def recommend(...)对三个方案逐个打分后排序,返回第一名,完成“技术选型”的核心逻辑。
  7. make_roadmap(100.0)按“RAG 快跑 → 微调深化 → Agent 编排”的经验比例分配总预算,呼应产品路线图的分段投入节奏。
  8. if __name__ == "__main__": main()保证脚本既可被 import 复用,也能直接运行进入交互式问答。

常见误区

误区觉得 RAG 又便宜又能更新知识,那还要微调干嘛?直接把所有知识都丢进向量库,模型就天下无敌了,微调就是浪费钱。

正解RAG 解决的是“知识新鲜度”,Fine-tune 解决的是“行为底层塑造”。如果客服话术需要特定风格、专业术语需要严格一致、回答结构需要固定模板,光靠检索喂资料是不够的。就像给新人配了平板,他查得到资料,但说话方式还是没改过来。两者是互补关系:RAG 负责喂料,微调负责塑形。

为何常见:因为 RAG 的落地成本远低于微调,效果提升又立竿见影,容易让人产生“低投入高回报所以可以全覆盖”的错觉,忽视了风格稳定性这类深层次需求。

误区以为 Agent 就是把几个提示词拼在一起,让模型多聊几句,本质上还是在写 Prompt,没什么技术含量。

正解Agent 是一套完整的工程系统,包含任务规划器、工具集注册与调用、记忆管理、结果校验和反馈闭环。写 Prompt 只是其中的一小步。就像“给新人授权”不是嘴上说句“你看着办”,而是要给他预算权限、系统账号、审批流程和复盘机制。没有工程化支撑的 Agent,跑两步就会偏题甚至闯祸。

为何常见:因为 Agent 的外在表现就是“模型一直在对话”,表面看起来只是多轮 Prompt 的堆叠,内部的规划与反馈机制很难从外部一眼看穿。

误区认为微调就是“大力出奇迹”,数据越多越贵越好、算力越猛越好,只要舍得砸钱,模型效果一定起飞。

正解微调的效果瓶颈常常不在算力而在数据质量。低质量、重复、有偏的标注数据喂进去,模型学到的不是业务智慧而是噪声,花得越多错得越离谱。正确的做法是先做好数据治理,再考虑模型规模,并通过小规模实验验证数据收益后再放量,否则就是把钱扔进无底洞。

为何常见:因为“贵=好”是日常消费的直觉惯性,而微调的成本结构里,数据质量这个最关键的变量又最不容易被量化,所以容易被忽略。

误区把技术演进理解成“版本更新”,觉得 Agent 是最新版本,上了 Agent 之后,RAG 和 Fine-tune 都是过时技术,应该全部下线。

正解正确的理解是“分层叠加”。Agent 在自主执行任务时,恰恰需要 RAG 提供实时知识检索来弥补模型记忆的不足,也需要微调后的底座保证专业输出质量。没有知识补给和领域底座的 Agent,就像一个空有权力却没有资料和基本功的新人,很难把事办成。三者是同一条能力链上的不同环节。

为何常见:因为人类习惯用“新版替代旧版”来理解技术迭代,手机系统、软件版本的升级路径强化了这种思维,忽略了 AI 技术栈的嵌套式结构。

面试题

Q1. 想让 AI 快速接入企业不断更新的规章制度,优先选哪种方案?

单选题 · easy

  • A.全量微调大模型
  • B.检索增强生成方案← 正确答案
  • C.训练自有基础模型
  • D.手工编写规则库

答案:B。制度频繁更新,RAG 只需更新知识库就能同步,成本低速度快。微调需要重新训练,跟不上变化节奏;自建基础模型成本极高;手工规则库无法应对自然语言的开放提问。

Q2. Fine-tune 的本质作用是什么?

单选题 · easy

  • A.更换模型的推理引擎
  • B.改变模型内部参数← 正确答案
  • C.扩充模型训练语料
  • D.给模型增加搜索引擎

答案:B。微调是用领域数据继续训练,让模型参数向业务分布偏移,从而改变行为风格和专业能力。它不换引擎、不加搜索,训练语料的扩充只是手段而非目的。

Q3. RAG 中衡量问题与文档相关性的常用度量是?

单选题 · mid

  • A.欧氏距离直接对比
  • B.余弦相似度计算分← 正确答案
  • C.曼哈顿距离求和法
  • D.编辑距离动态规划

答案:B。检索系统最常用余弦相似度,它关注向量方向一致性,能消除文本长度差异。欧氏距离受向量长度影响大,编辑距离适合字符串匹配而非语义匹配,曼哈顿距离在语义检索中并无优势。

Q4. 相比 RAG,Agent 最关键的增量能力是什么?

单选题 · mid

  • A.更快的文本生成速度
  • B.更低的部署硬件门槛
  • C.自主规划与工具调用← 正确答案
  • D.更大的上下文窗口

答案:C。Agent 的核心飞跃是“从答到做”——自主拆解任务、调用工具、闭环修正。生成速度和硬件门槛不是它的本质优势,上下文窗口大也未必等于能干成事。

Q5. 目前工程化成熟度最高、落地最快的方案是?

单选题 · mid

  • A.全参数大模型微调
  • B.检索增强生成方案← 正确答案
  • C.多智能体协作系统
  • D.从零预训练大模型

答案:B。RAG 组件标准化、生态成熟、成本可控,是目前工程化最稳的主力方案。微调门槛高周期长,Agent 仍处于快速演进期,预训练大模型则是巨头级的重投入。

Q6. 某场景既要求深度领域推理,又要求答案实时引用最新政策,合理组合是?

单选题 · hard

  • A.只用微调硬背政策
  • B.只用 RAG 做通用问答
  • C.RAG 供资料并微调风格← 正确答案
  • D.放弃大模型改用规则

答案:C。深度推理靠微调塑造的领域底座,最新政策靠 RAG 外挂知识库实时补给,两者组合才能兼顾。只微调知识会过期,只 RAG 推理深度不足,退回规则则根本无法应对开放语义。

Q7. Fine-tune 的主要成本构成包括哪些?

多选题 · mid

  • A.高质量标注数据建设← 正确答案
  • B.GPU 算力训练开支← 正确答案
  • C.在线向量库存储费用
  • D.效果评估与迭代调优← 正确答案

答案:ABD。微调总成本 = 数据建设 + 算力训练 + 评估调优。向量库存储属于 RAG 的运营成本,不是微调的构成项,注意区分两类方案的开销结构。

Q8. 一个可落地的 Agent 系统通常需要哪些部件?

多选题 · hard

  • A.任务拆解与规划器← 正确答案
  • B.可调用的外部工具集← 正确答案
  • C.执行结果反馈闭环← 正确答案
  • D.一次性静态提示词

答案:ABC。Agent 的四大件是规划器、工具集、记忆和反馈闭环。一次性静态提示词无法支撑多步动态决策,Agent 需要的是随状态变化的编排逻辑,而非写死的话术。

Q9. 产品第一轮迭代验证单点价值,最合理的启动方式是?

单选题 · easy

  • A.直接上多智能体系统
  • B.从轻量 RAG 方案切入← 正确答案
  • C.先做全参微调模型
  • D.自建千卡训练集群

答案:B。MVP 阶段的目标是用最小成本验证真实需求,轻量 RAG 最快最省。直接上 Agent 或全参微调都属于重投入,在需求未被验证前风险极高。

Q10. 关于 Fine-tune / RAG / Agent 的三层演进,下列说法正确的是?

多选题 · extreme

  • A.三者是替代关系,上了 Agent 就弃用 RAG
  • B.RAG 可为 Agent 提供实时知识,二者互补← 正确答案
  • C.微调后的模型仍可接入 RAG 与 Agent 编排← 正确答案
  • D.预算充足时应跳过 RAG 直接全面 Agent 化

答案:BC。三者的正确关系是分层叠加:Agent 依赖 RAG 的知识补给和微调塑造的底座,微调后的模型也能继续挂载知识库并编排进 Agent 流程。替代论和跳级论都违背了技术演进的客观规律。