DSPy：Prompt 编程——声明式自优化框架

为什么需要 DSPy：手工调 Prompt 的痛点 → 声明式编译

传统 prompt 工程的做法是：针对任务写一段指令，跑一条数据看效果，效果不好就改措辞、加示例、调格式，反复迭代直到满意。这种方式的深层问题有三个。第一，prompt 是纯文本，无法做单元测试、版本管理与复用，一个需求变更往往要重写整段指令。第二，prompt 与具体模型强耦合，从 GPT 换到 Claude 通常需要重新调参。第三，示例选择、指令措辞、格式要求这些关键因素交错影响，人工很难在全局空间里搜索最优组合。

DSPy 把问题域彻底翻转：开发者不再写 prompt，而是描述「这个模块输入什么、输出什么」。这一步通过签名完成，框架负责用语言模型把签名实例化为具体的 prompt。推理流程由模块组装，类似 PyTorch 的 nn.Module——有 forward 方法、可嵌套、可组合。优化器（Optimizer，2.0 前叫 Teleprompter）拿到少量标注数据后，通过编译（compile）自动完成示例挑选、指令改写、思维链引导等优化，把调 prompt 变成可复现的编译过程。

与 LangChain 等编排框架的定位差异：LangChain 强调「链」的组装与生态集成，DSPy 强调「如何找到最优的 prompt 方案」。DSPy 不重复造轮子——检索组件可以接入 LangChain 的 Retriever，Agent 也可以内嵌 ReAct 模块，它专注的是编译优化这一层，两者可叠加使用。

安装与环境配置：3 步就绪

步骤一·安装：DSPy 从 PyPI 安装，要求 Python 3.9+。建议装在虚拟环境中，避免污染全局环境。

步骤二·配置：2.x 用统一的 dspy.LM 接口接入多家模型提供商，模型标识格式为「提供商/模型名」。OpenAI 之外，Anthropic、Ollama 本地模型同样支持——本地模型通过 api_base 参数指定服务地址即可，无需改业务代码。

步骤三·验证：确认安装版本、模型连通。先跑一个最小的签名调用，能返回结果即环境就绪。

python -m venv .venv && source .venv/bin/activatepip install dspypython -c "import dspy; print(dspy.__version__)"

import dspy # 配置语言模型（以 OpenAI 为例，也可用 anthropic/... 或 ollama_chat/...）lm = dspy.LM(model="openai/gpt-4o-mini", api_key="sk-...")dspy.configure(lm=lm) # 连通性验证：让模型输出一句话result = dspy.Predict("sentence -> sentiment")(sentence="DSPy 很棒")print(result.sentiment)

快速上手：10 分钟跑通一个 RAG 管道

最小可用流程分三步：定义签名 → 组装模块 → 直接调用。这个流程展示 DSPy 的核心心智——你不写 prompt，只描述数据契约。dspy.ChainOfThought 会自动注入「先推理再作答」的中间步骤指令。

1. 定义签名 GenerateAnswer：用 dspy.Signature 声明任务描述与输入/输出字段。字段用 dspy.InputField / dspy.OutputField 标注，desc 参数给模型提供字段含义的提示，推荐编写——它直接影响输出质量。

2. 定义模块 RAG：继承 dspy.Module，在 __init__ 中声明子模块——dspy.Retrieve(k=3) 负责检索、dspy.ChainOfThought(GenerateAnswer) 负责生成；在 forward 方法中编排数据流：先检索取回段落，再让生成模块基于段落作答。

3. 实例化并调用：rag(question) 返回结果对象，从 .answer 属性取答案。

结果说明：首次调用走零样本路径，模型依据自动生成的指令回答，通常能得到「水星」这类正确答案。进阶技巧：准备 20–100 条带答案的训练样本，用 BootstrapFewShot 编译一次，示例自动挑选、指令自动优化，回答质量通常明显提升——这是 DSPy 与传统 RAG 框架最大的体验差异。

import dspy lm = dspy.LM(model="openai/gpt-4o-mini")dspy.configure(lm=lm) # 第一步：定义签名class GenerateAnswer(dspy.Signature):    """基于给定上下文，回答用户问题。"""    context = dspy.InputField(desc="可能包含答案的段落")    question = dspy.InputField()    answer = dspy.OutputField(desc="简洁、准确的答案") # 第二步：组装模块class RAG(dspy.Module):    def __init__(self, num_passages=3):        super().__init__()        self.retrieve = dspy.Retrieve(k=num_passages)        self.generate_answer = dspy.ChainOfThought(GenerateAnswer)     def forward(self, question):        context = self.retrieve(question).passages        return self.generate_answer(context=context, question=question) # 第三步：直接调用（此时为零样本模式）rag = RAG()result = rag("太阳系中哪颗行星离太阳最近？")print(result.answer)

核心能力详解：3 大支柱

支柱一·Signature（签名）——prompt 的数据契约。 签名是 DSPy 的最小单元，用类型化字段代替自由文本指令。"question -> answer" 这种简写适合原型；完整写法用 dspy.Signature，支持任务描述、字段说明、字段前缀。签名的设计让 prompt 具备可测试性——字段类型约束了输入输出，可以在编译前做校验。实践中建议为每个字段写 desc，它是模型理解的锚点。签名跨模型复用，换模型不换签名。

支柱二·Module（模块）——可组合的推理单元。 模块把签名实例化为具体行为：dspy.Predict 是单步预测；dspy.ChainOfThought 自动注入中间推理步骤；dspy.ReAct 实现工具调用循环；dspy.Retrieve 封装检索。模块支持嵌套与继承，与 PyTorch 的 nn.Module 心智一致，因此有深度学习背景的工程师上手成本很低。RAG、Agent、多跳推理等复杂结构都可以由模块自由组合出来。

支柱三·Optimizer（优化器）——把调 prompt 变成编译。 这是 DSPy 与其它框架的本质区别。优化器接收训练集与度量函数（metric），在编译时搜索示例、改写指令、选择思维链方式。常用优化器有四个：LabeledFewShot 从训练集挑示例，零成本基线；BootstrapFewShot 用模型自我生成的示例，适合少量数据；MIPROv2 做指令+示例联合搜索，效果上限最高但耗时；BootstrapFewShotWithRandomSearch 是折中方案。2.5 起提供 dspy.optimizer.Auto 自动模式，快速实验用它最简单。

生产部署与监控：从上线到运维

部署方式一·编译产物序列化。 训练环境完成 compile 后，优化好的 prompt 与示例存储在模块参数中。通过 dspy.save(path) / dspy.load(path) 导出导入，如同保存模型权重。线上服务加载已编译对象，跳过编译步骤只跑推理（forward），延迟与成本与普通 LLM 调用一致。正式流程建议：开发环境编译 → 产物存入制品库 → 生产环境只加载产物，保证可复现。

部署方式二·与现有服务集成。 DSPy 不自带服务器，把它作为 Python 库嵌入 FastAPI/Flask 即可。检索组件可替换为适配器接入 LangChain/Weaviate 等外部检索器。高并发场景使用异步 LM 调用，并开启 2.x 的 LM 级缓存，避免相同输入的重复 token 开销。DSPy 也支持通过观测平台接入 tracing，记录每次调用的输入输出、延迟与 token 消耗。

可观测性。 编译过程会记录每个候选方案的 metric 得分，可以据此回溯「为什么选这个指令」。上线后重点监控三个指标：首 token 延迟、token 成本、metric 在真实流量上的回退幅度。编译优化的效果可能因数据分布漂移而衰减，需要定期用新数据重新编译——把重编译作为常态化运维动作，而不是一次性工作。

<p class="para-label">避坑清单：</p>

<ul class="dash-list"><li>坑 1：Token 成本超预期——Bootstrap 类优化器会多次调用模型，小任务先把训练集缩到 50–100 条，用 auto="light" 降低实验开销。</li><li>坑 2：把 compile 写进每次请求——编译耗时分钟级且成本高，务必离线一次性编译并把产物保存复用。</li><li>坑 3：忽略签名 desc 字段——优化器是在签名设定的搜索空间内找解，糟糕的字段描述会系统性拉低优化上限。</li></ul>

版本迭代

DSPy 从 2023 年初的论文概念起步，2024 年 2.0 做了结构性重写（Teleprompter 更名 Optimizer、统一 dspy.LM/dspy.Module 接口），2024 下半年 2.5 引入 Auto 模式与适配器层，把优化从「手动选配置」推进到「自动配置」，主线是降低使用门槛、扩大任务覆盖面（截至训练数据，可能已有更新版本）。

AI 应用场景

常见误区

面试题