Dify：开源 LLM 应用开发平台

为什么需要 Dify：从手写 RAG 管道到可视化交付

传统 LLM 应用开发方式中，团队需要逐一解决以下问题：对接 OpenAI、Claude、通义千问等多家模型 API 并处理鉴权与限流；设计 Prompt 模板并在代码中反复调试；搭建文档加载、文本分块、向量化、向量数据库存储的 RAG 管道；为 Agent 编写工具调用逻辑；最后还要自建日志体系和用户管理。这一套下来，一个最小可用的问答机器人往往需要 2-4 周开发周期，且模型切换、知识库更新等日常运维都依赖开发人员改代码。

Dify 将上述能力全部产品化：模型供应商以插件形式一键接入，Prompt 和知识库在可视化界面中维护，RAG 管道通过拖拽节点即可构建，Agent 支持 ReAct 和函数调用两种推理模式。应用调试完成后，Dify 自动生成 API 接口和 WebApp 嵌入代码，运营人员可以直接在后台补充知识库文档、查看对话日志，无需开发介入。这使得 LLM 应用从“代码项目”变成“可配置产品”。

与同类工具相比，Dify 的气质差异在于“平台化”而非“框架化”：它不要求你写代码来编排逻辑（虽然也提供代码节点），而是提供完整的应用生命周期管理——从开发调试、版本发布到线上监控闭环。这意味着它更适合作为团队级 AI 应用基础设施，而非个人实验工具。

安装与环境配置：Docker Compose 三步就绪

Dify 官方推荐生产环境使用 Docker Compose 或 Helm 部署，最小资源要求为 2 核 CPU、4GB 内存（实际建议 4 核 8GB），磁盘预留 50GB。

步骤一·安装 Docker 环境。确保服务器已安装 Docker 20.10+ 和 Docker Compose v2，可用 docker --version 验证。

步骤二·克隆仓库并启动。Dify 的 docker 目录内预置了完整的编排文件，包含 api（后端服务）、web（前端）、db（PostgreSQL）、redis、sandbox（代码执行沙箱）等核心组件。

步骤三·验证服务。全部容器启动后，访问 http://<服务器IP>/install 完成初始化设置，创建管理员账号即完成安装。

# 1. 克隆 Dify 仓库git clone https://github.com/langgenius/dify.gitcd dify/docker # 2. 复制环境变量模板并启动（首次启动会拉取镜像，约 5-10 分钟）cp .env.example .envdocker compose up -d # 3. 验证容器状态，确认 8 个容器全部 runningdocker compose ps

快速上手：15 分钟跑通第一个知识库问答应用

最小可用流程的思路是：先接入模型，再建知识库，最后创建一个“对话型应用”把两者串联。全程在浏览器操作，无需写代码。

1. 接入模型：登录 Dify 控制台，进入「设置 → 模型供应商」，选择你已有的模型服务（如 OpenAI、Anthropic、DeepSeek 或 Ollama 本地模型），填入 API Key。Ollama 场景下需在 模型供应商 中配置服务地址为 http://主机IP:11434。

2. 创建知识库：进入「知识库 → 创建知识库」，上传 PDF、Markdown 或网页文档，分段模式选择“父子分段”（兼顾检索精度与上下文完整性），索引方式选“高质量”（使用 Embedding 模型，效果优于经济模式），点击保存等待向量化完成。

3. 创建应用：进入「工作室 → 创建应用」，应用类型选「聊天助手」，编排方式选择「Chatflow」。

4. 串联知识库：在 Chatflow 画布中，先拖入「知识检索」节点并关联上一步创建的知识库，再把「知识检索」节点连接到「答案生成」节点的上下文输入，提示词中引用 {{#context#}} 变量作为回答依据。

5. 预览调试：点击画布右上角“预览”，输入测试问题，观察检索到的文档片段和模型回答是否符合预期。

6. 发布上线：点击“发布”按钮，在「访问 API」页签中获取 API 密钥和接口地址（格式为 https://<服务器>/v1/chat-messages），WebApp 访问链接可直接发给内部用户使用。

运行效果：一个支持引用溯源的企业知识问答机器人即可对外提供服务。进阶技巧：在「提示词编排」中给系统提示词补充“仅基于知识库内容回答，若无法回答请明确说明”，可有效降低幻觉；在 Chatflow 中增加「问题分类」节点，可根据用户意图路由到不同处理分支。

核心能力详解：五大支柱

支柱一·可视化工作流编排。Dify 的 Workflow 支持将 LLM 调用、代码执行、HTTP 请求、条件分支、参数提取等 30 余种节点连成自动化管道。典型应用如“文章标题生成”：通过「开始」节点接收用户主题 → 「LLM」节点生成 5 个候选标题 → 「模板转换」节点格式化输出。非技术人员也能通过拖拽搭建，所有节点参数实时可调。

支柱二·RAG 管道系统。知识库模块覆盖“文档导入 → 自动分块 → Embedding 向量化 → 混合检索 → 重排序”的完整链路。支持父子分段、关键词/向量混合检索（Hybrid Search）、Rerank 重排序优化召回精度。1.0 版本中知识库支持多租户权限隔离和文档级生命周期管理。

支柱三·Agent 智能体。支持 Function Calling（函数调用）和 ReAct 两种推理模式，内置 60+ 工具（网页搜索、维基百科、数学计算等），也可通过 OpenAPI Schema 接入自定义工具。多 Agent 协作场景下，可以构建“主 Agent 分工 + 子 Agent 执行”的编排结构。这是 Dify 1.0 版本的核心新增能力，每个 Agent 节点有独立的系统提示词与工具集，且支持并行执行子任务。

支柱四·统一模型网关。一份 API Key 接入所有主流模型供应商，包括 OpenAI、Anthropic、Azure OpenAI、Google Gemini、AWS Bedrock，以及国内的通义千问、文心一言、智谱 GLM、DeepSeek 等。内置模型价格统计与延迟监控，支持多模型自动重试与降级策略（如主模型故障时切换到备选模型）。

支柱五·可观测性与运营。日志模块记录每一次对话的完整链路（推理过程、Token 消耗、延迟、检索命中的文档），支持按应用、用户、时间多维度筛选，并对接 Prometheus 监控指标。标注功能允许运营人员对模型回答打标“满意/不满意”，沉淀为后续微调和 Prompt 优化的数据集。

生产部署与监控：从上线到运维

部署方式一·Docker Compose 单机部署。适合日请求量低于 10 万的中小团队。生产环境务必修改 .env 中的 SECRET_KEY 为强随机值、更换默认数据库密码，并配置外部 PostgreSQL 和 Redis 以获得更好的数据可靠性与性能。建议设置 NGINX_PORT=80 并对接 HTTPS 证书。

部署方式二·Kubernetes 高可用部署。Dify 官方提供 Helm Chart，支持水平伸缩、滚动更新和持久化存储。在 values.yaml 中可配置 api 副本数（建议 2+）和 HPA 自动扩缩容规则。知识库向量化任务较重时，可将 worker 组件单独拆出并配置独立的资源配额。面向公网时必须配置 Ingress 并开启 TLS 终止。

可观测性体系：Dify 支持将日志和指标输出到 Grafana 进行统一监控，关键指标包括应用响应延迟（P95）、Token 消耗速率、知识检索命中率、模型调用失败率。日志持久化建议接入外部 ELK 或 Loki 存储，避免容器重启导致日志丢失。Sandbox（代码执行沙箱）组件应限制其网络访问权限，防止恶意代码执行。生产环境还建议开启「审计日志」功能，记录所有管理操作，满足合规要求。

<p class="para-label">避坑清单：</p>

<ul class="dash-list"><li>坑 1：仍在使用 Docker Compose v1 导致 docker compose 命令不存在，报 unknown command。解决方案：升级 Docker Desktop 到最新版，Compose v2 已内置，或安装独立的 compose 插件。</li><li>坑 2：向量化长期卡住不结束。多为 Embedding 模型 API 限流或网络不通导致。检查 api-worker 容器日志中的具体报错，并确认所用 Embedding 模型（如 OpenAI text-embedding-3）API 余额充足。</li><li>坑 3：.env 中 SECRET_KEY 使用默认值导致安全风险。生产环境必须改为随机字符串，否则存在会话伪造风险。</li><li>坑 4：单节点部署却把向量数据库改为外部 pgvector 但未配置 Volume 持久化，容器重建后知识库数据全部丢失。务必为 PostgreSQL、Redis、Weaviate 三个存储组件挂载持久化数据卷。</li><li>坑 5：升级版本时直接 docker compose pull 而未备份数据库，数据迁移失败无法回滚。升级前必须备份 postgres 数据库和 .env 配置文件。</li></ul>

版本迭代

Dify 自 2023 年 5 月开源以来，演进主线是从“简单 LLM 应用工具”走向“企业级 AI 应用平台”：2023 年聚焦对话应用与知识库基础能力，2024 年重写工作流引擎并引入插件机制，2025 年推出 Agent 编排与多 Agent 协作，2026 年初发布 1.0 GA 正式版，标志着 API 稳定和商业化功能体系成熟。（截至训练数据，部分版本细节可能已有更新）

AI 应用场景

常见误区

面试题

参考来源

• webpageDify GitHub 仓库源码、Release 发布记录、Issue 讨论