Prodigy：主动学习标注

为什么需要 Prodigy：标注瓶颈 → 模型在环的主动学习

传统数据标注流程是「离线标注 + 事后训练」：先用随机抽样或人工挑选的方式标一批数据，再离线训练模型。这个流程有三个突出问题。第一，随机采样会标到大量模型已经能正确判断的样本，标注资源被浪费；第二，标注工具与训练管线分离，标注结果需要手工转换格式才能进入训练；第三，标注过程中没有反馈机制，标注员不知道哪些样本对模型提升最有效，标注策略无法动态调整。

Prodigy 的解法是主动学习：在标注进行时加载一个基线模型（可以用 spaCy 的 blank 模型或已训练模型），标注流通过 *.teach 类 recipe 时，模型会在后台对候选样本打分，优先把「不确定性最高」（模型置信度最低）或「模型预测分歧最大」的样本推送到标注界面。每条标注结果入库的同时，模型可以增量更新或定期重训，下一次推送的样本质量随迭代次数提升。官方在发布材料中的核心主张是：同样的模型精度，主动学习策略比随机采样的标注量需求显著更少。

与同类的气质差异是：Label Studio 和 doccano 是「标注管理平台」思维，重心在任务分配、多人协作、格式导出；Prodigy 是「训练在环」思维，重心在标注过程中不断提高每条标注的信息量，并把产出直接导向模型训练，而不是做通用标注项目管理。

安装与环境配置：5 步就绪

Prodigy 是商业软件，安装分三步：购买授权 → pip 安装 → 激活 license。

第一步，在官网购买后你会获得一个 license key（形如 XXXXX-XXXXX-XXXXX-XXXXX）。安装时 pip 会校验该授权，因此必须先持有 key 再执行安装命令。

第二步，安装主包。文本标注只需基础包；若涉及 Transformer 模型（如 spacy-transformers）、图像或音频标注，需要同时安装对应的 extras 依赖。

第三步，激活授权。推荐通过环境变量 PRODIGY_LICENSE 注入 key，也可以用 prodigy license 命令写入本地配置。二者选其一即可，环境变量方式在 CI/服务器部署时更可移植。

验证通过的标准：prodigy --version 正常输出版本号，prodigy stats 能显示 dataset 数量（初始为 0）且不报 license 错误。若出现 Invalid license 报错，优先检查环境变量是否在当前 shell 生效、key 是否有多余空格。

# 1. 安装主包（需先持有 license）python -m pip install prodigy # 2.（可选）安装扩展依赖：transformers 模型支持、图像、音频标注python -m pip install "prodigy[transformers,image,audio]" # 3. 激活授权（二选一）export PRODIGY_LICENSE="XXXXX-XXXXX-XXXXX-XXXXX"   # 方式一：环境变量prodigy license "XXXXX-XXXXX-XXXXX-XXXXX"          # 方式二：写入本地配置 # 4. 验证安装prodigy --versionprodigy stats   # 显示授权状态与当前数据库信息

快速上手：5 分钟跑通文本分类标注

最小可用流程的思路是：准备一条 JSONL 数据 → 启动一个 textcat.manual 标注会话 → 在浏览器里完成标注 → 导出数据。textcat.manual 是 Prodigy 最基础的 recipe，不加载模型，适合验证工具链路是否打通。

第一步，准备数据文件。Prodigy 的输入流是 JSONL（每行一个 JSON 对象），最简格式只需 text 字段。第二步，启动标注会话：命令格式为 prodigy <recipe> <数据集名> <数据源> --label <标签列表>。第三步，浏览器访问 http://localhost:8080，页面会依次展示样本，标注员选择标签并点击 Accept（接受）或 Reject（拒绝）提交。第四步，标注完成后按 Ctrl+C 停止服务，数据已自动写入默认 SQLite 数据库（prodigy.db）。第五步，导出并转换为可训练格式。

进阶技巧：加 --view-id textcat_manual 之外的选项可定制界面，但入门阶段不必配置。导出后的 annotations.spacy 可直接喂给 spacy train；若只想快速检验效果，用 prodigy stats 查看已标注样本数和标签分布即可。

# 1. 准备两条示例数据printf '{"text": "这家餐厅的服务非常好"}\n{"text": "上菜等了两个小时"}\n' > examples.jsonl # 2. 启动文本分类标注会话prodigy textcat.manual sentiment_cn examples.jsonl --label POSITIVE,NEGATIVE # 3. 浏览器打开 http://localhost:8080，标注完成后 Ctrl+C 停止 # 4. 导出标注结果为 JSONLprodigy db-out sentiment_cn annotations.jsonl # 5. 转换为 spaCy 训练用二进制格式prodigy convert annotations.jsonl annotations.spacy --converter spacy

核心能力详解：5 大支柱

支柱一 · 主动学习闭环（teach / correct / active）。*.teach 类 recipe 是主动学习的执行者：传入 --model 参数指定 spaCy pipeline，模型对候选流中的每条样本实时打分，按「最不确定」优先推送。*.correct 类 recipe 则针对已有预测结果做纠错式标注，适合模型已有一定精度后的精修阶段。两者组合即构成「训练一个新标签 → 用模型筛难例 → 人工确认纠错」的标准迭代循环。

支柱二 · Recipe 配方系统。Prodigy 的每个标注任务都是一个 recipe，本质是用 @prodigy.recipe 装饰的 Python 函数，返回包含 dataset（数据集名）、stream（数据流）、view_id（界面类型）等键的字典。用户可以用自定义 recipe 组合任意数据源（文件、数据库、模型预测输出）与界面类型，例如从 Elasticsearch 读日志、用 OpenAI API 预打标、再交给人工在 ner_manual 界面上确认。这使 Prodigy 从「固定标注软件」变成「可编程标注框架」。

支柱三 · 多模态标注。除文本外，内置 recipe 覆盖图像分类（image.manual）、矩形框选（image.manual.rectangle）、多边形分割（image.manual.polygon）、音频/视频分类（audio.manual）等。文本侧支持 textcat、ner、spans（跨度标注）、relations（关系标注）、choice 五种核心视图。多模态数据统一走同一套数据库与导出链路。

支柱四 · 数据存储与查询。数据默认落在本地 SQLite（prodigy.db），可通过 PRODIGY_DB 环境变量切换为 PostgreSQL 等后端。prodigy db-in/db-out/db-merge/db-drop 命令族负责数据导入、导出与合并；每条标注还记录标注员 session、标注时间、原始输入哈希，便于追溯与去重。

支柱五 · 与 spaCy 训练闭环。这是 Prodigy 区别于通用标注工具的关键：prodigy convert 可直接产出 .spacy 二进制训练文件；spacy train 训练出的新模型又能通过 --model 参数回灌到 *.teach recipe 中继续筛选难例。从零到生产模型的完整数据飞轮，只需要 Prodigy + spaCy 两个工具即可转起来。

生产部署与监控：从上线到运维

单机单人模式。默认 prodigy <recipe> ... 绑定 localhost:8080，数据存 SQLite。适合个人研究、小规模标注（几百到几千条），是最快的工作方式。注意 SQLite 对并发写入支持有限，不要在多进程下同时写同一个库文件。

团队协作模式。标注组扩容时，用 --host 0.0.0.0 --port 8080 将服务暴露到内网，数据库切换为 PostgreSQL（export PRODIGY_DB=postgresql://user:pass@host:5432/prodigy）。同一数据集可被多个标注员并行标注，用 --session 参数区分标注来源（如 --session zhangsan），便于按员统计分析标注质量。公网环境必须在前置加反向代理做身份认证——Prodigy 自身不提供用户登录鉴权。

可观测性。运行期监控靠三个手段：prodigy stats 查看各数据集样本量与标签分布；数据库直查（如 SELECT label, COUNT(*) FROM examples GROUP BY label）做实时统计；标注过程中定期用 prodigy db-out 导出备份。标注数据是训练资产，建议每日备份数据库文件或导出 JSONL 快照。

<p class=“para-label“>避坑清单：</p><ul class=”dash-list”><li>不要把标注服务直接暴露公网：Prodigy 无内置登录鉴权，任何人访问端口即可标注或读取数据，生产环境必须套反向代理加认证。</li><li>db-drop 删数据集无二次确认：误删后无回收站，且操作会立即生效，执行前先 db-out 备份。</li><li>冷启动阶段 *.teach 不生效：没有初始模型时主动学习退化为随机采样，需要先用 *.manual 标注种子数据训练出一个可用模型。</li><li>大规模数据不要一次性 db-in 导入：超大 JSONL 会拖垮流初始化，建议按批次导入或用自定义 stream 做惰性加载。</li><li>标注中途用 kill -9 强杀进程：未落盘的缓存标注会丢失，正确停止方式是 Ctrl+C 或优雅终止。</li></ul>

版本迭代

Prodigy 自 2017 年首发以来版本演进主线清晰——核心主动学习内核保持稳定，迭代重点集中在标注 UI、自定义能力与生态适配。早期版本（v1.0-v1.9）补齐多模态标注与流式数据处理；v1.10 重做 Web 界面并优化大规模流吞吐；v1.11 扩展自定义视图与授权激活流程。整体约每 1-2 年一次大版本，属于成熟稳定型工具迭代节奏。（截至训练数据，可能已有更新版本）

AI 应用场景

常见误区

面试题

参考来源

• webpageProdigy 官网产品介绍、定价与购买入口