用代码写标注规则：数据编程方法

可视化演示

展示系统处理流水线、实时性能指标曲线及多方案对比分析，包含数据流转、吞吐延迟监控与方案评估。

核心理念：把大师傅的经验写进代码

甜品店推出新品，需要给每道甜品标注“热带风味”“偏甜”“适合儿童”。如果请米其林大师傅逐道试吃，每道三分钟，一万道就是五百小时，而且大师傅一旦休假，整个流程立刻停摆。于是店长换了个思路：请大师傅把判断依据写成一张张品鉴卡，“看到芒果颗粒标热带风味”“糖度计超过 20 标偏甜”。普通店员按卡执行，一分钟能批十道甜品。数据编程就是这个思路的工程化：把人的标注知识编码成一个一个标注函数，再让程序批量给未标注数据打上弱标签。

这套方法最早来自斯坦福团队的弱监督研究，核心产物是 Snorkel 开源框架。它把人类知识转化成“标注函数”，让标注从雇佣大量人工的体力活，变成编写和运行代码的工程活。一条标注函数就像一张检查卡：面对一段文本，满足条件就给一个标签，不满足就弃权，不强行表态。

$$\displaystyle \lambda_i(x)=\begin{cases} v & \text{if rule } i \text{ fires on } x,\\ 0 & \text{otherwise.}\end{cases}$$

1. 输入样本 \(x\)：它是一条待标注的数据，比如一句商品评论或一段临床文本。

$$\displaystyle x \in \mathcal{X}$$

2. 规则触发：第 \(i\) 条规则在这条样本上成立，比如文本里出现了“芒果”。

$$\displaystyle rule_i(x) = \text{true}$$

3. 输出标签 \(v\)：规则成立时，函数给出一个候选标签，比如“热带风味”。

$$\displaystyle v \in \mathcal{Y} \cup \{0\}$$

4. 弃权 0：规则不成立时返回 0，表示这条函数不参与此次判断。

$$\displaystyle \lambda_i(x) = 0$$

一张检查卡可能被写错，但十张不完美的检查卡彼此纠偏，就能得到可靠结论。这正是数据编程“多而不精，合而为一”的哲学。

标注函数编写：给试吃员一张不会漏项的检查卡

大师傅的品鉴经验往往很抽象，比如“这甜品很热带”。但写成检查卡时，必须落到可执行的客观信号：看到芒果颗粒，闻到柠檬香气，或者包装上印着“菠萝风味”。数据编程里的标注函数也一样，它由一个输入、一个条件和一组输出构成。输入是原始数据，条件可以是关键词、正则表达式，也可以是对外部知识库的查询。

从工程师视角看，一条标注函数就是一个普通函数：输入一段文本，内部用 if 判断是否命中规则，命中就返回一个标签，没命中就返回 0。比如评论里出现“芒果”就返回“热带风味”，出现“糖度很高”就返回“偏甜”。这些函数本质上是启发式规则，不需要非常精确，只要比随机猜测好一点，就有融合价值。

编写过程强调迭代。第一版检查卡往往太粗，比如把“柠檬”也算热带风味，结果大批不相关样本被误标。此时不要急着改一条规则，而是先统计覆盖率、重叠率和冲突率：有多少样本被至少一条函数覆盖？多少样本被多条函数同时给出不同标签？这些指标能告诉你检查卡漏了什么、吵了什么。然后针对问题新增或修改规则，再跑一轮，形成“写卡—评估—改卡”的循环。

甜品店的检查卡不是一次写成的。今天发现“含椰浆”没覆盖，明天发现“百香果”被误判成“偏甜”，都需要反复补充。数据编程的价值不在于第一版完美，而在于迭代成本足够低：改一行代码，重新跑一遍，全部标注自动更新。

融合去噪：别让一个偏心的品鉴员带偏整桌菜

十个品鉴员一起评审一道甜品，每个人都可能看走眼。有人对甜味特别敏感，总把微甜标成“偏甜”；有人只认识芒果，看到黄颜色就喊“热带风味”。如果让所有人投票，一些极端偏差会被平均掉；但如果某个品鉴员特别不可靠，简单多数投票就会被带偏。所以甜品店需要给每位品鉴员一个可信度权重，靠谱的人权重高，总出错的人权重低。

数据编程处理噪声的方式与此一致。最朴素的融合是多数投票，但多数投票默认所有标注函数质量相同，这在现实中很少成立。于是我们用生成模型估计每条标注函数的混淆矩阵：真标签是“甜”的时候，这条函数有多少概率输出“甜”？有多少概率输出“热带风味”？估计出这些概率后，再对函数输出做加权融合。

$$\displaystyle \hat{y}(x)=\arg\max_{y\in\mathcal{Y}}\sum_{i=1}^{n}w_i \cdot \mathbb{1}[\lambda_i(x)=y]$$

1. 候选标签集合 \(\mathcal{Y}\)：我们最终要在所有可能的标签里选一个，比如“甜”“热带风味”“普通”。

$$\displaystyle y \in \mathcal{Y}$$

2. 单条函数投票：\(\mathbb{1}[\cdot]\) 是一个指示函数，括号里条件成立时值为 1，否则为 0。

$$\displaystyle \mathbb{1}[\lambda_i(x)=y] = 1 \text{ if match else } 0$$

3. 加权求和：把每条函数的投票乘以权重再相加，得到每个标签的总分。

$$\displaystyle S(y) = \sum_{i=1}^{n} w_i \cdot \mathbb{1}[\lambda_i(x)=y]$$

4. 取最大值：\(\arg\max\) 表示选择总分最高的标签作为最终预测。

$$\displaystyle \hat{y}(x) = \arg\max_{y} S(y)$$

多数投票适合作为基线，但真实项目里标注函数之间往往互相依赖。比如两条函数都依赖“芒果”这个关键词，它们犯的错误就是高度相关的，简单相加会把同一个偏差重复放大。生成模型的意义，正是估计这种相关性和准确率，让融合结果更接近真实标签。

成本对比：印一次卡片，用一万次

大师傅逐道试吃，成本是“每一道菜都要付一次钱”。写检查卡则是先付一笔固定设计费，再让店员按卡执行，每执行一次的边际成本几乎可以忽略。数据编程把人工标注的线性成本，拆成了一笔前期开发和一份极小的单条计算成本。

设开发检查卡的成本为 \(C_{dev}\)，程序自动标注每条样本的算力成本为 \(\epsilon\)，人工标注每条样本的成本为 \(c\)。那么人工标注的总成本随样本量线性上升，数据编程的成本则是一条平缓的直线。

$$\displaystyle C_{\text{prog}}(n) = C_{\text{dev}} + \epsilon \cdot n, \qquad C_{\text{manual}}(n) = c \cdot n$$

1. 固定开发成本 \(C_{\text{dev}}\)：包括规则设计、代码实现和调试的人力投入，跟样本量无关。

$$\displaystyle C_{\text{dev}} > 0$$

2. 单条自动标注成本 \(\epsilon\)：程序跑一条规则消耗的 CPU 或 API 费用，通常远小于人工单价。

$$\displaystyle 0 \le \epsilon \ll c$$

3. 人工单价 \(c\)：标注员完成一条样本标注的平均成本，包含工资、培训和质检分摊。

$$\displaystyle c > 0$$

4. 盈亏平衡点 \(n^*\)：令两种总成本相等，得到数据编程开始划算的样本量。

$$\displaystyle n^* = \frac{C_{\text{dev}}}{c - \epsilon}$$

数据编程真正的便宜不只在绝对值，还在于可迭代。人工标注一旦发现标准错了，要返工重标；代码规则错了，改一行重新跑就行。边际成本越低，团队越敢试错，标注系统也就越能快速逼近业务需求。

工业实践：从一间甜品店到连锁工厂

当甜品店开成连锁品牌，每一家分店都要给新品打标签，再靠大师傅逐店培训就不现实了。此时总部只需要把检查卡做成标准程序，分店自动执行即可。数据编程在工业界的价值，正是把少数专家的知识，复制到海量数据上。

电商场景中，评论“芒果很甜但价格偏贵”同时包含口味和价格两个属性。算法团队可以写关键词函数抽出口味词，用价格正则抽取出金额，再用加权融合判断整条评论的情感极性。医疗文本里，诊断结论和症状描述往往有固定句式和术语，工程师借助医学词典构造标注函数，可以快速抽取症状、药物和检查项目，为后续实体识别模型提供训练数据。客服工单分类同样适合：工单里常有“退货”“发票”“物流”等高频词，少量规则就能覆盖大部分意图。

这些实践背后都有同一个套路：先利用规则或外部知识库生成大量弱标签，再用生成模型去噪，最后训练一个端到端模型。弱标签不完美，但足以让模型学会特征；比人工标注便宜得多，又比完全无监督可靠得多。

局限边界：规则军团也有够不着的厨房

检查卡不是万能的。若一道菜的“好吃”完全依赖抽象审美，卡片上的客观指标就写不出来；若规则来自一位只会做西餐的师傅，换到川菜店就会水土不服。数据编程同样受限于领域经验和规则表达能力。

首先，规则有领域依赖。在电商评论上有效的关键词，迁移到法律文本里几乎必然失效。其次，函数之间会冲突重叠，如果冲突率长期居高不下，说明规则体系在自我打架，需要重构。再次，弱标签不等于真标签，仍然需要抽取少量样本做人工复核，否则质量控制会失控。最后，不是所有任务都适合数据编程。需要资深专家逐条判断的罕见病诊断、高风险金融审核，交给粗糙规则是危险的。

实践中要给规则系统配监控指标：覆盖率突然下降，可能是线上数据分布变了；冲突率异常升高，可能是某条规则被业务逻辑推翻。保持对边界的清醒，才能让数据编程在合适的场景里真正省钱。

AI 应用场景

Python 演示

# -*- coding: utf-8 -*-import refrom collections import Counter def lf_mango(text):    return "tropical" if "mango" in text.lower() else 0 def lf_citrus(text):    return "tropical" if any(w in text.lower() for w in ["lemon", "citrus", "pineapple"]) else 0 def lf_sweet(text):    return "sweet" if re.search(r"(sweet|candy|sugar)", text.lower()) else 0 def lf_price(text):    return "price" if re.search(r"\d+\s*(元|rmb)", text.lower()) else 0 def lf_spicy(text):    return "spicy" if "chili" in text.lower() else 0 LABEL_FUNCTIONS = [lf_mango, lf_citrus, lf_sweet, lf_price, lf_spicy] def apply_lfs(text):    votes = []    for lf in LABEL_FUNCTIONS:        v = lf(text)        if v:            votes.append(v)    return votes def majority_vote(votes):    if not votes:        return "UNKNOWN"    counter = Counter(votes)    label, _ = counter.most_common(1)[0]    return label def weighted_vote(votes, weights):    score = {}    for lf_index, label in enumerate(votes):        score[label] = score.get(label, 0) + weights[lf_index]    if not score:        return "UNKNOWN"    return max(score.items(), key=lambda kv: kv[1])[0] def main():    samples = [        "This mango cake is very sweet and creamy",        "The lemonade has a fresh citrus flavor",        "Spicy chili noodles with a little sweet sauce",        "The price is 25 yuan for a small bowl",        "A boring snack with no taste"    ]    weights = [0.8, 0.6, 0.5, 0.4, 0.7]    print("Text -> votes -> majority -> weighted")    for text in samples:        votes = apply_lfs(text)        print(text[:25], votes, majority_vote(votes), weighted_vote(votes, weights)) if __name__ == "__main__":    main()

1. def lf_mango(text):一条标注函数对应一张“品鉴卡”，输入是一段文本。
2. return "tropical" if "mango" in text.lower() else 0命中关键词返回标签，否则返回 0 表示弃权。
3. LABEL_FUNCTIONS = [lf_mango, lf_citrus, lf_sweet, lf_price, lf_spicy]把所有弱规则收集成函数列表。
4. def majority_vote(votes):多数投票是最简单的融合方式，默认所有函数一样可靠。
5. counter.most_common(1)[0]直接取票数最高的标签作为最终结果。
6. score[label] = score.get(label, 0) + weights[lf_index]加权投票把函数权重累加到对应标签上。
7. max(score.items(), key=lambda kv: kv[1])[0]这是 \(\arg\max\) 的代码表达，选择总分最高的标签。

常见误区

面试题