嵌套NER：识别层层嵌套的实体结构

可视化演示

展示嵌套命名实体识别中实体层层包含的结构，对比扁平NER、超图标注与Biaffine模型的识别差异。

嵌套实体认知

套娃集市上，掌柜把货架上的娃娃挨个登记。体型最大的红裙农妇登记完正要盖戳，买家却问：“肚子里的绿衣少女呢？再里面的婴儿呢？”掌柜这才明白，一件藏品里可能藏着好几件藏品——文本里的实体也有同样的脾气。

当一个实体的字符区间完整落在另一个实体内部，就叫“嵌套实体”。比如“北京中医药大学”（学校 ORG）里住着“北京”（地点 GPE）；“北京大学信息科学技术学院”里住着“信息科学技术学院”。传统扁平NER（命名实体识别）像只登记货架最外侧的标签，里面的宝贝一律看不见，这正是它最大的局限。

形式化地说，实体的“跨度”就是它在句子中占用的起止位置区间。嵌套约束要求：只要两个实体跨度有交集，就必然一个完全包含另一个，绝不允许“你插在我左边、我插在你右边”的交叉。这条性质是所有嵌套处理方法的设计根基。

理解了套娃的脾气，接下来要解决两件事：怎么“标注”层层叠叠的宝贝（超图），以及怎么“找到”每层宝贝（跨度与Biaffine）。先把货架摆满再说。

超图标注方法

掌柜想出一招：给每层娃娃戴不同颜色的识别环——最外层挂红环，里层挂绿环，婴儿挂金环。帽子可以叠戴，标签也就不会打架。这套“叠环”的记账法，就是超图标注的雏形。

普通序列标注（如 BIO）给每个字贴一个标签，本质是“一个位置只准挂一件货”；超图标注则允许同一个位置同时属于多个实体的跨度，每个跨度携带自己的类别标签。于是“北京中医药大学”挂上 ORG 环，“北京”也能在同一位置挂上 GPE 环，互不冲突。

具体实现时，用一个三维张量来记录所有起止区间与类别的匹配关系：句子长度为 $n$、类别数为 $|\mathcal{C}|$ 时，张量形状是 $n \times n \times |\mathcal{C}|$。某个跨度 $(i,j)$ 属于类别 $c$，就把对应位置置为 1。嵌套实体不再是“选谁不选谁”，而是全部并存、按层解码。

识别环戴好，掌柜的货架一览无余。不过环不会自己戴上——还需要算法去预测每一处该不该套环，下一节看“量轮廓”的办法。

跨度边界方法

集市里淘货，掌柜习惯先弯腰打量宝贝的轮廓：头顶在哪、脚底在哪。轮廓对了，再细看肚皮上的花纹是不是真品。跨度边界方法就是这套“先量轮廓、再鉴定”的两段式手艺。

第一步是生成候选跨度——把句子所有可能的（起点，终点）区间都列出来；第二步训练分类器，判断每个区间是实体还是空盒子，若是实体又属于哪一类。比起逐字打标签，它以“区间”为基本单位，天然能同时容纳内外层。

更精细的做法是分别预测“起点概率”和“终点概率”：用 sigmoid 函数把打分压成 0 到 1 之间的概率，起点概率与终点概率同时超过阈值的起止配对，才构成候选跨度；之后再交给跨度分类器做最终判决。这样可以把理论上的 $O(n^2)$ 种组合剪掉大量明显不可能的区间。

轮廓量好，还得鉴定花纹。掌柜说，光量轮廓不够，关键要“头脚相认”——下一节的天平就派上用场了。

Biaffine模型

掌柜有杆祖传天平：鉴定一个跨度时，把起点的“头”放左盘、终点的“尾”放右盘，中间横梁刻着密密麻麻的旋钮（矩阵）。头和尾配合默契，天平就亮出高分。这杆天平，就是 Biaffine（双仿射）打分器。

Biaffine 不一刀切地把“头向量 + 尾向量”拼起来过一层网络，而是让两个向量通过一个矩阵发生双线性交互——头向量的每个分量都能与尾向量的每个分量相乘，再按矩阵权重求和。这样“头字与尾字之间”的关系被充分刻画，比简单的拼接或点积丰富得多。

数学上，对类别 $c$，跨度 $(i,j)$ 的打分由三部分组成：头向量转置乘矩阵 $\mathbf{W}_c$ 再乘尾向量（双线性项）；头尾拼接向量与 $\mathbf{U}_c$ 的内积（线性项）；以及偏置 $b_c$。所有类别各打一遍分，经过 softmax 得到该跨度的类别分布。由于每个嵌套实体的“头尾”位置不同，它们可以同时被各自的打分区分出来。

天平在手，层层娃娃皆可称量。可掌柜很快发现：空盒子太多，称到手软也找不全真品——训练也要讲究章法。

训练优化策略

集市仓库里，真娃娃只占一小撮，空盒子和碎木片堆成小山。掌柜若一视同仁地逐个细看，眼光很快被满天飞的空盒子带偏。嵌套NER训练正是这个道理：所有候选跨度里，“非实体”的负样本占了绝大多数。

直接拿普通交叉熵训练，模型会发现“把所有跨度都判成非实体”就能把损失压到很低，于是偷懒躺平。为此业界常用三招：加权交叉熵给正样本更高权重；焦点损失（Focal Loss）让模型把注意力从“已轻松判对的样本”转移到“怎么也拿不准的难例”上；难例挖掘则只挑最像实体的负样本进训练。

焦点损失的公式在普通交叉熵前乘了一个调制因子：模型对真实类别越有把握，$(1-p_t)^{\gamma}$ 越小，该样本的损失贡献被压低；越是没把握的难样本，贡献越大。同时工程上还要限制最大跨度长度，把 $O(n^2)$ 的候选规模砍到可控范围，否则推理时间会随句长急剧膨胀。

训练有素的掌柜，终于能在自家集市把每一层娃娃登记得又快又准。接下来，他准备带着手艺走四方。

场景落地应用

掌柜挑着工具箱走出小镇：不同集市的货品千奇百怪，但“层层鉴定”的道理不变。医疗、法律、学术三大集市，是嵌套实体最密集的地方。

医疗病历是最典型的嵌套宝库：“右肺上叶前段磨玻璃结节”里，解剖部位（右肺）、肺叶分段（上叶前段）、影像征象（磨玻璃结节）层层相套，扁平抽取只能取到最外层，结构化后就丢了从属关系。法律文书里，“北京市朝阳区人民法院”内嵌“北京”“朝阳区”，机构层级与管辖信息要一层层剥开。学术摘要里，“基于深度学习的命名实体识别方法”内嵌着“深度学习”和“命名实体识别”两个方法实体。

落地优化集中在三处：数据标注阶段用超图标注工具保证多层标签不丢失；推理阶段限制最大跨度并及时剪枝，保证长文吞吐；评测阶段用逐实体 F1——精确率（Precision）与召回率（Recall）缺一不可，任何一层宝贝漏掉都算召回损失，任何一层误报都拉低精确率。

三个集市跑下来，掌柜的名号传开了——“套娃掌柜，层层分明”。你学到的，正是这套层层分明的本事。

AI 应用场景

Python 演示

# -*- coding: utf-8 -*-"""嵌套NER演示：Biaffine 双仿射打分识别套娃式嵌套实体""" import numpy as np  def make_spans(n):    """枚举句子中所有候选跨度 [s, e]"""    return [(s, e) for s in range(n) for e in range(s, n)]  class BiaffineNestedNER:    def __init__(self, vocab_size, dim=8, num_labels=3, seed=7):        rng = np.random.default_rng(seed)        self.dim = dim        self.num_labels = num_labels        self.E = rng.normal(0, 0.1, (vocab_size, dim))        self.W = rng.normal(0, 0.05, (num_labels, dim, dim))        self.U = rng.normal(0, 0.05, (num_labels, 2 * dim))        self.b = rng.normal(0, 0.05, (num_labels,))     def logits(self, h, t):        """头向量 h 与尾向量 t 的组合打分"""        pair = np.concatenate([h, t])        out = np.zeros(self.num_labels)        for k in range(self.num_labels):            out[k] = h @ self.W[k] @ t + self.U[k] @ pair + self.b[k]        return out     def train(self, sents, golds, steps=800, lr=0.03):        for _ in range(steps):            for sent, gold in zip(sents, golds):                emb = np.array([self.E[i] for i in sent])                for s, e in make_spans(len(sent)):                    logits = self.logits(emb[s], emb[e])                    q = np.exp(logits - logits.max())                    q = q / q.sum()                    y = gold.get((s, e), 0)                    delta = q.copy()                    delta[y] -= 1.0                    dh = np.zeros(self.dim)                    dt = np.zeros(self.dim)                    for k in range(self.num_labels):                        dh += delta[k] * (self.W[k] @ emb[e] + self.U[k][:self.dim])                        dt += delta[k] * (self.W[k].T @ emb[s] + self.U[k][self.dim:])                    for k in range(self.num_labels):                        self.W[k] -= lr * delta[k] * np.outer(emb[s], emb[e])                        self.U[k] -= lr * delta[k] * np.concatenate([emb[s], emb[e]])                        self.b[k] -= lr * delta[k]                    self.E[sent[s]] -= lr * dh                    self.E[sent[e]] -= lr * dt     def decode(self, sent, labels, threshold=0.5):        emb = np.array([self.E[i] for i in sent])        hits = []        for s, e in make_spans(len(sent)):            logits = self.logits(emb[s], emb[e])            k = int(np.argmax(logits))            if k != 0 and logits[k] > threshold:                hits.append((s, e, labels[k], round(float(logits[k]), 3)))        return hits  def main():    vocab = list("北京中医药大学东直门医院")    idx = {w: i for i, w in enumerate(vocab)}    s1 = [idx[w] for w in "北京中医药大学"]    s2 = [idx[w] for w in "东直门医院"]    golds = [{(0, 1): 1, (0, 6): 2}, {(0, 4): 2}]  # 0=O, 1=GPE, 2=ORG    model = BiaffineNestedNER(vocab_size=len(vocab))    model.train([s1, s2], golds, steps=800)    for sent, name in [(s1, "北京中医药大学"), (s2, "东直门医院")]:        print(name, "=>", model.decode(sent, ["O", "GPE", "ORG"]))  if __name__ == "__main__":    main()

1. def make_spans(n):枚举句子所有候选跨度，对应“先量轮廓”的候选生成步骤。
2. out[k] = h @ self.W[k] @ t + self.U[k] @ pair + self.b[k]Biaffine 核心：双线性项 + 线性项 + 偏置。
3. delta[y] -= 1.0交叉熵对 logits 的梯度，模型靠它知道“该往哪个方向校准”。
4. self.E[sent[s]] -= lr * dh反向更新起点字符向量，让“头”学会与“尾”配合。
5. golds = [{(0, 1): 1, (0, 6): 2}, {(0, 4): 2}]标注数据里 0 号跨度是 GPE、6 号跨度是 ORG，两者重叠即嵌套。
6. model.decode(sent, ["O", "GPE", "ORG"])解码时逐个跨度取最高分标签，超过阈值才算实体。

常见误区

面试题