假设你经营着一家水果摊,一大筐苹果和橘子混在一起,需要快速分到两个箱子里。大多数人会选择当一名“分拣工”——看一眼颜色、掂一掂重量,红的多半是苹果,橙的多半是橘子。你并不需要知道苹果和橘子内部长什么样,只要划出一条好用的“分界线”就够了。这种做法,机器学习叫判别式模型。 但如果让你画一颗橘子呢?你只能停下来,回忆橘子真实的样貌:橙黄果皮、粗糙的凹陷、光照下的反光……你得先“学会”橘子长什么样,才能凭空画出一颗新的。这种做法,就是生成式模型。 一条“分界的线”与一张“完整的画”,正是这两大流派最本质的分野。理解了这条线,你就明白了为什么 SVM 只会分类、而 GPT 能写诗,也就在面试考场上多了一张王牌。

岗位关联

判别式与生成式的区别是 AI 面试的高频送分题,也是模型选型的基本功。学完这篇,你不仅能把概念讲得比面试官还清楚,还能举一反三,轻松应对一切变形考法。

目录
  1. 可视化演示
  2. 核心定义:分拣工与画家
  3. 数学本质:底牌不同
  4. 建模目标:分界线 vs 全景图
  5. 优缺点对比:各有所长
  6. 典型算法:SVM 与 GPT 的对话
  7. 应用场景:各显神通
  8. 面试通关:三句话答好这道题
  9. AI 应用场景
  10. Python 演示
  11. 常见误区
  12. 面试题

可视化演示

本节配有交互动效(进入视口后自动加载,约 3KB)。

建模目标——P(Y|X) vs P(X,Y) 判别式:直接学决策边界 生成式:学数据分布再推导 小数据:生成式更快收敛 大数据:判别式上限更高 P(Y|X) = P(X,Y) / P(X) (贝叶斯)

核心定义:分拣工与画家

让我们回到水果摊。分拣工拿起一个果子,看一眼颜色、掂一下重量,快速判断“这是苹果”——他从不思考“苹果是怎么长出来的”,只需要一条实用的边界。机器学习中的判别式模型(Discriminative Model)就是这位分拣工:它直接学习“输入特征 X 到输出标签 Y 的映射”,在特征空间中划出一条决策边界,把不同类的样本分隔开。至于边界之外的数据如何分布,它一概不管。

生成式模型(Generative Model)则是那位画家。画家得先弄懂“苹果”这个概念:果皮什么颜色、果肉什么质地、光照下有什么高光。他学的不是一条线,而是“苹果和橘子各自完整的样貌”——统计学上叫联合概率分布 P(X,Y)。掌握了这个分布,他不只能区分,还能画出全新的果子。

从数学的视角看,判别式模型学习的是条件概率 P(Y|X),即“看到特征 X,标签 Y 是什么”;生成式模型学习的是联合概率 P(X,Y),即“特征 X 和标签 Y 一起出现的概率”。一个跳过了“世界长什么样”的细节,一个必须把世界装进脑海。

回到摊位上:分拣工永远画不出一颗橘子,而画家既能画出橘子、也能告诉你手里这颗果子大概是什么。这就是两种模型最直观的分野——一边是技能,一边是理解。

数学本质:底牌不同

分拣工和画家都想知道:手里这颗果子,到底是苹果还是橘子?但两人的“底牌”完全不同。

分拣工的思路是直接判断:看颜色、看大小、看果蒂形状,然后给出结论。这个判断可以写成条件概率 P(Y|X)——在已知特征 X 的情况下,类别 Y 的概率。判别式模型的全部底牌,就是这张 P(Y|X)。

画家则反着来:他先了解“苹果长什么样”(P(X|Y)),也了解“水果摊里苹果多还是橘子多”(P(Y)),然后综合两者反推出 P(Y|X)。这正是贝叶斯公式的用武之地:

一张图总结两派底牌:判别式直接学“条件概率”,生成式先学“似然+先验”,再用贝叶斯公式推“后验”。分拣工在捷径上飞奔,画家绕远路却看清了全局。

P(Y∣X)=P(X∣Y)⋅P(Y)P(X)P(Y|X) = \frac{P(X|Y) \cdot P(Y)}{P(X)}
  1. 后验概率 P(Y|X)已知特征X(颜色红、形状圆),求类别Y(是苹果)的概率。判别式模型直接学它。
    P(Y∣X)=在特征X下属于类别Y的概率P(Y|X) = \text{在特征X下属于类别Y的概率}
  2. 似然 P(X|Y)已知是苹果,那么“颜色红且形状圆”的可能性有多大?生成式模型重点学它。
    P(X∣Y)=给定类别Y时特征X出现的概率P(X|Y) = \text{给定类别Y时特征X出现的概率}
  3. 先验 P(Y)不看任何特征时,苹果在整筐水果中的比例。这是生成式模型额外“记下”的信息。
    P(Y)=类别Y在全部样本中的占比P(Y) = \text{类别Y在全部样本中的占比}
  4. 证据 P(X)“颜色红且形状圆”这一特征在所有水果中出现的总概率。它在分类时只起归一化作用,可以省略。
    P(X)=∑YP(X∣Y)⋅P(Y)P(X) = \sum_{Y} P(X|Y) \cdot P(Y)

建模目标:分界线 vs 全景图

判别式模型的目标,是在特征空间中画出一条漂亮的分界线。分拣工做这件事时,会尽量让线远离两边的水果——线离得越远,以后来一颗新果子时判断就越有把握。SVM 就是这条思路的极致:它不光画线,还要画一条“最大间隔”的线。

生成式模型的目标则完全不同:它要为每个类别画一张“全景图”。假设每类水果的尺寸、颜色都大致服从某种统计分布,模型就从训练数据中估计这些分布的参数——比如苹果的颜色均值、尺寸方差——然后用这张图完整描述“数据是如何产生的”。

所以说,判别式是“分界线派”,目标是找到一个映射函数把空间切分开;生成式是“全景图派”,目标是重建数据背后的完整分布。分拣工眼中只有线,画家眼中是整个果园。

P(X,Y)=P(Y)⋅P(X∣Y)P(X,Y) = P(Y) \cdot P(X|Y)
  1. 联合概率 P(X,Y)特征 X 和标签 Y 同时出现的概率,是生成式模型的直接建模目标。
    P(X,Y)=“是苹果”且“颜色红、形状圆”同时发生的概率P(X,Y) = \text{“是苹果”且“颜色红、形状圆”同时发生的概率}
  2. 先验 P(Y)各类别在总体中的占比,是生成式模型需要估计的第一个零件。
    P(Y)=类别先验比例P(Y) = \text{类别先验比例}
  3. 似然 P(X|Y)给定类别下特征的条件分布(如苹果的颜色分布),是生成式模型需要估计的第二个零件。
    P(X∣Y)=苹果这一类的特征分布P(X|Y) = \text{苹果这一类的特征分布}

优缺点对比:各有所长

| 维度 | 判别式模型 | 生成式模型 |

|------|-----------|-----------|

| 分类精度 | 通常更高 | 略逊一筹 |

| 训练成本 | 低(只需找边界) | 高(需学分布) |

| 数据需求 | 较少 | 较多 |

| 生成新样本 | 不能 | 能 |

| 缺失数据 | 难以处理 | 天然可推理 |

| 异常检测 | 不擅长 | 擅长 |

判别式的三大优势,来自“少管闲事”。分拣工只关心线在哪里,不用理会线外面的世界,所以能把分类这件小事做到极致——尤其在数据充足、类别清晰的任务上,判别式往往精度更高、训练更快。

但“少管闲事”的另一面是“孤陋寡闻”。判别式模型无法理解数据背后的分布,遇到缺失特征只会手足无措;想让它生成一颗新的水果,更是天方夜谭。它能力强,但格局小。

生成式则恰好相反。因为学的是完整的分布,它不仅能分类,还能“开脑洞”生成新的样本;当某几个特征缺失时,它可以通过联合分布推断出最可能的取值。不过代价是:训练更难、计算更贵,而且如果对分布的假设错了,分类精度反而不如判别式。

这就像分拣工一天能分一万颗水果,但你对他说“描述一下苹果的味道”,他只能愣住;画家画得慢,却能在纸上创造一个完整的果园。选谁,取决于你手头的任务。

典型算法:SVM 与 GPT 的对话

知道了区别,我们来认人。判别式家族的代表人物有:支持向量机(SVM)、逻辑回归、决策树、条件随机场(CRF)。它们的共同特点:直接学习 P(Y|X),用边界把类别分开。

生成式家族的代表人物有:朴素贝叶斯、高斯混合模型(GMM)、隐马尔可夫模型(HMM)、贝叶斯网络,以及近几年大放异彩的 GAN、VAE 和 GPT。

SVM 是判别式的典型。它做一件事:找一条离所有数据点都尽量远的超平面,让分类间隔最大。它确实能输出“类别”,但完全没有“这个世界长什么样”的概念。

GPT 则是生成式的当代代言人。它学的不是“这段文本属于哪一类”,而是“接下来的词最可能是什么”。写在这里的公式,是 GPT 一路碾压语言建模的核心:

这样一看就清楚了:SVM 在“分类线”上做到极致,GPT 在“理解生成过程”上登峰造极。同为机器学习明星,赛道完全不同。

P(w1,w2,…,wT)=∏t=1TP(wt∣w1,w2,…,wt−1)P(w_1, w_2, \ldots, w_T) = \prod_{t=1}^{T} P(w_t | w_1, w_2, \ldots, w_{t-1})
  1. 词序列联合概率 P(w_1,……,w_T)整句话“今天天气很好”出现的概率,是生成式语言模型的终极目标。
    P(w1,…,wT)=整句话出现的概率P(w_1, \ldots, w_T) = \text{整句话出现的概率}
  2. 连乘符号 ∏把每个词的条件概率相乘,就是整句话的概率。这个分解叫自回归分解。
    ∏t=1T=从第1个词乘到第T个词\prod_{t=1}^{T} = \text{从第1个词乘到第T个词}
  3. 条件概率 P(w_t | 前文)在已知前文“今天天气很”的情况下,下一个词是“好”的概率。GPT 的训练就是不断预测这个概率。
    P(wt∣w1,…,wt−1)=给定前文,下一个词的概率P(w_t | w_1, \ldots, w_{t-1}) = \text{给定前文,下一个词的概率}

应用场景:各显神通

回到水果摊,分拣工和画家各有各的主场。判别式模型擅长“快速批量分类”的场景——比如垃圾邮件识别。给一封邮件,判断它是正常邮件还是垃圾邮件,不需要理解邮件的“生成机制”,只要守住边界就行。同样的逻辑还适用于信用评分、人脸检测和情感分析。

生成式模型则属于“创作型场景”。ChatGPT 能写文章,本质是它掌握了语言的联合分布,能根据前文一句句生成后续文字;Midjourney 能根据描述画图,本质是它学到了图像数据的分布,能从噪声中“雕刻”出画面。此外,机器翻译和语音合成也不遑多让。

但生成式还有一个“隐藏技能”——异常检测。想象画家画了一千颗正常的苹果,某天桌上放着一个“颜色像香蕉、形状像西瓜”的怪东西,画家立刻会警觉:这玩意不符合我对苹果和橘子的认知。同样的,用生成式模型建模正常数据的分布,一旦遇到概率极低的样本,就能标记为异常。

所以选型时可以记一句口诀:只分类,用判别式;要创作或查异常,用生成式。两种模型都在各自的主场发光发热,没有谁绝对更优。

面试通关:三句话答好这道题

面试官问“判别式模型和生成式模型的区别”,你只需要一个比喻加三句话,就能拿到满分印象。

第一句话讲定义:判别式模型是分拣工,直接建模条件概率 P(Y|X),学习从输入到输出的映射,关注的是一条决策边界。第二句话讲对手:生成式模型是画家,先建模联合概率 P(X,Y),学习数据是怎么生成的,再用贝叶斯公式推导出 P(Y|X)。第三句话讲应用:判别式常用于分类精度要求高、数据充足的场景,典型有 SVM、逻辑回归;生成式能生成数据、处理缺失值和异常检测,典型有朴素贝叶斯、GAN、GPT。

这样一个“定义—对比—举例”的答题模板,既展示了概念深度,又表现出知识广度,比死记硬背十倍的答案都有说服力。

面试中还容易踩坑的地方我们也提前排掉:生成式模型不等于“能生成文字的模型”,朴素贝叶斯虽然常做分类,但它学的是分布,属于生成式;有监督学习也不等于判别式,标签数据只是一顿丰盛的食材,关键看厨师用的是“画线”还是“画图”的料理方式。掌握这几个区分点,再连环的追问也难不倒你。

---

AI 应用场景

垃圾邮件过滤:判别式模型的标准战场

阶段:数据预处理 → 特征工程 → 模型训练与推理

解决的问题:传统规则过滤依赖人工编写关键词列表,遇到新垃圾邮件就得手动更新规则。用判别式模型(如逻辑回归、SVM),只需提取邮件特征(词频、发件人域名),直接学习条件概率 P(垃圾|特征),自动划出边界,新变种也能靠特征的相似性挡住。

具体案例:某邮箱服务商每天收到 2000 万封邮件,用逻辑回归判别式模型区分垃圾/正常邮件。模型训练耗时仅 10 分钟,准确率达到 98.7%,比人工规则库少了 90% 的维护成本。

智能客服文本生成:生成式模型的创作主场

阶段:大模型预训练 → 指令微调 → 对话推理

解决的问题:传统客服是“点菜单式”的固定话术,用户一句“我换了手机号怎么办”就得手动找答案。生成式模型(如 GPT)学习大规模对话的联合分布,能根据上文逐词生成自然回复,还支持多轮上下文理解。

具体案例:某银行智能客服接入 GPT 类生成式模型后,日均处理 80 万次用户咨询,通配率从 35% 提升到 82%;其中“如何修改预留手机号”这类高频问题,模型不仅能给出分步骤操作指引,还能根据用户追问补充细节。

异常交易检测:生成式模型的隐藏杀手锏

阶段:正常样本建模 → 异常分数计算 → 风险预警

解决的问题:反欺诈场景中,“诈骗交易”样本极其稀少,判别式模型很难学到“欺诈类”的边界。生成式模型换了个思路:只对海量正常交易建模联合分布,任何偏离正常分布的样本——概率极低的交易——直接标为可疑。

具体案例:某支付平台用高斯混合模型(生成式)对 3000 万笔正常交易建模,之后每秒扫描 500 笔实时交易,计算对数似然分数。当来电者的消费模式落在“正常分布”的极低概率区域时,系统自动触发二次验证,成功拦截了 93% 的账号盗刷。

Python 演示

python75 行
import numpy as np def generate_data(n=100, seed=42):    """生成两类高斯分布数据, 便于直观对比"""    rng = np.random.RandomState(seed)    x0 = rng.randn(n, 2) * 0.8 + np.array([-2.0, -2.0])    x1 = rng.randn(n, 2) * 0.8 + np.array([2.0, 2.0])    X = np.vstack([x0, x1])    y = np.array([0] * n + [1] * n)    return X, y class LogisticRegression:    """判别式模型: 直接学习决策边界"""    def __init__(self, lr=0.1, epochs=100):        self.lr = lr        self.epochs = epochs        self.w = None        self.b = 0.0     def fit(self, X, y):        n, d = X.shape        self.w = np.zeros(d)        for _ in range(self.epochs):            z = X @ self.w + self.b            p = 1.0 / (1.0 + np.exp(-z))            grad_w = X.T @ (p - y) / n            grad_b = np.mean(p - y)            self.w -= self.lr * grad_w            self.b -= self.lr * grad_b     def predict(self, X):        z = X @ self.w + self.b        return (z > 0).astype(int) class GaussianNaiveBayes:    """生成式模型: 先学类别分布, 再用贝叶斯公式分类"""    def __init__(self):        self.mean = {}        self.var = {}        self.prior = {}     def fit(self, X, y):        for c in np.unique(y):            Xc = X[y == c]            self.mean[c] = Xc.mean(axis=0)            self.var[c] = Xc.var(axis=0) + 1e-6            self.prior[c] = len(Xc) / len(y)     def _log_prob(self, x, c):        diff = x - self.mean[c]        lp = -0.5 * np.sum(diff ** 2 / self.var[c])        lp -= 0.5 * np.sum(np.log(2 * np.pi * self.var[c]))        lp += np.log(self.prior[c])        return lp     def predict(self, X):        preds = []        for x in X:            scores = [self._log_prob(x, c) for c in self.mean]            preds.append(int(np.argmax(scores)))        return np.array(preds) X, y = generate_data() lr = LogisticRegression(lr=0.1, epochs=200)lr.fit(X, y)nb = GaussianNaiveBayes()nb.fit(X, y) print("判别式(逻辑回归) 训练准确率: {:.3f}".format(np.mean(lr.predict(X) == y)))print("生成式(朴素贝叶斯) 训练准确率: {:.3f}".format(np.mean(nb.predict(X) == y)))print("逻辑回归决策边界: w={}, b={:.3f}".format(lr.w, lr.b))print("朴素贝叶斯学到的类别分布均值:")for c in nb.mean:    print("  类别{}: {}".format(c, nb.mean[c]))
目的:用 200 个二维高斯点做二分任务,从零实现逻辑回归(判别式)和高斯朴素贝叶斯(生成式),直观对比两者差异——一个在找边界,一个在学分布。
  1. x0 = rng.randn(n, 2) * 0.8 + np.array([-2.0, -2.0])生成类 0 的样本:以 (-2,-2) 为中心的高斯点云
  2. self.w = np.zeros(d)决策边界的法向量初始化为零
  3. p = 1.0 / (1.0 + np.exp(-z))Sigmoid 函数,把得分变成概率
  4. grad_w = X.T @ (p - y) / n交叉熵损失的梯度,衡量预测与真实差距
  5. self.w -= self.lr * grad_w梯度下降更新边界方向
  6. self.var[c] = Xc.var(axis=0) + 1e-6估计类别 c 每个特征的方差,加小量防除零
  7. diff = x - self.mean[c]新样本与类别 c 均值的偏差向量
  8. lp = -0.5 * np.sum(diff ** 2 / self.var[c])高斯分布对数似然,距离均值越近分数越高
  9. scores = [self._log_prob(x, c) for c in self.mean]对每个类别求分数,取最大值对应的类别

常见误区

误区我一直以为生成式模型就是“能生成文字/图像的模型”,比如 ChatGPT、Midjourney。看到“生成”俩字就归为生成式,看到“分类”就归为判别式。

正解“能不能生成内容”不是判定依据。朴素贝叶斯是经典的生成式模型,却几乎只用来分类;而一个普通的判别式分类器经过改造也可能做数据生成。真正的分水岭在于建模对象:判别式建模条件概率 P(Y|X),生成式建模联合概率 P(X,Y)。只是当生成式模型足够强(如 GPT)时,“生成内容”成了最显眼的副作用。

为何常见:因为近年来最出圈的生成式产品都在“创作”,让大众把“生成”这个行为当成了定义性特征。

误区深度学习时代分类都被判别式统治,所以判别式全面优于生成式,面试时我也总说“判别式更好”。

正解在小数据、强先验、缺失值、异常检测等场景,生成式有独特优势。比如只有 200 条标注数据时,朴素贝叶斯能借助“每类数据的分布假设”泛化得很好;而判别式可能因为数据不足学到过拟合的边界。模型没有绝对的好坏,只有匹配不匹配。

为何常见:因为主流基准(ImageNet 等)上判别式成绩亮眼,容易让人忽略其他维度的评价。

误区我觉得只要用了带标签的数据训练,就一定是在做判别式建模。

正解判别式/生成式和“是否有监督”是两个正交的维度。朴素贝叶斯就是典型例子:它用有标签数据估计每类的分布 P(X|Y) 和先验 P(Y),再完成分类——整个过程是有监督的,但它是实打实的生成式模型。有监督描述的是“数据有没有标签”,判别式/生成式描述的是“模型在学什么概率”。

为何常见:从“有监督 → 分类 → 判别式”做线性联想,忽略了分类维度是独立的。

误区朴素贝叶斯做分类效果挺好的,逻辑回归不也是做分类吗?所以朴素贝叶斯应该是判别式。

正解朴素贝叶斯确实能做分类,但它的预测路径是:先估计每个类别的特征分布 P(X|Y) 和先验 P(Y),再通过贝叶斯公式算出 P(Y|X),最后取概率最大的类。它建模的是联合分布,因此属于生成式。一句话:判别式直接学“后验”,生成式先学“似然+先验”。

为何常见:把“能分类”当成了判别式的判定条件,而判断标准本该是“建模的对象是谁”。

面试题

Q1. 判别式模型的核心思路是?

单选题 · easy

  • A.学习数据的联合分布
  • B.直接找决策边界映射← 正确答案
  • C.建模数据生成过程
  • D.探索数据的潜在结构

答案:B。判别式模型直接学习条件概率 P(Y|X),在特征空间中划出决策边界来分类。A 和 C 描述的是生成式模型(建模联合概率或生成过程),D 是无监督学习的思路。记住分拣工的比喻:判别式只关心“线画在哪”。

Q2. 下列哪个是典型的生成式模型?

单选题 · easy

  • A.支持向量机算法
  • B.逻辑回归分类器
  • C.高斯朴素贝叶斯← 正确答案
  • D.多层感知机模型

答案:C。高斯朴素贝叶斯先估计每个类别的分布参数(均值、方差)和先验概率,再用贝叶斯公式分类,是生成式模型。SVM、逻辑回归、MLP 都直接学习输入到输出的映射,属于判别式。

Q3. 判别式与生成式的本质区别是?

单选题 · easy

  • A.是否有监督信号
  • B.建模何种概率分布← 正确答案
  • C.是否依赖神经网络
  • D.训练数据量大小

答案:B。判别式建模条件概率 P(Y|X),生成式建模联合概率 P(X,Y),这才是本质区别。是否用标签、是否用神经网络、数据量大小,都与两派划分无关。分拣工画线,画家画全景,区别在“学的东西”而非“工具”。

Q4. 朴素贝叶斯属于生成式模型,是因为它?

单选题 · mid

  • A.不依赖任何训练数据
  • B.先估计类别分布再推断← 正确答案
  • C.使用梯度下降优化参数
  • D.只适用于二分类任务

答案:B。朴素贝叶斯先估计每类的条件概率 P(X|Y) 和先验 P(Y),再结合贝叶斯公式推断类别,这正是“先学分布再分类”的生成式路径。它依赖训练数据、不用梯度下降、支持多分类,A/C/D 均错误。

Q5. 关于SVM,下列说法正确的是?

单选题 · mid

  • A.SVM 属于生成式模型
  • B.寻找最大间隔决策超平面← 正确答案
  • C.只能处理线性可分数据
  • D.无法用于分类任务

答案:B。SVM 的核心是找一个离所有样本都尽量远的“最大间隔”超平面,是典型的判别式模型。通过核技巧它可以处理非线性数据,而且主要用途就是分类。A/C/D 与事实不符。

Q6. 一个模型先用最大似然估计学习各类别数据的分布参数,再通过贝叶斯公式推断新样本的类别,该模型属于?

单选题 · mid

  • A.一种典型的判别式模型
  • B.一种典型的生成式模型← 正确答案
  • C.一种无监督聚类算法
  • D.一种强化学习算法

答案:B。题目描述的流程是“先学 P(X|Y) 和 P(Y),再反推 P(Y|X)”,这完整对应生成式模型的建模路径(如朴素贝叶斯、高斯混合模型)。判别式只学 P(Y|X),不学类别的生成机制。

Q7. 以下哪些是判别式模型的优点?(多选)

多选题 · mid

  • A.分类任务精度通常更高← 正确答案
  • B.可以直接生成新样本
  • C.训练计算量通常更小← 正确答案
  • D.能处理缺失特征值

答案:AC。判别式“只划边界不学分布”,因此在充足数据下分类精度高、计算量小。但正因不学分布,它无法生成新样本(B 错),也难以处理缺失特征(D 错)。这两个恰恰是生成式的强项。

Q8. 生成式模型相比判别式模型,其独特优势是?

单选题 · hard

  • A.可以生成新样本← 正确答案
  • B.训练速度更快
  • C.分类精度总是更高
  • D.不需要任何训练数据

答案:A。生成式模型学到了数据的联合分布 P(X,Y),因此可以从中采样生成全新样本,这是判别式做不到的。训练速度、分类精度并非总是生成式占优,且任何模型都需要训练数据。这正对应“画家能画新橘子”的场景。

Q9. 以下哪些属于生成式模型?(多选)

多选题 · hard

  • A.朴素贝叶斯模型← 正确答案
  • B.逻辑回归方法
  • C.生成对抗网络GAN← 正确答案
  • D.支持向量机SVM

答案:AC。朴素贝叶斯估计各类别的分布,GAN 学习真实数据的生成过程,都是生成式模型。逻辑回归和 SVM 直接找决策边界,是判别式模型。注意:朴素贝叶斯虽然常被用来分类,但它学的是联合分布。

Q10. 从生成式视角看,一段文本的概率如何表示?(多选)

多选题 · extreme

  • A.每个词独立出现概率之积
  • B.每个词在之前词条件下的概率之积← 正确答案
  • C.联合概率可分解为条件概率乘积← 正确答案
  • D.文本概率与词序完全没有关系

答案:BC。生成式语言模型(如 GPT)用链式法则把整段话的联合概率分解为每个词在给定前文下的条件概率乘积:P(w1..wT)=∏P(wt|w<t),所以 B 和 C 正确。A 是“词独立”的极端简化假设,D 完全违背语言建模常识。这正是 GPT 每次只预测下一个词的数学原因。