共轭模型与指数族分布：贝叶斯建模的数学优雅

CH-06-12-015·约 19 分钟·机器学习·更新 2026-08-10

想象你是一家“指数餐厅”后厨里的新厨师小枫。师父贝厨师没有急着让你颠勺，而是丢给你一摞配菜卡：“先背熟这些卡，你再碰锅。”你翻开来一看，糖醋里脊、清蒸鲈鱼、宫保鸡丁……上百道菜看似毫无关系，可每一张配菜卡都长一个样：上半部分是固定的“盘子与素菜”，中间是“口味旋钮”栏，下面是“核心食材”栏，最底下还有一行小字“固定成本”。你突然意识到，这个世界上的菜可能远没有你想象的那么多花样。统计学里也有同样的“配菜卡”。正态分布、泊松分布、二项分布这些看似天差地别的概率分布，一旦被写成指数族分布的统一形式，就都共享同一张配方模板。更妙的是，贝厨师又教你一招：餐厅里有些“固定编号套餐”，顾客报一个编号，后厨不用重新设计流程，只要把刚收到的食材记进账本，下一单自动按新配方出菜——这就是共轭模型。先验和后验属于同一个分布族，贝叶斯更新变成简单的“账本加法”。这篇教程，就是带你把这套后厨心法学明白。

岗位关联

指数族与共轭模型是贝叶斯建模的“基础设施”。掌握它，你能用统一视角理解概率分布、快速推导后验，并在概率编程中读懂框架的设计逻辑——这是从“会用工具”迈向“理解工具”的关键一步。

可视化演示
指数族的统一形式
自然参数与积累量
共轭先验的默契配合
后验的解析推导
充分统计量的压缩艺术
概率编程中的指数族
模型评估与选择
AI 应用场景
Python 演示
常见误区
面试题

可视化演示

动态演示共轭模型与指数族分布的核心机制，通过全局/局部/动态/静态四种模式展示关键概念与交互流程。

本节配有交互动效（进入视口后自动加载，约 3KB）。

共轭模型与指数族分布：指数族分指数族分布的统一形式与自然参数常见分布的指数族表示转换核心机制可视化共轭模型与指数族分布整体架构与关键组件

指数族的统一形式

小枫在“指数餐厅”后厨上班的第一天，贝厨师递给他一摞配菜卡。他翻到糖醋里脊那页，又翻到清蒸鲈鱼那页，惊讶地发现：菜名不同、味道不同，可卡片的框架一模一样——上半部分是固定的“盘子与素菜”，中间是空白的“口味旋钮”栏，下面是“核心食材”栏，底部印着一行“固定成本”。小枫问：“为什么所有菜都套同一个模板？”贝厨师笑了：“因为模板才是后厨的底层逻辑，菜只是模板的实例。”

统计学家们在整理概率分布时也发现了同样的“配菜卡”。正态分布、泊松分布、二项分布看似毫无关联，但它们都能被写成一种统一的数学形式：指数族分布。这个统一形式就像那张配菜卡——一旦你认出了它，你就获得了同时理解几百种分布的“后厨直觉”。

正态分布的核心食材清单是 $(x, x^2)$，对应均值和方差；泊松分布只需要称量 $T(x)=x$；二项分布则只关心“成功次数”。全都套进同一张模板。小枫恍然大悟：后厨的真正能力不是背菜谱，而是看懂模板——掌握了指数族的统一形式，你就掌握了从“记菜名”到“懂配菜”的升级。

p(x|\theta) = h(x) \exp\!\big(\eta(\theta)^{\top} T(x) - A(\theta)\big)

这个式子说：任何一个指数族分布，都可以拆成“与参数无关的基座 $h(x)$”乘以“指数部分”，指数里是自然参数 $\eta(\theta)$ 与充分统计量 $T(x)$ 的内积，再减去一个归一化常数 $A(\theta)$。

基座函数 $h(x)$它只跟观测数据 $x$ 有关，跟参数 $\theta$ 无关，相当于配菜卡上预先打印好的“盘子与素菜”，保证密度的骨架是合法的。
$h(x) \ge 0, \quad \text{不依赖于 } \theta$
自然参数与统计量的内积参数 $\theta$ 不直接进入公式，而是先被“口味旋钮” $\eta(\theta)$ 翻译，再与“核心食材清单” $T(x)$ 做内积。旋钮拧得越高，对应食材的权重越大。
$\eta(\theta)^{\top} T(x) = \sum_{j=1}^{k} \eta_j(\theta)\, T_j(x)$
积累量函数 $A(\theta)$它负责吸收所有归一化的“固定成本”，确保整个密度在 $x$ 上积分为 1。
$A(\theta) = \log \int h(x) \exp\!\big(\eta(\theta)^{\top} T(x)\big)\, dx$

自然参数与积累量

小枫在配菜卡上发现一个让他困惑的细节：顾客从不说“加 5% 的盐”，而是说“口味偏咸”；贝厨师也从不按菜谱上的原始数字配菜，而是把顾客的话翻译成一个“口味坐标”。这个坐标，就是数学里的自然参数 $\eta$。原始参数 $\theta$（比如正态分布的均值 $\mu$ 和方差 $\sigma^2$）是“顾客语言”，自然参数 $\eta(\theta)$ 是“后厨语言”——两者之间有确定的翻译规则，但翻译后往往更简洁。

为什么要有两套语言？因为在自然参数坐标系下，“配菜卡”的数学性质会变得非常干净。最漂亮的性质藏在积累量函数 $A(\eta)$ 身上。它表面上只是用来归一化的“固定成本”，但只要你把它对 $\eta$ 求一次导数，就能得到充分统计量的期望；求两次导数，就能得到方差。一阶导数是均值，二阶导数是方差——一个函数同时兼任了“账本”和“仪表盘”。

对后厨来说，这套“坐标翻译”最大的好处是：不管是正态、泊松还是二项，只要把参数拧到自然坐标上，均值、方差这些“菜品的营养指标”都能用同一个公式算出来。小枫感叹：原来师父不背公式，是因为他掌握了一张卡背后更深的“口味坐标系”。

\frac{\partial A(\eta)}{\partial \eta_j} = \mathbb{E}_{\eta}[T_j(x)], \qquad\frac{\partial^2 A(\eta)}{\partial \eta_j \partial \eta_k} = \operatorname{Cov}_{\eta}\big(T_j(x), T_k(x)\big)

这个公式说：积累量函数 $A(\eta)$ 的一阶导给出 $T(x)$ 的期望，二阶导给出协方差。一个函数承载了分布的核心数字特征。

期望的定义左边的期望是对分布 $p(x|\eta)$ 求的，意思是“按当前口味旋钮，核心食材的平均用量是多少”。
$\mathbb{E}_{\eta}[T_j(x)] = \int T_j(x)\, p(x|\eta)\, dx$
对积累量求导把 $A(\eta)=\log Z(\eta)$ 代入，配分函数 $Z(\eta)$ 的导数会“邀请” $T_j(x)$ 进入积分内部，恰好构成期望的形式。
$\frac{\partial}{\partial \eta_j}\log Z(\eta) = \frac{1}{Z(\eta)} \int T_j(x)\, e^{\eta^{\top}T(x)} h(x)\, dx$
二阶导给出方差再求一次导数，会得到 $T_j^2$ 的期望减去期望的平方，正是协方差的定义。
$\frac{\partial^2 A(\eta)}{\partial \eta_j \partial \eta_k} = \mathbb{E}[T_j T_k] - \mathbb{E}[T_j]\, \mathbb{E}[T_k]$

共轭先验的默契配合

餐厅有个不成文的规矩：固定的几道“编号套餐”最受欢迎。顾客进门只说一句“来份 C 套餐”，后厨就立刻知道该准备什么——因为 C 套餐的配菜卡是固定的，流程早已烂熟于心。贝厨师告诉小枫：“在贝叶斯的世界里，也有类似的编号套餐，叫共轭先验。先验和后验属于同一个分布族，就像同一道菜的'初始配比'和'加料后的配比'，配方模板根本不用换。”

回顾贝叶斯公式：后验 = 先验 × 似然 / 证据。麻烦在于分母那个积分，很多时候积不出来。但如果先验和似然都来自同一个指数族，乘法运算就会变成指数部分的加法——指数相加，就相当于把“账本上的数字”加起来，积分立刻有闭式解。

经典搭配很多：Beta 先验配伯努利似然，Gamma 先验配泊松似然，Dirichlet 先验配多项似然。小枫把搭配表贴在灶台上，越看越觉得它像一份“编号套餐目录”——顾客点一个分布，后厨就知道下一步该拧哪个旋钮。

p(\theta|x) = \frac{p(x|\theta)\, p(\theta)}{\int p(x|\theta)\, p(\theta)\, d\theta}

这个公式是贝叶斯推断的总纲：后验正比于先验乘以似然。当先验与似然“配套”（共轭）时，分母的积分可以闭式计算，后验自动落在与先验相同的分布族里。

分子是先验乘似然先验 $p(\theta)$ 是你对参数的已有信念，似然 $p(x|\theta)$ 是新数据带来的证据，两者相乘是“旧信念遇上新证据”。
$p(x|\theta)\, p(\theta)$
分母是证据对所有可能的 $\theta$ 积分，把分子“归一化”，保证后验是一个合法的概率分布。
$\int p(x|\theta)\, p(\theta)\, d\theta$
共轭使积分可算当 $p(\theta)$ 与 $p(x|\theta)$ 属于同一指数族时，分子仍是指数族形式，分母积出来就是一个固定的归一化常数。
$p(\theta|x) \propto \exp\big(\eta_{\text{后验}}^{\top} \theta\big) \in \text{同一指数族}$

后验的解析推导

小枫第一次独立值班，贝厨师给他一个任务：根据今天的点击数据，更新某道菜的“好评率”信念。先验是 Beta(2, 2)——意思是“开张前总觉得好评率在 50% 附近，但不太确定”。今天来了 10 位顾客，7 位说好吃。小枫紧张地翻开账本，贝厨师说：“别慌，账本的结构不用改，你只需要把两个数字加进去。”

这就是共轭模型的威力。Beta 先验配上伯努利似然，后验还是 Beta，只是超参数发生了变化：成功数 $s$ 直接加进 $\alpha$，失败数 $n-s$ 加进 $\beta$。不需要做任何积分，不需要调用任何优化器，三行口算就得到后验 Beta(9, 5)。

小枫算完账本，发现后验均值从上菜前的 0.5 涨到了 $9/(9+5)\approx 0.64$，而且方差变小了——数据越多，越有把握。他意识到：所谓“闭式解”不是数学魔法，而是配菜卡设计得好，让每一次新证据都只是往账本里加数字，从不动账本的结构。

\alpha' = \alpha + s, \qquad \beta' = \beta + n - s

超参数更新规则：新的 $\alpha$ 等于旧 $\alpha$ 加上成功次数，新的 $\beta$ 等于旧 $\beta$ 加上失败次数。这就是“账本加法”。

写出现有信念先验 Beta($\alpha, \beta$) 的密度是 $\theta^{\alpha-1}(1-\theta)^{\beta-1}$，这相当于“账本上已经记着 $\alpha-1$ 次成功”的模糊等价。
$p(\theta) \propto \theta^{\alpha-1}(1-\theta)^{\beta-1}$
乘上似然观测到 $n$ 次实验、$s$ 次成功，似然是 $\theta^{s}(1-\theta)^{n-s}$。乘法把指数相加。
$p(x|\theta) \propto \theta^{s}(1-\theta)^{n-s}$
合并指数得后验指数相加后，$\theta$ 的指数是 $\alpha+s-1$，$(1-\theta)$ 的指数是 $\beta+n-s-1$，正好是 Beta($\alpha+s, \beta+n-s$)。
$\theta^{(\alpha+s)-1}(1-\theta)^{(\beta+n-s)-1}$

充分统计量的压缩艺术

后厨每天都会收到厚厚一叠点菜单，但贝厨师从来不看全本，只让帮工汇总三张表：“每道菜点了多少次”“用了多少核心食材”“还剩多少库存”。小枫问：“丢弃那么多细节，会不会漏掉重要信息？”贝厨师指着配菜卡说：“判断一道菜好不好卖，我只关心它的核心食材汇总数，至于每桌客人的闲聊内容都是噪音。丢掉噪音，留下要害，这才叫会当厨师。”

数学上的“汇总表”就是充分统计量。如果一组汇总数字 $T(x)$ 已经包含了关于参数 $\theta$ 的全部信息，那么原始数据里剩下的部分都是与 $\theta$ 无关的噪音——这个性质由 Fisher-Neyman 分解定理精确刻画。

在指数族中，$T(x)$ 天生就是充分统计量——配菜卡上的“核心食材”栏早就画好了。对于 $n$ 个独立样本，你甚至不需要保存所有原始数据，只保存 $\sum T(x_i)$ 就足够更新后验。小枫感慨：原来后厨“丢点菜单”的底气，来自这张配菜卡早就设计好的“压缩格式”。

p(x|\theta) = g\big(T(x), \theta\big)\, h(x)

这个分解说：任意分布的密度可以拆成两块——一块同时依赖 $T(x)$ 和 $\theta$，另一块 $h(x)$ 只依赖数据。只要这种分解成立，$T(x)$ 就是 $\theta$ 的充分统计量。

因子 $g(T(x), \theta)$它只在“汇总数字 $T(x)$”上跟参数互动。也就是说，数据中与 $\theta$ 有关的信息全部通过 $T(x)$ 传达。
$g\big(T(x), \theta\big)$
因子 $h(x)$它只跟原始数据有关，不依赖参数，是无关于 $\theta$ 的“噪音”部分。
$h(x)$
乘积恢复原密度两者相乘等于原始密度 $p(x|\theta)$，说明整个数据生成过程被完整保留，只是把“信号”和“噪音”分开了。
$p(x|\theta) = g(T(x), \theta) \cdot h(x)$

概率编程中的指数族

随着餐厅越做越大，小枫开始用“智能点餐系统”管理后厨。系统里其实没有菜谱大全，只有一张张配菜卡模板，以及自动填卡的程序。概率编程框架（如 PyMC、Stan）就是这套“智能点餐系统”：你在代码里声明先验和似然，框架自动完成后验推断，不需要你手动推导公式。

在 PyMC 里定义一个共轭模型非常直观：一句话声明先验，一句话声明似然，然后让采样器跑起来。如果你用的正好是共轭搭配，框架甚至可以给你解析后验作为参考——这相当于系统自动校验“手工账本”和“机器账本”是否对得上。

小枫发现，学懂共轭模型后再用概率编程框架，心态完全不一样了：你能看懂框架在做什么，知道什么时候解析解存在、什么时候必须依赖采样，还能用共轭模型的闭式结果去验证 MCMC 采样是否收敛。配菜卡没有变，只是填卡的人从“手工”变成了“自动化”。

p(\theta, x) = p(\theta) \prod_{i=1}^{n} p(x_i|\theta)

这个公式是概率编程模型定义的基石：先验 $p(\theta)$ 乘以所有数据点的似然乘积，构成参数的联合分布。框架在这个联合分布上做推断。

先验 $p(\theta)$在代码里对应 pm.Beta("theta", alpha=2, beta=2)，声明参数 $\theta$ 的分布。
$p(\theta)$
似然乘积假设样本独立同分布，整个数据集的似然等于每个样本似然的连乘。在代码里对应 pm.Bernoulli("obs", p=theta, observed=data)。
$\prod_{i=1}^{n} p(x_i|\theta)$
联合分布先验乘似然得到联合分布，采样器和变分推断器都是在这个联合分布上做文章。
$p(\theta, x) = p(\theta) \prod_{i=1}^{n} p(x_i|\theta)$

模型评估与选择

新菜品上市前，贝厨师总会办一场“试菜会”：既看老顾客的反馈，也对比新旧菜品的口碑数据。小枫问：“账本能算出后验，是不是就够了吧？”贝厨师摇头：“账本好算是流程优势，菜好不好吃还得看数据检验。模型评估就是试菜会，优雅的配方也要过舌头这一关。”

在贝叶斯框架里，“菜好不好吃”对应模型的预测能力。最常用的评估方式是边际似然（也称为证据），它衡量模型 $M$ 对数据的整体解释能力。巧的是，对于共轭模型，这个积分也可以闭式计算——这意味着比较两个共轭模型时，你不需要跑两遍采样，直接算证据之比（贝叶斯因子）即可。

除了数值比较，小枫还学会了后验预测检查：用后验参数生成模拟数据，再看真实数据是否落在模拟数据的合理范围内。若真实数据总在边缘，说明模型没抓住关键结构，再共轭也得回炉重造。试菜会结束，小枫在本子上写下心得：配菜卡再优雅，也要经得起顾客舌头的检验。

p(x|M) = \int p(x|\theta, M)\, p(\theta|M)\, d\theta

边际似然是“在模型 $M$ 下，数据 $x$ 出现的平均概率”——对参数空间内所有可能取值做加权平均，权重是先验。它是模型比较的核心指标。

模型参数下的似然在模型 $M$ 内部，参数 $\theta$ 以先验 $p(\theta|M)$ 分布，每个 $\theta$ 都有对应的数据似然。
$p(x|\theta, M)$
对先验取平均把参数看作随机变量，对 $\theta$ 的所有可能值积分，得到“数据被该模型生成的平均概率”。
$\int p(x|\theta, M)\, p(\theta|M)\, d\theta$
证据用于模型比较两个模型的证据之比就是贝叶斯因子，比值大于 1 表示数据更支持分子上的模型。
$\mathrm{BF} = \frac{p(x|M_1)}{p(x|M_2)}$

AI 应用场景

电商A/B测试实时看板

阶段：模型迭代与后验推断

解决的问题：传统 A/B 测试要等样本量攒够再做假设检验，周期长且无法实时决策。用 Beta-Bernoulli 共轭模型，每个版本的转化率都有一个实时更新的后验分布，产品经理随时能看到“当前某个版本转化率优于对照组的概率”。

具体案例：某直播电商平台上线新版下单按钮，采用先验 Beta(1,1)（即均匀先验），每 10 分钟拉取一次点击数据，直接执行 alpha += 成功数、beta += 失败数 更新后验。当后验均值差距超过阈值且重叠面积足够小时，自动判定胜出版本并切换流量。

内容推荐冷启动

阶段：用户画像构建

解决的问题：新用户没有历史行为时，推荐系统不知道用户偏好。用 Dirichlet-Multinomial 共轭模型，把内容类别分布的先验设为对称 Dirichlet，用户每次点击都做一次超参数加法更新，冷启动阶段也能给出带不确定性的偏好估计。

具体案例：某短视频应用对 3 个内容类别的点击行为建模：先验 Dirichlet(1,1,1)，用户看了 5 条科技视频后，后验更新为 Dirichlet(6,1,1)，从而在“探索”与“利用”之间动态平衡。

金融风控欺诈率监控

阶段：异常检测与风险评估

解决的问题：欺诈交易是罕见事件，直接估计频率波动很大。用 Gamma-Poisson 共轭模型，把每小时欺诈笔数建模为泊松分布，欺诈率先验设为 Gamma，每次窗口数据到达后直接更新超参数，实时得到欺诈率的后验区间，超过阈值触发告警。

具体案例：某支付平台对单商户的欺诈笔数建模，先验 Gamma(2, 1000)（小时均值的先验期望约 0.002），观察到 3 小时内 5 笔欺诈后，后验 Gamma(7, 1003)，均值上升且区间收窄，风控系统自动提高该商户的验证等级。

Python 演示

python47 行

"""Beta-Bernoulli 共轭模型：点击率实时后验更新演示"""import math  class BetaBernoulli:    """Beta-Bernoulli 共轭模型，用闭式解更新后验超参数"""     def __init__(self, alpha=1.0, beta=1.0):        self.alpha0 = alpha        self.beta0 = beta        self.alpha_post = alpha        self.beta_post = beta     def update(self, successes, trials):        """用观测数据更新后验超参数，对应公式 alpha'=alpha+s, beta'=beta+n-s"""        self.alpha_post = self.alpha0 + successes        self.beta_post = self.beta0 + (trials - successes)        return self.alpha_post, self.beta_post     def posterior_mean(self, successes=0, trials=0):        """计算后验均值，可选追加临时观测而不改变账本"""        alpha = self.alpha_post + successes        beta = self.beta_post + (trials - successes)        return alpha / (alpha + beta)     def credible_interval(self):        """正态近似下约 95% 可信区间"""        total = self.alpha_post + self.beta_post        mean = self.alpha_post / total        var = (self.alpha_post * self.beta_post) / (total * total * (total + 1))        std = math.sqrt(var)        return mean - 1.96 * std, mean + 1.96 * std  def main():    model = BetaBernoulli(alpha=2, beta=2)    print("先验: Beta(2, 2), 均值=%.3f" % model.posterior_mean())    model.update(successes=7, trials=10)    print("线上累计点击: 7/10 次")    print("后验: Beta(%d, %d), 均值=%.3f" %          (model.alpha_post, model.beta_post, model.posterior_mean()))    lo, hi = model.credible_interval()    print("95%% 可信区间: %.3f ~ %.3f" % (lo, hi))  if __name__ == "__main__":    main()

目的：演示共轭模型的“账本加法”——用一次 update 调用完成从先验 Beta(2,2) 到后验 Beta(9,5) 的完整贝叶斯更新。

class BetaBernoulli定义一个共轭模型类，把先验和后验的超参数都收进一个“账本”里。
self.alpha_post = alpha初始化后验超参数等于先验，表示“还没看到数据”。
def update(self, successes, trials)共轭模型的核心：把成功数和失败数直接加进账本。
self.alpha_post = self.alpha0 + successes闭式解更新 $\alpha'=\alpha+s$，无需任何积分。
def posterior_mean(self, successes=0, trials=0)计算后验均值，支持附加临时观测而不污染账本。
credible_interval(self)用正态近似算出可信区间，给决策者一个“不确定性范围”。
if __name__ == "__main__": main()可执行入口，直接运行即可看到先验到后验的更新过程。

常见误区

误区“既然是闭式解，那后验就是直接把先验抄一遍，根本不用算。”我一开始学贝叶斯时以为共轭就是'答案自动出现'，跟自己没关系。

正解共轭模型省掉的是“数值积分”和“采样迭代”，但并没有省掉“算”。你仍然要识别数据属于哪个指数族、选择配套的先验、计算充分统计量的汇总值、更新超参数，并且在应用时处理归一化常数。就像“编号套餐”虽然不用重新设计菜谱，但后厨照样得称食材、记账、开火。

为何常见：因为教材常把共轭模型写成“直接得到后验”，省略了中间的代数步骤，初学者容易误以为推导不存在。

误区“既然共轭这么方便，那我对任何分布都能找个共轭先验吧？正态配正态、泊松配伽马，其他分布也照葫芦画瓢就行。”

正解共轭先验的存在依赖指数族的结构。指数族分布的似然能写成“指数线性组合”的形式，先验才能以同族形式吸收似然的贡献。非指数族分布（如支持域依赖参数的均匀分布、t 分布）通常没有简单的共轭先验，强行构造只会得到一堆无法化简的表达式。

为何常见：教材总拿正态、泊松、二项这些“有共轭”的经典例子教学，让人形成“所有分布都能共轭”的错觉。

误区“充分统计量把原始数据压缩成几个数字，肯定丢掉了信息。比如只记均值，方差的信息不就丢了吗？”

正解充分统计量对参数 $\theta$ 是“信息无损”的——它丢掉的只是与 $\theta$ 无关的噪音。Fisher-Neyman 分解定理保证了 $T(x)$ 已经囊括了关于 $\theta$ 的全部信息。比如正态分布的 $(Σx, Σx^2)$ 两个数字，就能完整还原均值和方差相关的全部推断。

为何常见：“压缩”这个词容易让人联想到有损压缩（如 JPEG），但充分统计量做的是针对特定参数的“无损提取”。

误区“先验就是拍脑袋给的，只要数据量够大，后验肯定会收敛到真相，选什么无所谓。”

正解数据量足够大时后验确实会被数据主导，但“足够大”在现实中未必达到；而且在共轭模型中，先验直接决定了超参数的初始档位和不确定性尺度。以 Beta 先验为例，Beta(1,1) 和 Beta(100,100) 在同样数据下的后验收缩速度完全不同。先验是对“已知知识”的编码，不是随意填的缺省值。

为何常见：频率学派思想里“数据说话”先入为主，让人低估了先验在小样本下的影响力。

误区“既然后验是解析算出来的，那它一定正确，不需要再做模型检查。”

正解解析解只能保证“在模型假设下，后验计算正确”，不能保证“模型假设本身正确”。如果似然选错了分布、数据存在离群点、样本不独立，共轭后验再优雅也是“在错误前提下的精确计算”。后验预测检查、残差分析和模型对比仍然必不可少。

为何常见：闭式解的“确定性”给人一种数学证明般的信赖感，让人忽略了建模假设才是误差的真正来源。

面试题

Q1. 指数族分布统一形式中，负责归一化（保证积分为 1）的成分是？

单选题 · easy

A.基座函数 h(x)
B.积累量函数 A(θ)← 正确答案
C.充分统计量 T(x)
D.自然参数 η(θ)

答案：B。A(θ) 是对指数项做积分后取对数得到的“固定成本”，它吸收所有归一化因子，使密度积分为 1。h(x) 不依赖参数，T(x) 是与参数互动的统计量，η(θ) 只是参数的映射，它们都不负责归一化。

Q2. Beta-Bernoulli 共轭模型中，先验为 Beta(α,β)，观测 n 次实验、s 次成功，后验是？

单选题 · easy

A.Beta(α+s, β+n−s)← 正确答案
B.Beta(α+n, β+s)
C.Gamma(α+s, β+n−s)
D.Normal(α+s, β+n−s)

答案：A。Beta 先验的指数与伯努利似然的指数相加，θ 的指数变为 α+s−1，(1−θ) 的指数变为 β+n−s−1，所以后验是 Beta(α+s, β+n−s)。选项 B 把成功和失败放反了，C 和 D 的分布族不对。

Q3. 贝叶斯推断的核心目标是什么？

单选题 · easy

A.只估计似然最大的参数值
B.求参数的后验分布← 正确答案
C.完全排除先验信息
D.只用频率解释概率

答案：B。贝叶斯推断的核心是结合先验和似然，计算参数的后验分布 p(θ|x)，并在该分布上做期望、区间估计等决策。A 是最大似然估计的思路，C 违背贝叶斯原理，D 是频率学派的立场。

Q4. 关于充分统计量，下列说法正确的是？

单选题 · mid

A.只丢弃与参数无关的信息← 正确答案
B.一定等于全部原始样本
C.必须包含比原始数据更多的信息
D.与似然函数完全无关

答案：A。充分统计量对参数 θ 是信息无损的，它丢弃的只是与 θ 无关的噪音部分。Fisher-Neyman 分解定理保证任何保留全部参数信息的压缩都成立。B 把压缩等同于原样保留，C 和 D 与定理矛盾。

Q5. 以下哪些分布属于指数族分布？

多选题 · mid

A.正态分布← 正确答案
B.泊松分布← 正确答案
C.伯努利分布← 正确答案
D.区间均匀分布

答案：ABC。正态、泊松、伯努利都能写成 p(x|θ)=h(x)exp(η(θ)T(x)−A(θ)) 的形式。区间均匀分布 U(a,b) 的支持域依赖参数，无法用与参数无关的 h(x) 表示，因此不属于（常规）指数族。

Q6. Gamma-Poisson 共轭模型中，先验为 Gamma(α,β)，观测 n 个泊松样本、总和为 k=Σxᵢ，后验是？

单选题 · mid

A.Gamma(α+k, β+n)← 正确答案
B.Gamma(α+n, β+k)
C.Gamma(α+k, β+k)
D.Gamma(α+n, β+n)

答案：A。泊松似然为 θᵏe^(−nθ)，Gamma 先验为 θ^(α−1)e^(−βθ)，两者相乘后 θ 的指数为 α+k−1，e 的指数系数为 β+n，所以后验是 Gamma(α+k, β+n)。成功数加进形状参数，样本量加进速率参数。

Q7. 关于指数族的自然参数 η，下列说法正确的是？

单选题 · hard

A.它是与样本观测值有关的
B.它是原参数的非线性映射← 正确答案
C.它决定分布的支持域
D.它与充分统计量毫不相关

答案：B。自然参数 η(θ) 是原参数 θ 的映射（通常非线性），它只依赖参数不依赖样本。分布的支持域由基座函数 h(x) 决定而非 η。η 必须与 T(x) 做内积共同影响密度，并非毫不相关。

Q8. 共轭先验在概率编程中的主要作用有哪些？

多选题 · hard

A.可获得闭式后验← 正确答案
B.加速 MCMC 收敛← 正确答案
C.完全替代数值采样← 正确答案
D.便于先验解释与调试

答案：ABC。共轭先验可给出闭式后验，也常被用作采样器的良好初始分布或建议分布，从而加速收敛；但复杂模型仍需数值采样，不能说“完全替代”。闭式后验的存在也方便工程师验证采样结果是否正确、调试模型。

Q9. 积累量函数 A(η) 对 η 求一阶导，得到的是什么？

单选题 · hard

A.充分统计量 T(x) 的期望← 正确答案
B.充分统计量 T(x) 的方差
C.基座函数 h(x) 的期望
D.自然参数 η 的方差

答案：A。由指数族的性质，∂A(η)/∂ηⱼ = Eη[Tⱼ(x)]，一阶导对应期望；二阶导才对应方差/协方差。C 和 D 混淆了对象，方差需要二阶导而非一阶导。

Q10. 关于共轭模型与模型评估，下列说法正确的是？

多选题 · extreme

A.共轭模型能给出后验的闭式解← 正确答案
B.指数族分布一定有共轭先验← 正确答案
C.共轭模型不需要做后验预测检查
D.贝叶斯因子可比较两个共轭模型← 正确答案

答案：ABD。指数族有自然共轭先验，后验落在同一族中，故 A、B 正确。贝叶斯因子用边际似然之比比较模型，共轭模型下边际似然可闭式计算，D 正确。C 错误：模型假设本身的正确性必须靠后验预测检查等工具验证，共轭只能保证计算精确，不能保证假设合理。