Bootstrap：重采样统计方法

可视化演示

通过有放回重采样构建统计量分布，估计置信区间并校正偏差，直观展示Bootstrap方法的完整流程。

重采样原理

你面前只有一锅汤，汤里总共 40 颗盐粒，你不可能喝光整锅。聪明的做法是：舀一勺，记下咸度，倒回去，使劲搅匀，再舀。每一次“舀—倒回—搅匀”就是一次重采样。注意：因为倒回去了，同一颗盐粒可能被反复舀到，也可能整轮都躲在汤底没露面——这就是“有放回抽样”。

在统计里，那锅汤是“总体”，你手里的一勺观测值 X₁ 到 Xₙ 是唯一的数据。Bootstrap 不假设总体服从什么分布，而是把样本自身的“经验分布”当作总体的替身：每个观测值出现的概率都是 1/n。每次从经验分布中有放回地抽 n 个值，构成一个“自助样本”，重复 B 次，就模拟出“如果再从总体里取样会看到什么”。

因为每次抽取概率都是 1/n 且相互独立，某个样本在一轮 n 次抽取中一次都没被抽中的概率是 (1 − 1/n)ⁿ。n 越大越接近 e⁻¹ ≈ 0.368，也就是说每轮自助样本中大约只有 63.2% 的原始样本出现，剩下 36.8% 像躲在汤底的盐粒，构成了天然的“留出验证集”——这正是后面偏差校正的伏笔。蒙特卡洛思想则贯穿始终：用大量随机重复代替解析推导，B 通常取 1000 次以上。

每舀一勺，你都在用“这一锅”重新演绎“如果还有更多汤”的场景。Bootstrap 的魔力在于：数据不会变多，但你能在唯一的一勺汤里翻来覆去地品尝出不确定性的形状。

置信区间估计

你连续舀了 1000 勺，记下每勺的咸度。这些咸度当然不会完全一样——有的咸一点，有的淡一点。你会想知道：这锅汤的咸度该报“6 分”还是“6 分上下浮动 0.5”？把这 1000 个数字画成直方图，中间鼓起、两边收窄的形状本身就在回答问题。

对每个自助样本算同一个统计量（均值、准确率、回归系数……），得到 B 个统计量。它们的散布程度就是该统计量“抽样不确定性”的度量。Bootstrap 标准误直接把这些统计量的标准差算出来；百分位法则更朴素——排序后直接取 α/2 和 1−α/2 位置的值作为区间端点。

B=1000 时，95% 百分位区间就是排序后第 25 个和第 975 个统计量。若统计量分布近似正态，标准误法同样适用；分布偏斜时百分位法更稳健。更高级的 BCa 法进一步修正偏差和偏度，但核心不变：用大量重采样模拟抽样分布，再从中切出区间。

汇报“咸度约 6 分，95% 置信区间 [5.6, 6.5]”——这比拍胸脯说“就是 6 分”诚实得多，因为菜品评审需要知道你的舌头到底有多靠谱。

偏差校正

有个隐患：你的勺子总在汤面刮，而汤底的调料更浓，于是每勺咸度都系统性偏低——这不是随机波动，而是“勺子的偏见”。训练误差就是这把偏心的勺子：模型在训练数据上评估自己，永远自我感觉良好。

用自助样本训练模型时，如果直接在自助样本上评分，误差会因“样本内评估”而过分乐观；如果用没被抽中的约 36.8% 样本（袋外样本）评分，又因样本量偏少且模型没见过这些数据，误差往往偏高。真实误差应该介于两者之间。

.632 估计器给出一个实用的加权折中：0.368 × 训练误差 + 0.632 × 袋外误差。其中 0.632 正是 1 − e⁻¹，对应样本平均被抽中的概率。当模型过拟合严重时，.632 仍会低估误差，于是 .632+ 引入“相对过拟合率”进一步放大袋外误差的权重。

好厨师知道自己勺子的毛病，会主动把品味结果“校正”后再写进菜谱。Bootstrap 的偏差校正也一样：先承认训练评估在撒谎，再给这个谎言打折。

交叉验证对比

除了“舀—倒回—搅匀”，厨师还有别的品汤策略：把整锅汤提前分装成 5 个小碗，每碗轮流当“待检验品”，其余 4 碗用来定标准——这就是交叉验证的饭桌版本。

K 折交叉验证把数据均分 K 份，轮流取 1 份作验证、其余 K−1 份训练，误差取 K 次平均；留一法（LOOCV）是 K=n 的极端：每次只用 1 个样本验证。Bootstrap 则完全不同：每次“训练碗”与“验证碗”重叠，靠有放回抽样天然产生约 36.8% 的袋外样本。

差异是本质的——交叉验证每个样本恰好被验证一次，方差较小、近似无偏，适合模型选择；Bootstrap 的重复抽样天然支持“多次估计 + 置信区间”，能算出“准确率 85% ± 2.3%”，但每次验证集大小随机且与训练集有重叠，偏差稍大。小数据集上 Bootstrap 常比 K 折更稳，代价是计算量更大。

没有绝对更好的品汤法：急着定菜单用交叉验证，想回答“我的判断有多准”用 Bootstrap。两种勺子搭配使用，才是后厨老手的做法。

模型评估应用

现在你不是为自己尝汤，而是为挑剔的食客上菜。你想知道：“这道菜客人打分的误差大概是多少？”一次性评估不够，你需要带上“这次评估可不可信”的证据。Bootstrap 正是给评估结果装上误差棒的工具。

对每个自助样本：①有放回抽出 n 个样本；②训练模型；③在袋外数据上算准确率或误差；④重复 B 轮后得到 B 个性能指标。报告时给出均值作为点估计，给出百分位区间作为不确定性范围。小样本（几百条数据）而模型又复杂时，传统留出法一次划分的结果很飘，Bootstrap 通过多次重采样显著稳定。

这实际是“性能估计的元算法”：任何可计算的指标——准确率、AUC、回归 MAE——都能塞进这个框架。模型选择方面，Bootstrap 也能辅助比较两个模型的差异是否显著：直接看两个模型 Bootstrap 性能差值的分布，若 95% 区间不含 0，则差异显著。

给食客端菜时，你会说“这道菜我们测试了 1000 次，满意率 90%，误差棒 ±2%”。加了误差棒的汇报，在业务面前才有说服力。

实践操作步骤

说了这么多，回到后厨把流程写成熟练工的 checklist：搅汤、舀、记、倒回、再来。四步成菜，每一步都不能省。

标准流程四步：①从原始数据有放回抽取 n 条；②在自助样本上训练模型；③在袋外样本上评估；④重复 B 次并聚合。聚合方式依目标而定：要标准误就算标准差，要区间就用百分位，要误差估计就用 .632。

点估计取 B 轮统计量的平均。汇报模板建议：均值 ± 标准误，或“点估计 + 95% 百分位区间 + B 轮直方图”。实操注意：固定随机种子保证可复现；B 取 200~2000 足够，再大边际收益递减；类别不平衡数据可按类别分别重采样。

熟记这套“舀汤工序”后，你在任何数据集上都能像主厨一样笃定地回答：“这个评估稳不稳？稳，而且我知道它有多稳。”

AI 应用场景

Python 演示

import numpy as np  def bootstrap_ci(data, statistic=np.mean, n_bootstrap=1000, alpha=0.05, seed=42):    """有放回重采样, 返回统计量分布与百分位置信区间."""    rng = np.random.default_rng(seed)    n = len(data)    boot_stats = np.empty(n_bootstrap)    for b in range(n_bootstrap):        sample = rng.choice(data, size=n, replace=True)        boot_stats[b] = statistic(sample)    lo = np.percentile(boot_stats, 100 * alpha / 2)    hi = np.percentile(boot_stats, 100 * (1 - alpha / 2))    return boot_stats, (lo, hi)  def err_632(model, X, y, n_bootstrap=100, seed=0):    """用 .632 估计器校正训练误差的乐观偏差."""    rng = np.random.default_rng(seed)    n = len(X)    train_errors = []    boot_errors = []    for _ in range(n_bootstrap):        idx = rng.choice(n, size=n, replace=True)        model.fit(X[idx], y[idx])        train_errors.append(1.0 - model.score(X[idx], y[idx]))        oob = np.ones(n, dtype=bool)        oob[idx] = False        if oob.sum() > 0:            boot_errors.append(1.0 - model.score(X[oob], y[oob]))    err_train = np.mean(train_errors)    err_boot = np.mean(boot_errors)    return 0.368 * err_train + 0.632 * err_boot  if __name__ == "__main__":    from sklearn.tree import DecisionTreeClassifier     rng = np.random.default_rng(7)    X = rng.normal(size=(60, 2))    y = (X[:, 0] + 0.5 * X[:, 1] + rng.normal(size=60)) > 0    model = DecisionTreeClassifier(max_depth=3, random_state=1)     toy = rng.normal(size=40)    boot_stats, ci = bootstrap_ci(toy, seed=1)    print("Bootstrap 均值: %.3f" % boot_stats.mean())    print("95%% 置信区间: [%.3f, %.3f]" % ci)     e632 = err_632(model, X, y)    print(".632 误差估计: %.3f" % e632)

1. rng = np.random.default_rng(seed)固定随机种子，让每次运行结果可复现。
2. sample = rng.choice(data, size=n, replace=True)核心一行：有放回地抽取 n 个样本。
3. boot_stats[b] = statistic(sample)每轮算一个统计量，攒成分布。
4. lo = np.percentile(boot_stats, 100 * alpha / 2)百分位法求区间下界。
5. idx = rng.choice(n, size=n, replace=True)对样本索引做有放回抽样。
6. oob[idx] = False没被抽中的位置就是袋外样本。
7. 0.368 * err_train + 0.632 * err_boot.632 估计器的加权校正公式。

常见误区

面试题