假设你是王老师,想验证“翻转课堂”能否提升数学成绩。你借了两个班用新旧教法各教一学期,期末一比平均分,傻了:实验班有考98的天才,对照班有考55的学困生,两班差了一大截,但你根本说不清这差距是教法的功劳还是学生底子的差异。想把糊涂账算清,得招更多学生、再跑一学期——时间人力全烧进去。 换个思路:每个学生上学期的成绩是现成的——“底子好的孩子这次大概还是考得好”。先预测每个学生“该考多少”,再看实际成绩超出预测的部分,学生天然差异就被扣除了,剩余波动小得多。这一招就是A/B测试里的CUPED(Controlled-experiment Using Pre-Experiment Data,利用实验前数据的对照实验):借历史数据当尺子,量出更准的结论。 本文沿着王老师的备课笔记展开:先看A/B测试的噪声痛点,再理解CUPED的核心思路、数学推导、效果评估,最后讲多协变量扩展和工程落地。读完你会明白:一个简单的回归调整,为什么能让实验样本量省下三到五成。

岗位关联

掌握 CUPED,你就能用更少样本、更短周期得到可靠的实验结论,把产品迭代速度提上去——这是实验分析师与增长团队最值钱的基本功之一。

目录
  1. 可视化演示
  2. 背景与痛点:信号淹没在噪声里
  3. 核心思想:借历史数据当尺子
  4. 数学推导:方差如何被压缩
  5. 效果评估:缩减多少看相关系数
  6. 多协变量扩展:不止一把尺子
  7. 工程实践:从公式到线上实验
  8. AI 应用场景
  9. Python 演示
  10. 常见误区
  11. 面试题

可视化演示

动态演示CUPED方差缩减的核心机制,通过架构/数据/状态/性能四种模式展示关键概念与交互流程。

本节配有交互动效(进入视口后自动加载,约 3KB)。

CUPED方差缩减:方差缩减 方差缩减的数学动机 theta系数的最优估计推导 核心机制可视化 CUPED方差缩减整体架构与关键组件

背景与痛点:信号淹没在噪声里

王老师把两个班分别用“新课改翻转课堂”和“老式板书”教了一学期,期末直接比平均分,结果翻车了:实验班有个数学天才考了98,对照班好几个学困生只有55分。两班平均分差了一大截,可你完全说不清这是教法的功劳还是学生的底子。这就像在暴雨天测两把伞谁的挡雨效果好——雨点(学生的天然差异)劈头盖脸,两把伞的差距(教法效果)反而被淹没了。

A/B测试也面临同样的困境:把用户随机分成两组,分别看新老版本,最后比较核心指标均值之差。但用户的指标从来不是整齐划一的——有人天生活跃、有人三天打鱼,个体差异构成巨大噪声。统计学告诉我们,要可靠地检测出真实效应 δ,需要的样本量约为:

王老师看懂了:与其哀求校长多拨两个班当样本,不如把“雨点”本身想办法隔一隔。这正是 CUPED 登场的理由——它不动实验设计,只动方差。

n=2σ2(Z1−α/2+Z1−β)2δ2\displaystyle n = \frac{2\sigma^2\left(Z_{1-\alpha/2}+Z_{1-\beta}\right)^2}{\delta^2}
样本量公式:方差 σ² 越大,需要的人越多;想检测的效应 δ 越细微,需要的人越多。
  1. 显著性z分位数α 通常取 0.05,即把“假阳性”概率压在 5% 以内,对应双侧分位数是 1.96。
    Z1−α/2=1.96\displaystyle Z_{1-\alpha/2} = 1.96
  2. 功效z分位数β 通常取 0.2,即检验功效 80%,真实效应有八成概率被检出,对应分位数是 0.84。
    Z1−β=0.84\displaystyle Z_{1-\beta} = 0.84
  3. 方差与效应平方之比σ² 是单用户指标的方差,δ² 是两组真实均值差的平方。方差越大、效应越微弱,样本需求越夸张——σ 翻倍,n 变 4 倍。
    σ2δ2\displaystyle \frac{\sigma^2}{\delta^2}
  4. 总样本量合成常数因子乘上比率得到总样本量。注意 n 与 σ² 成正比——这是“缩减方差 = 直接省钱”的根源。
    n=2σ2(Z1−α/2+Z1−β)2δ2\displaystyle n = \frac{2\sigma^2\left(Z_{1-\alpha/2}+Z_{1-\beta}\right)^2}{\delta^2}

核心思想:借历史数据当尺子

王老师突然想到:每个学生上学期的期末成绩都在档案柜里躺着。老话说“底子好的孩子大概率还是考得好”——上学期成绩和本学期成绩高度相关。既然大部分波动能被历史成绩“预测”出来,那这些可预测的部分就不是“意外”,只是“惯性”。能预测的波动,就能剔除。

CUPED(Controlled-experiment Using Pre-Experiment Data,利用实验前数据的对照实验)的核心就八个字:用历史预测,拿残差说话。对每个用户,取实验前指标 X(前测值)和实验中指标 Y(后测值),构造调整后的指标:

其中 θ 是回归系数,衡量“前测每高一分,后测平均高多少”。它取的最小二乘最优解会让调整后指标的方差最小:

王老师把每个学生的“意外表现”重新算了一遍,两班再比平均意外值——原本被底子差异搅浑的水,现在清澈多了。原来给成绩“扣惯性”,才是看清教法真面目的关键。

Yicv=Yi−θ(Xi−Xˉ)\displaystyle Y_i^{cv} = Y_i - \theta\left(X_i - \bar{X}\right)
θ∗=Cov(X,Y)Var(X)\displaystyle \theta^* = \frac{\mathrm{Cov}(X,Y)}{\mathrm{Var}(X)}
θ 的最优解就是回归直线的斜率:X 与 Y 的协方差除以 X 的方差。它把 Y 中“归因于 X 的部分”按比例扣掉。
  1. 前测均值中心化X_i - X̄ 表示“这个学生比班级平均高/低多少”,只有偏离平均的人才会被扣分或加分。
    Xi−Xˉ\displaystyle X_i - \bar{X}
  2. 线性预测偏移θ(X_i - X̄) 是学生“该有的水平偏移”——底子好的人被预测考得高,底子差的人被预测考得低。
    θ(Xi−Xˉ)\displaystyle \theta\left(X_i - \bar{X}\right)
  3. 扣除预测取残差Y_i 减去预测偏移,剩下的是“纯意外表现”——同样底子的学生里,谁真的爆发了。
    Yi−θ(Xi−Xˉ)\displaystyle Y_i - \theta\left(X_i - \bar{X}\right)
  4. 斜率的最优解Cov(X,Y)/Var(X) 让调整后指标方差最小,等价于把 Y 对 X 做一元线性回归的斜率。
    θ∗=Cov(X,Y)Var(X)\displaystyle \theta^* = \frac{\mathrm{Cov}(X,Y)}{\mathrm{Var}(X)}

数学推导:方差如何被压缩

为什么这样一减,方差就小了?把 Y_cv 的方差按公式展开。方差不是线性算子,展开会出现三项:原始方差、扣除动作引入的新波动,以及 X 与 Y 的协方差带来的“对冲”收益:

把最优 θ* 代进去,奇妙的事情发生了——中间两项抵消,剩下的方差带上了因子 (1-ρ²):

方差变小,意味着同样的样本量下功效更高,或者同样的功效下可以少招人、少跑一周——这就是 CUPED 被称为“实验加速器”的原因。王老师看着公式直拍大腿:原来省不省样本,全看上学期成绩和这学期成绩的相关系数 ρ。

Var(Ycv)=Var(Y)+θ2Var(X)−2θ Cov(X,Y)\displaystyle \mathrm{Var}(Y^{cv}) = \mathrm{Var}(Y) + \theta^2\mathrm{Var}(X) - 2\theta\,\mathrm{Cov}(X,Y)
Var(Ycv)=Var(Y)(1−ρ2)\displaystyle \mathrm{Var}(Y^{cv}) = \mathrm{Var}(Y)\left(1-\rho^2\right)
方差展开结论:只要 X 和 Y 相关(ρ≠0),调整后指标方差一定比原始方差小,缩减比例恰好是相关系数的平方。
  1. 展开方差用 Var(a-b)=Var(a)+Var(b)-2Cov(a,b),θ 是常数,平方后提出到 Var(X) 前面。
    Var(Y−θX)=Var(Y)+θ2Var(X)−2θ Cov(X,Y)\displaystyle \mathrm{Var}(Y-\theta X) = \mathrm{Var}(Y)+\theta^2\mathrm{Var}(X)-2\theta\,\mathrm{Cov}(X,Y)
  2. 一阶最优条件对 θ 求导并令导数为零,切线正好切在方差的最低点,解得 θ* 是协方差除以方差。
    ddθVar(Ycv)=2θ Var(X)−2Cov(X,Y)=0\displaystyle \frac{d}{d\theta}\mathrm{Var}(Y^{cv}) = 2\theta\,\mathrm{Var}(X) - 2\mathrm{Cov}(X,Y) = 0
  3. 代入化简把 θ* 代回展开式,可抵消项归零,其中 ρ 是 X 与 Y 的相关系数。
    Var(Ycv)=Var(Y)−Cov(X,Y)2Var(X)=Var(Y)(1−ρ2)\displaystyle \mathrm{Var}(Y^{cv}) = \mathrm{Var}(Y) - \frac{\mathrm{Cov}(X,Y)^2}{\mathrm{Var}(X)} = \mathrm{Var}(Y)\left(1-\rho^2\right)

效果评估:缩减多少看相关系数

王老师用上学期成绩试了试,发现它和期末成绩的相关系数大概在 0.6 左右——也就是说,能解释期末成绩 36% 的波动。剩下 64% 才是“纯意外”,比起原来的 100%,噪声少了一小半。她不禁想:相关系数更高的话,能省到什么程度?

方差缩减率 = ρ²,几个关键刻度一目了然:ρ=0.3 只省 9%,ρ=0.5 省 25%,ρ=0.7 省 49%,ρ=0.8 省 64%。经验法则是:前测指标与核心指标相关性低于 0.3 时,CUPED 性价比不高;高于 0.5 就非常值得用。样本量与方差成正比,直接换算:

王老师算了一笔账:原本要招 300 个学生测一学期,用 CUPED 后 192 个学生就够了,剩下 108 个名额可以拿去补别的科目。这就是实验效率提升的朴素含义——同样的钱,做更多的实验。

ncv=nraw(1−ρ2)\displaystyle n_{cv} = n_{raw}\left(1-\rho^2\right)
样本量换算:ρ=0.6 时,样本量需求降到原来的 64%;实验周期、流量成本都等比例缩减。
  1. 方差比CUPED 后与 CUPED 前的方差之比就是 1-ρ²。
    Var(Ycv)Var(Y)=1−ρ2\displaystyle \frac{\mathrm{Var}(Y^{cv})}{\mathrm{Var}(Y)} = 1-\rho^2
  2. 样本量换算由第一节样本量公式两边取比例,σ² 换成 (1-ρ²)σ² 即可。
    ncv=nraw(1−ρ2)\displaystyle n_{cv} = n_{raw}\left(1-\rho^2\right)
  3. 实验时长换算流量不变时,所需天数同样乘以 (1-ρ²),这就是“加速”的直接落地。
    Tcv=Traw(1−ρ2)\displaystyle T_{cv} = T_{raw}\left(1-\rho^2\right)

多协变量扩展:不止一把尺子

王老师贪心了:单用上学期成绩就省了三分之一样本,那把出勤率、作业正确率、上课举手次数统统用上,岂不是更省?这就像量体裁衣——只用身高做模板不够准,加上肩宽臂长,衣服更合身。

多元 CUPED 用向量代替标量:把一堆前测变量拼成向量 X,调整式变成:

最优系数向量是多元回归的最小二乘解,方差缩减率从 ρ² 升级为 R²(多元回归决定系数):

但尺子也不是越多越好:加一把跟成绩八竿子打不着的尺子(比如鞋码),R² 的空子会被过拟合钻,虚高的缩减率在真实实验里统统还回去。王老师最终只挑了出勤率和作业正确率这两把真正相关的尺子。

Yicv=Yi−θT(Xi−E[X])\displaystyle Y_i^{cv} = Y_i - \boldsymbol{\theta}^T\left(\mathbf{X}_i - \mathbb{E}[\mathbf{X}]\right)
θ∗=ΣXX−1ΣXY,Var(Ycv)Var(Y)=1−R2\displaystyle \boldsymbol{\theta}^* = \Sigma_{XX}^{-1}\Sigma_{XY}, \qquad \frac{\mathrm{Var}(Y^{cv})}{\mathrm{Var}(Y)} = 1 - R^2
多元 CUPED:多个前测协变量合起来能解释目标指标的比例 R²,就是新的缩减率;R² 越高,缩得越狠。
  1. 拼接协变量向量X 从标量变成向量,包含多个实验前指标;θ 从数字变成同维度向量。
    Xi=(Xi1,Xi2,…,Xip)T\displaystyle \mathbf{X}_i = (X_{i1}, X_{i2}, \ldots, X_{ip})^T
  2. 多元最小二乘解θ 等于协方差矩阵 Σ_XX 的逆乘以 X 与 Y 的协方差向量,是多元回归的最优斜率。
    θ∗=ΣXX−1ΣXY\displaystyle \boldsymbol{\theta}^* = \Sigma_{XX}^{-1}\Sigma_{XY}
  3. R² 缩减定律多元回归下调整后方差占比降为 1-R²,R² 越大缩减越多。
    Var(Ycv)=Var(Y)(1−R2)\displaystyle \mathrm{Var}(Y^{cv}) = \mathrm{Var}(Y)\left(1-R^2\right)

工程实践:从公式到线上实验

王老师要在年级推广这个方法,发现落地比推导复杂。CUPED 工程落地有四条铁律:一是协变量必须取实验开始之前的数据,实验中的指标会被版本影响,混进来就把效应“洗掉”了;二是 θ 只能从对照组估计,用全量数据会把实验效应掺进“预测”里,导致严重偏差;三是协变量要和目标指标有稳定相关,且不能是实验操作的直接结果;四是 CUPED 只能缩减方差、不能抵消偏差——分组不随机时它救不了你。

标准实施流程分五步:确定核心指标 Y 和可用的前测指标 X(通常是同指标的历史期均值);随机分流后开启实验;只用对照组数据估计 θ;对两组所有用户计算 Y_cv;最后比较两组 Y_cv 的均值差并做检验。检验统计量是调整后的 t 值:

注意事项还有:前测期与实验期之间若有大版本改动、季节突变,相关性会崩塌,别硬用;指标若是低频稀疏或强二值(如登录率 98%),回归调整空间很小,CUPED 收益有限;用户量极小时,θ 的估计误差本身会引入额外噪声。王老师把流程写成实验手册,隔壁年级也来抄作业——CUPED 不是银弹,但确实是实验分析师手里最值得先掏出来的那把“降噪扳手”。

t=YˉBcv−YˉAcvsA2nA+sB2nB\displaystyle t = \frac{\bar{Y}^{cv}_B - \bar{Y}^{cv}_A}{\sqrt{\dfrac{s^2_A}{n_A} + \dfrac{s^2_B}{n_B}}}
t 检验公式:分子是两组调整后指标均值差,分母是合并标准误;方差被压缩后,分母变小,t 值更容易跨过显著性门槛。
  1. 组间调整差分子是两组调整后指标各自的均值之差,也就是剔除了可预测惯性后的净效应。
    YˉBcv−YˉAcv\displaystyle \bar{Y}^{cv}_B - \bar{Y}^{cv}_A
  2. 合并标准误分母是两组均值方差之和再开根,方差缩减带来的收益在这里直接体现。
    sA2nA+sB2nB\displaystyle \sqrt{\frac{s^2_A}{n_A} + \frac{s^2_B}{n_B}}
  3. 显著性决策|t| 超过临界值(常用 1.96)即判定显著。
    ∣t∣>Z1−α/2\displaystyle |t| > Z_{1-\alpha/2}

AI 应用场景

增长团队的实验加速

阶段:模型评估与实验设计

解决的问题:新用户转化率波动大,直接对比均值需要海量流量。传统做法要么加大投放引流,要么延长实验周期,成本极高。用 CUPED 把实验前一周的活跃度、历史访问次数作为协变量,方差缩掉一部分,同样的流量能跑出更快的结论。

具体案例:某内容平台测试新版引导页对次日留存的影响。次日留存与近 7 天活跃高度相关(ρ≈0.65),实验分析师用 CUPED 后,原本要跑 3 周出结论的实验,2 周就达到显著性,提前一周全量上线,抢到了版本迭代的窗口期。

推荐策略的在线验证

阶段:离线评估与在线验证衔接

解决的问题:推荐算法改版后,线上指标(如人均时长、GMV)受用户历史活跃差异干扰,短窗口内难以验证策略真实效果。

具体案例:电商平台测试推荐排序新模型对 GMV 的影响,把用户历史 30 天 GMV、客单价、近 7 天加购数作为多协变量做多元 CUPED,R² 达 0.55,方差缩减过半,实验周期从 4 周压缩到 2.5 周。

广告素材的快速筛选

阶段:投放策略评估

解决的问题:素材点击率受受众画像和投放时段影响极大,小流量素材组之间难以分辨优劣。

具体案例:广告平台用历史 CTR、历史转化率作为协变量筛选新素材,ρ=0.7 时方差缩减 49%,原本需要 1 万次曝光的判断,5000 次曝光就能给出结论,素材汰换效率翻倍。

Python 演示

python39 行
import numpy as np  def cuped_adjust(y, x):    """用前测数据 x 调整实验指标 y,返回调整后指标与最优系数 theta"""    x_c = x - x.mean()    theta = (x_c * (y - y.mean())).sum() / (x_c * x_c).sum()    y_cv = y - theta * x_c    return y_cv, theta  def main():    rng = np.random.default_rng(42)    n = 6000    x = rng.normal(80, 12, n)                  # 前测成绩(实验前指标)    y_ctl = 0.6 * x + rng.normal(0, 12, n)     # 对照组: 后测=0.6*前测+噪声    trt = rng.integers(0, 2, n)                # 随机分流: 0对照, 1实验    y = y_ctl + 1.2 * trt                      # 实验组真实效应 +1.2 分     y_cv_ctl, theta_ctl = cuped_adjust(y[trt == 0], x[trt == 0])    y_cv_trt, theta_trt = cuped_adjust(y[trt == 1], x[trt == 1])     def var_of_mean(a):        return a.var(ddof=1) / a.size     var_raw = var_of_mean(y[trt == 0]) + var_of_mean(y[trt == 1])    var_cv = var_of_mean(y_cv_ctl) + var_of_mean(y_cv_trt)    diff_raw = y[trt == 1].mean() - y[trt == 0].mean()    diff_cv = y_cv_trt.mean() - y_cv_ctl.mean()     print("对照组估计的theta: %.3f" % theta_ctl)    print("原始组间均值差: %.3f  CUPED后: %.3f" % (diff_raw, diff_cv))    print("原始方差: %.4f  CUPED方差: %.4f" % (var_raw, var_cv))    print("方差缩减: %.1f%%" % (100 * (1 - var_cv / var_raw)))    print("样本量降至: %.1f%%" % (100 * var_cv / var_raw))  if __name__ == "__main__":    main()
目的:用合成数据模拟“前测成绩 + 期末成绩”的场景,完整展示 CUPED 从估计 θ、构造残差到计算方差缩减率的全过程。
  1. x_c = x - x.mean()先把前测成绩中心化,偏离班级平均的部分才是调整依据。
  2. theta = (x_c * (y - y.mean())).sum() / (x_c * x_c).sum()用对照组数据估计最优 θ,等于协方差除以方差。
  3. y_cv = y - theta * x_c核心公式 Y-θ(X-X̄),把可预测的惯性扣掉。
  4. y_ctl = 0.6 * x + rng.normal(0, 12, n)构造前测与后测相关约 0.5 的数据,贴近真实课堂。
  5. trt = rng.integers(0, 2, n)随机分流是 CUPED 有效的前提。
  6. y = y_ctl + 1.2 * trt给实验组注入 1.2 分的真实效应,模拟教法差异。
  7. var_of_mean = a.var(ddof=1) / a.size组均值方差 = 组内方差除以样本量,是 t 检验分母的核心。
  8. print("方差缩减: %.1f%%"...直接输出缩减率,验证 1-ρ² 的数学推导。

常见误区

误区“都用 CUPED 做调整了,就算两组用户基础不一样,结果应该也是准的吧?”

正解CUPED 只缩减方差、不修正偏差。它假设分组是随机的,只是把“随机地带”里的噪声压小。如果分流本身有偏(比如把活跃用户全给了新版本),调整系数只能掩盖一部分偏差而非消除。CUPED 是把尺子磨得更准,不是把歪的秤杆掰直——随机分组是前提,不是可选项。

为何常见:很多人把“方差缩减”误解成“去偏”,因为两类操作都在“调整指标”,表面看起来很像,内部机理却完全不同。

误区“我手上有 20 个历史特征,全放进 CUPED,R² 肯定更高,方差缩得更狠。”

正解协变量必须在实验前固定且不被实验影响;无关变量混进来会被过拟合吞掉,虚高的 R² 在真实环境里大幅缩水。协变量越多,θ 的估计噪声越大,自由度越低。经验做法是选 1-3 个与核心指标相关性最强的前测变量。尺子太多,量错一把就废一块布。

为何常见:看到 R² 随变量增加总是上升,误以为“越复杂越准”,忽略了样本内拟合与样本外泛化的区别。

误区“全量用户数量是对照组的两倍,用全量估计 θ 会更稳定、更准。”

正解全量数据里的实验组 Y 混入了处理效应,估计出的 θ 会把真实的组间差“解释”掉一部分,导致最终效应被低估或扭曲。标准做法是只从对照组估计 θ,再把这把“尺子”套到所有用户身上。要用没沾雨水的历史重量校准秤,不能用被雨淋过的数据校准。

为何常见:直觉上“数据越多越好”,忽略了数据中混入处理效应这一结构性污染。

误区“前测指标跟目标指标只要能测出一点相关,方差就一定会缩,肯定划算。”

正解缩减率是 ρ²——弱相关(ρ=0.1)只省 1% 的样本,却要付出采集、存储、维护协变量的成本,性价比为负;通常 ρ<0.3 就不建议用。为了省一滴雨去搭一顶雨棚,不值。

为何常见:把“方向正确”和“幅度可观”混为一谈,忽略了实施成本和噪声本身的边际收益递减。

面试题

Q1. CUPED 中的协变量 X 最应该取什么数据?

单选题 · easy

  • A.实验开始前的历史数据← 正确答案
  • B.实验进行中的实时数据
  • C.实验结束后的复盘数据
  • D.随机生成的无用模拟数据

答案:A。协变量必须取实验开始前就固定的数据,这样它才不受版本影响,能当一把“干净的尺子”。实验中或实验后的数据已经混入处理效应,拿它做调整就会污染结论。就像量体裁衣要在做衣服前量,不能边做边量。

Q2. 最优调整系数 θ* 的解析表达式是?

单选题 · easy

  • A.Cov(X,Y)/Var(X)← 正确答案
  • B.Var(Y)/Cov(X,Y)
  • C.Cov(X,Y)/Var(Y)
  • D.Var(X)/Cov(X,Y)

答案:A。θ* 是一元回归的斜率,等于协方差除以自变量方差。分母必须是 X 的方差,因为 X 是“尺子”;若用 Y 的方差做分母,量纲和含义都不对,方差最小化也无法成立。

Q3. 若前测指标 X 和目标指标 Y 的相关系数 ρ=0.6,CUPED 后所需样本量约为原来的多少?

单选题 · mid

  • A.约为原来的 36%
  • B.约为原来的 64%← 正确答案
  • C.约为原来的 60%
  • D.约为原来的 40%

答案:B。样本量正比于方差,方差降至原来的 1-ρ²=1-0.36=0.64。ρ=0.6 意味着缩减 36% 的样本。王老师原本要招 300 人,现在 192 人就够,这正是“加速器”的数值体现。

Q4. 关于 CUPED 调整后的组间均值差,正确的说法是?

单选题 · mid

  • A.会被系统性放大偏
  • B.期望上与原差一致← 正确答案
  • C.需要重新校准比较
  • D.只会变小不会变大

答案:B。因为 E[X_i-X̄]=0,调整项在期望层面为零,所以组间均值差的期望不变,CUPED 只是压缩方差、不改变估计的目标。它让信号在更小的噪声里“站得更稳”,而不是把信号本身放大或缩小。

Q5. CUPED 的方差缩减率等于什么?

单选题 · mid

  • A.相关系数的平方值← 正确答案
  • B.一减相关系数平方
  • C.相关系数本身大小
  • D.一减相关系数本身

答案:A。方差缩减率 = 1-(1-ρ²) = ρ²。相关系数本身只能反映线性相关的方向和强度,缩减幅度的经济账要看平方——ρ=0.5 只省 25%,ρ=0.8 却能省 64%,这也是“弱相关不值得用”的由来。

Q6. 为什么 θ 必须只用对照组数据估计?

单选题 · hard

  • A.对照组样本量总是更大
  • B.避免实验效应污染系数← 正确答案
  • C.对照组数据更容易获取
  • D.对照组方差天然更小

答案:B。实验组的 Y 混入了处理效应,用全量估计 θ 会把真实的组间差异“解释”掉一部分,导致效应被系统性低估。对照组没有接触处理,它的 X-Y 关系才代表自然规律。比喻:要用没被雨水淋过的秤去校准,不能用淋过雨的秤。

Q7. 多元 CUPED 中,最优系数向量 θ* 的表达式是?

单选题 · hard

  • A.Σ_XX 逆矩阵乘 Σ_XY← 正确答案
  • B.Σ_XY 逆矩阵乘 Σ_XX
  • C.Σ_YY 逆矩阵乘 Σ_YX
  • D.各单变量θ的简单平均

答案:A。多元最小二乘解是把协变量协方差矩阵 Σ_XX 求逆,再乘上协变量与目标变量间的协方差向量 Σ_XY。它同时考虑所有协变量的贡献,等价于多元回归的回归系数,而不是把单变量 θ 简单平均。

Q8. 以下哪些场景适合使用 CUPED?

多选题 · mid

  • A.前测指标与核心指标强相关← 正确答案
  • B.分组过程保持严格随机← 正确答案
  • C.实验前没有任何历史数据
  • D.有稳定数周的前测数据期← 正确答案

答案:ABD。CUPED 需要强相关的前测变量(A)、严格随机分组(B)、足够长的前测数据期(D)。完全没有历史数据时无 X 可用,CUPED 无从施展。前测数据就像做衣服前的身体尺寸,缺了它再好的裁缝也白搭。

Q9. 关于 CUPED 的正确说法有哪些?

多选题 · extreme

  • A.协变量不能被实验处理影响← 正确答案
  • B.θ用全量用户估计更稳健
  • C.缩减率上限是回归决定系数← 正确答案
  • D.可以替代随机分组保证无偏

答案:AC。协变量必须不受处理影响(A),缩减率上限是回归决定系数——标量时是 ρ²,多元时是 R²(C)。θ 用全量会混入处理效应(B 错),CUPED 也无法替代随机分组(D 错)。它是放大器不是保险丝。

Q10. 以下哪些是 CUPED 落地的常见坑?

多选题 · hard

  • A.用混入实验效应的数据估θ← 正确答案
  • B.协变量取实验之后的变量← 正确答案
  • C.盲目堆叠无关的协变量← 正确答案
  • D.用缩减率提前规划样本量

答案:ABC。用混入效应的数据估 θ(A)、取实验后的变量当协变量(B)、堆叠无关协变量导致过拟合(C)都是典型坑。而用缩减率提前规划样本量(D)恰恰是正确实践——缩减率算出来就是为了指导样本量预算。