想象你是一场大型综合运动会的组委会主席。赛后核对成绩单时，你吃惊地发现：来自训练资源匮乏地区的小队，入围率远低于资源雄厚地区。问题不在选手实力，而在于每个小队的“起跑线”不同——有人拥有顶尖教练和营养团队，有人连训练场地都勉强凑齐。你决定采取三套方案：第一，给条件不利的小队“加权”，让他们的成绩在最终换算中得到补偿；第二，请一位“独立审查官”，专门检查成绩单是否会泄露出选手的出生地，一旦查出就要求组委会修正评分方式；第三，制定一条硬性规则，任何小队的入围率不得低于全体平均线的某个阈值，并围绕这条规则重新优化赛事安排。这三招，恰好对应机器学习公平性领域三大核心缓解策略：重加权、对抗去偏与约束优化。

岗位关联

对 AI 从业者而言，公平性不是锦上添花的伦理口号，而是模型能否通过合规审查、避免歧视诉讼、赢得用户信任的关键能力。掌握这套方法，你将在数据挖掘、风控、招聘等敏感场景中拥有不可替代的竞争力。

目录
  1. 可视化演示
  2. 偏见溯源
  3. 重加权法
  4. 对抗去偏
  5. 约束优化
  6. 评估验证
  7. 因果视角
  8. 工程落地
  9. AI 应用场景
  10. Python 演示
  11. 常见误区
  12. 面试题

可视化演示

在精度-公平性二维空间中动态展示重加权、对抗去偏、约束优化三种策略的迁移路径与权衡，切换策略观察精度损失与公平性提升。

本节配有交互动效（进入视口后自动加载，约 3KB）。

偏见溯源

比喻引入：组委会要整治不公平，第一步不是急着改规则，而是先弄清不公平从哪来。是数据统计口径有偏？还是算法本身放大了差异？又或者是过去的评分制度遗留了偏爱？只有找对病根，后面的三套方案才有的放矢。

概念过渡：在机器学习里，偏见同样来自不同层面。数据偏差指训练集中某些群体样本过少或标注失真；算法偏差指模型在优化时放大了群体间的初始差异；历史偏见指过去社会中的歧视被固化在数据里，又被模型继承下来；因果混淆则是模型把“表面相关”当成“真实因果”——比如把某地区的邮政编码当成了信用风险本身。

技术展开：为了把“不公平”量化出来，学者定义了统计奇偶差（SPD）。它比较两个群体被模型判为正例的比例之差：

比喻回扣：SPD 就像组委会在核对“小地区入围率”与“大地区入围率”之间的差距。差距越小，说明起跑线越接近；差距越大，就越需要动用下一节的重加权方案来“调整起评分”。

ΔSP=∣P(y^=1∣A=0)−P(y^=1∣A=1)∣\Delta_{SP} = \left| P(\hat{y}=1 \mid A=0) - P(\hat{y}=1 \mid A=1) \right|
公式通俗说明：把所有人按敏感属性（如性别、民族）分成 0 和 1 两组，分别统计模型给正例的比例，两个比例差得越远，说明模型越偏心。
  1. 预测结果符号$\hat{y}=1$ 表示模型给出的结论是“正例”（比如“通过贷款”“胜任岗位”）。
    y^=1\hat{y}=1
  2. 敏感属性分组$A=0$ 与 $A=1$ 是按敏感属性划分的两组成员，$A$ 代表性别、族群等受法律保护的变量。
    A=0,A=1A=0, \quad A=1
  3. 条件概率$P(\hat{y}=1 \mid A=0)$ 表示第一组中被模型判为正例的人数占比，$P(\hat{y}=1 \mid A=1)$ 同理。
    P(y^=1∣A=0)P(\hat{y}=1 \mid A=0)
  4. 绝对值差距外面的绝对值 $|\cdot|$ 把两组比例之差转为非负的“偏心距离”，数值越大越不公平。
    ΔSP=∣⋅∣\Delta_{SP} = | \cdot |

重加权法

比喻引入：既然小地区选手的入围率吃亏，组委会的第一反应是：给他们的成绩乘一个“补偿系数”。比如某小队的参赛人数只有大地区的十分之一，就把他们的成绩按比例放大——这就是“加权”的直觉。

概念过渡：机器学习中的重加权，是把同样的直觉用在样本上。如果训练数据里来自群体 A 的样本太少，或者某些历史标注对某群体不公平，就给每个样本分配一个权重 $w_i$，让“被亏待”的群体在损失函数里拥有更大的话语权。它天然对应前面说的数据偏差和类别均衡。

技术展开：假设我们希望训练分布中群体占比达到目标比例 $P_{target}$，而实际数据占比为 $P_{data}$，则每个样本的权重为其目标概率与实际概率之比，加权后的损失函数变为：

比喻回扣：加权后的损失函数就像组委会手里的“折算表”：小地区的金牌在最终计分中权重更高，模型自然不敢再忽略这群选手。不过，重加权只修正了“数据入场券”，如果模型内部还在偷偷使用敏感特征，就需要下一节的“独立审查官”出场。

wi=Ptarget(A=ai)Pdata(A=ai),LW(θ)=1N∑i=1Nwi⋅ℓ(xi,yi;θ)w_i = \frac{P_{target}(A=a_i)}{P_{data}(A=a_i)},\qquad L_W(\theta) = \frac{1}{N}\sum_{i=1}^{N} w_i \cdot \ell(x_i, y_i; \theta)
公式通俗说明：训练数据里哪个群体“缺斤少两”，就给它的样本补上相应权重；损失函数中的 $w_i$ 相当于按份额重新称重，让模型不再只讨好样本多的群体。
  1. 目标占比$P_{target}(A=a_i)$ 是我们期望某个群体在训练集中占到的比例，通常设为 $1/2$ 以保证平等。
    Ptarget(A=ai)=12P_{target}(A=a_i) = \frac{1}{2}
  2. 实际占比$P_{data}(A=a_i)$ 是原始数据中该群体真实的占比，比如少数群体只占 $10\%$。
    Pdata(A=ai)=0.1P_{data}(A=a_i) = 0.1
  3. 权重计算$w_i$ 等于目标占比除以实际占比，少数群体因此获得大于 1 的权重；多数群体权重小于 1。
    wi=0.50.1=5w_i = \frac{0.5}{0.1} = 5
  4. 加权损失$L_W(\theta)$ 把每个样本的损失 $\ell(x_i, y_i; \theta)$ 乘上 $w_i$ 后取平均，相当于“每个群体都有平等的一票”。
    LW(θ)=1N∑i=1Nwiℓ(xi,yi;θ)L_W(\theta) = \frac{1}{N}\sum_{i=1}^{N} w_i \ell(x_i, y_i; \theta)

对抗去偏

比喻引入：组委会担心一件事：即使给成绩加权，那位“独立审查官”只要扫一眼最终成绩单，就能准确猜出选手来自哪个地区——说明成绩里仍然藏着出生地的密码。只要审查官猜得准，公平就是假的。于是组委会让评分系统与审查官互相博弈：评分系统拼命让成绩单看不出地区痕迹，审查官则拼命想拆穿它。

概念过渡：这就是对抗去偏（Adversarial Debiasing）的思想。它由两个模块组成：预测器负责完成主任务（如预测信用风险），同时努力让结果不泄露敏感属性；判别器则像那位审查官，专门从预测结果中反推敏感属性 $A$。两者交替训练，形成一场零和博弈。

技术展开：目标函数可写成预测损失与对抗损失的组合。预测器想最小化主任务损失，同时让判别器难堪；判别器则想最大化自己猜出敏感属性的能力：

比喻回扣：对抗去偏就像组委会让评分系统和审查官反复“对练”。练到审查官怎么也猜不出地区，成绩单才算真正干净。不过对练需要把握火候——这就要靠约束优化来设定“红线”。

min⁡θmax⁡ϕ  Ly(θ)−λ⋅La(ϕ,θ)\min_{\theta} \max_{\phi} \; L_y(\theta) - \lambda \cdot L_a(\phi, \theta)
公式通俗说明：$L_y$ 是主任务的“业务指标”，$L_a$ 是判别器的“破解能力”。预测器希望 $L_a$ 变小（让敏感信号消失），判别器希望 $L_a$ 变大（坚持猜出敏感属性），$\lambda$ 控制去偏强度。
  1. 预测器损失$L_y(\theta)$ 是主任务的损失（如交叉熵），$\theta$ 是预测器参数，模型首先要把活干好。
    Ly(θ)L_y(\theta)
  2. 判别器损失$L_a(\phi, \theta)$ 衡量判别器从预测结果中还原敏感属性的能力，$\phi$ 是判别器参数。
    La(ϕ,θ)L_a(\phi, \theta)
  3. 最大最小博弈$\max_{\phi}$ 让判别器变强，$\min_{\theta}$ 让预测器同时做到“业务准”和“猜不透”。
    min⁡θmax⁡ϕ\min_{\theta} \max_{\phi}
  4. 权衡系数$\lambda$ 是去偏强度系数；$\lambda$ 越大，模型越愿意牺牲少量准确率来换取公平。
    λ⋅La(ϕ,θ)\lambda \cdot L_a(\phi, \theta)

约束优化

比喻引入：除了给弱势群体加权、请审查官对练之外，组委会还立了一条硬规矩：任何地区的入围率与平均线的差距不得超过某个红线。比赛还是要精彩的，但不能为了精彩而无视公平红线——所有赛事安排都要在这条红线内寻找最优解。

概念过渡：这就是约束优化（Constraint Optimization）的思路：把公平性写成必须满足的不等式约束，然后在“模型准确率”和“公平红线”之间做多目标权衡。前面说的目标冲突由此展开——准确率与公平性往往此消彼长，约束优化就是给这个矛盾划出边界。

技术展开：核心形式是在原始损失上追加一条公平约束，例如要求统计奇偶差不超过容忍值 $\varepsilon$：

将约束直接放进优化器很难处理，工程上常用拉格朗日对偶把它变成可微的惩罚项：

比喻回扣：约束优化相当于在“比赛精彩度”与“公平红线”之间画出一条帕累托最优曲线。组委会不再幻想两头都完美，而是在红线内挑一个最不心疼的方案：$\varepsilon$ 和 $\lambda$ 就像旋钮，拧到哪，取决于社会对公平的诉求有多强。

min⁡θ  L(θ)s.t.∣ΔSP∣≤ε\min_{\theta} \; L(\theta) \quad \text{s.t.} \quad |\Delta_{SP}| \le \varepsilon
公式通俗说明：引入一个“监督员” $\lambda$，一旦偏见超标，监督员就自动加大惩罚，逼着模型回归红线内。
  1. 拉格朗日乘子$\lambda$ 是拉格朗日乘子，约束 $\lambda \ge 0$ 保证它只能施加“正向惩罚”。
    λ≥0\lambda \ge 0
  2. 违规量$(|\Delta_{SP}| - \varepsilon)$ 表示当前偏见超出红线的程度；超得越多，罚得越重。
    ∣ΔSP∣−ε|\Delta_{SP}| - \varepsilon
  3. 惩罚项$L(\theta) + \lambda(|\Delta_{SP}| - \varepsilon)$ 把公平性以“动态罚金”的形式并入损失。
    L(θ)+λ(∣ΔSP∣−ε)L(\theta) + \lambda (|\Delta_{SP}| - \varepsilon)

评估验证

比喻引入：三套方案都上了，组委会要搭建一个“公平仪表盘”：如果只看总体入围率，可能漏掉“表面平等、实际歧视”；只有同时看几个仪表指针，才能确认整治方案是否真的有效。

概念过渡：公平性不是单一数字，需要从多个角度交叉验证。前面说过的统计奇偶差衡量总体正例率是否相等；均衡几率则更进一步，要求模型对“真实正例”和“真实负例”的误判率在两组间都一致；机会均等则专门盯住“真实正例”这一列，要求它们被正确识别的比例在两组间相等。

技术展开：机会均等条件对应的公式如下，它计算真实为正例的人群中，两组各自被预测为正例的条件概率之差：

比喻回扣：评估验证如同赛后复查三重仪表：总体入围率（SPD）、真实优秀者的入选率（EO）、误杀率（均衡几率），任何一个指针飘红，组委会都要回头检查重加权是否到位、审查官是否够狠、红线是否定得合理。

ΔEO=∣P(y^=1∣A=0,y=1)−P(y^=1∣A=1,y=1)∣\Delta_{EO} = \left| P(\hat{y}=1 \mid A=0, y=1) - P(\hat{y}=1 \mid A=1, y=1) \right|
公式通俗说明：只看“真正有能力/真正达标”的那批人，两组被模型选中的概率是否接近。如果差距大，说明模型对某组更严苛。
  1. 真实正例限定$y=1$ 表示该样本的真实标签为正例（如“确实胜任该岗位”）。
    y=1y=1
  2. 条件交集$A=0, y=1$ 表示第一组中真实为正例的子集；$A=1, y=1$ 同理。
    A=0,y=1A=0, y=1
  3. 条件概率$P(\hat{y}=1 \mid A=0, y=1)$ 是第一组真实正例被模型选中的比例，即召回率。
    P(y^=1∣A=0,y=1)P(\hat{y}=1 \mid A=0, y=1)
  4. 差值度量两组召回率相差越小，说明“同等条件者机会越均等”。
    ΔEO≈0\Delta_{EO} \approx 0

因果视角

比喻引入：组委会进一步追问：小地区入围率低，到底是“地区出身”直接导致的，还是因为小地区普遍缺乏训练经费和营养条件？如果只看相关性，组委会可能错误地惩罚了“地区”这个变量；只有画出因果链条，才知道该干预的其实是“训练条件”。

概念过渡：这正是因果视角对公平性的意义。混淆因子同时影响敏感属性与预测结果，制造虚假关联。因果图把变量之间的关系画成有向图，帮我们看清从 $A$ 到 $\hat{y}$ 的路径是“直接因果”还是“经混淆因子绕路”。反事实公平则提出一个更严格的检验：如果一个人的敏感属性被替换成另一个值，其他条件都不变，预测结果应保持不变。

技术展开：反事实公平的数学表达用 $do$ 算子表示人为干预：

比喻回扣：因果视角让组委会明白：与其盲目地“不看出身”，不如去改善小地区的训练条件——在因果图上做正确的干预，比在数据上做表面的粉饰更接近真正的公平。

P(y^=1∣X=x,do(A=0))=P(y^=1∣X=x,do(A=1))P(\hat{y}=1 \mid X=x, do(A=0)) = P(\hat{y}=1 \mid X=x, do(A=1))
公式通俗说明：想象给同一个人做“平行宇宙实验”——先把他的敏感属性设成 0 跑一次模型，再设成 1 跑一次模型，如果两次结果都相同，才算达到反事实公平。
  1. 特征条件$X=x$ 表示除敏感属性外，个体其余特征全部固定不变。
    X=xX=x
  2. 干预算子$do(A=0)$ 表示强行把敏感属性设置为 0，这是一种外部干预而非被动观测。
    do(A=0)do(A=0)
  3. 反事实对照$do(A=1)$ 是同样的个体被设定为另一敏感属性，构成一对“平行宇宙”。
    do(A=1)do(A=1)
  4. 概率相等两个条件概率相等，说明模型决策完全不受敏感属性驱动。
    P(⋅)=P(⋅)P( \cdot ) = P( \cdot )

工程落地

比喻引入：所有方案验证有效后，组委会把它们写成日常制度：每年赛前按人口比例计算加权系数，赛中请第三方机构驻场审查，赛后用固定仪表盘复核。公平不再是一锤子买卖，而是长期运转的流程。

概念过渡：工程落地就是把重加权、对抗去偏、约束优化从论文变成生产线上的标准动作。框架选型上可以选用 AIF360 等开源工具库；调参技巧是指 $\lambda$、$\varepsilon$ 等超参需要通过验证集网格搜索来确定；监控告警则是把公平性指标纳入线上系统，防止数据漂移导致偏见复发。

技术展开：上线监控的常用做法是实时计算当前窗口的 SPD，并与上线验收时的参考值比较：

比喻回扣：至此，组委会将经验沉淀为制度：重加权保证入场券公平，对抗去偏清洗成绩单杂质，约束优化划定红线，仪表盘持续监督，因果图指引根本干预——一场运动的公平，从“一次性的补救”变成了“可复用的基础设施”。

δt=∣SPDt−SPDref∣,当 δt>τ 时触发告警\delta_t = \left| SPD_t - SPD_{ref} \right| , \qquad \text{当 } \delta_t > \tau \text{ 时触发告警}
公式通俗说明：$SPD_t$ 是最近一小时线上预测的统计奇偶差，$SPD_{ref}$ 是模型上线时验收通过的基准值；一旦偏离超过告警阈值 $\tau$，就通知团队介入排查。
  1. 实时指标$SPD_t$ 是在时间窗口 $t$ 内，线上真实流量上计算的统计奇偶差。
    SPDtSPD_t
  2. 参考基准$SPD_{ref}$ 是模型验收上线时确认的公平基准，之后所有变化都以它为参照。
    SPDrefSPD_{ref}
  3. 偏差幅度$\delta_t$ 是当前偏差，$\tau$ 是人工设定的告警阈值。
    δt=∣SPDt−SPDref∣\delta_t = |SPD_t - SPD_{ref}|
  4. 触发条件当 $\delta_t$ 超过 $\tau$ 时自动告警，进入人工复核流程。
    δt>τ⇒Alert\delta_t > \tau \Rightarrow \text{Alert}

AI 应用场景

金融信贷审批：重加权 + 约束优化

阶段：数据预处理与模型训练

解决的问题：传统信贷模型在少数族裔与低收入群体上的拒绝率偏高，既损害普惠金融，也带来合规风险。重加权可以校正训练集中群体样本失衡；约束优化把“两组批准率差距不超过 5%”写进目标函数，保证模型在追求区分度的同时不越过公平红线。

具体案例：某消费金融公司在申请评分卡中加入敏感属性重加权（正面样本权重上调），并将 SPD 上限设为 0.03，再用拉格朗日对偶训练。上线后少数群体通过率提升 11%，整体坏账率仅微升 0.4%。

招聘简历筛选：对抗去偏

阶段：特征表示学习

解决的问题：简历初筛模型常从学校、爱好、地名等特征中反推出性别与民族，导致歧视性淘汰。对抗去偏让判别器专门尝试从模型输出中还原敏感属性，迫使预测器丢弃这些敏感线索，实现“看不出出身”的公平筛选。

具体案例：某互联网大厂在校招初筛系统中加入对抗去偏模块，判别器是一个两层的全连接网络，预测器则是在原有排序模型基础上增加对抗损失。两个网络交替训练后，性别维度的统计奇偶差从 0.18 降至 0.05，而新员工试用期绩效无明显下降。

医疗影像筛查：因果视角 + 监控告警

阶段：模型部署与监控

解决的问题：肺部 X 光筛查模型可能学到“拍摄设备品牌”与“病情”的虚假关联，导致不同医院来源的数据出现系统性偏见。因果图可以识别出这些混杂因子，反事实公平校验则确保同一患者在不同设备下的诊断结果一致；上线后通过 SPD 监控告警捕捉数据漂移。

具体案例：某 AI 医疗公司把反事实公平校验纳入器械注册审批流程：对同一批影像分别模拟“三甲医院设备”与“基层设备”两种拍摄条件，要求诊断结论一致率达到 98% 以上。部署后每月自动计算各医院来源的阳性率偏差，当偏差超过阈值时自动冻结模型更新。

Python 演示

python24 行
import numpy as npfrom sklearn.linear_model import LogisticRegressionfrom sklearn.metrics import accuracy_score rng = np.random.RandomState(42)N = 2000A = rng.binomial(1, 0.3, N)X1 = rng.normal(0.5 * A, 1.0, N)X2 = rng.normal(0.2 * A, 1.0, N)y = rng.binomial(1, 1.0 / (1.0 + np.exp(-(X1 - X2 + 0.3 * A))), N)X = np.column_stack([X1, X2]) ratio = A.mean()w = np.where(A == 1, 1.0 / (2.0 * ratio), 1.0 / (2.0 * (1.0 - ratio))) def spd(model, X, A):    p = model.predict_proba(X)[:, 1]    return abs(p[A == 0].mean() - p[A == 1].mean()) plain = LogisticRegression().fit(X, y)weighted = LogisticRegression().fit(X, y, sample_weight=w) for name, m in [('plain', plain), ('weighted', weighted)]:    print('%s acc=%.3f spd=%.3f' % (name, accuracy_score(y, m.predict(X)), spd(m, X, A)))
目的：在模拟数据集上对比“普通训练”与“重加权训练”的公平性指标（SPD），展示重加权如何在几乎不损失准确率的情况下显著降低偏见。
  1. A = rng.binomial(1, 0.3, N)模拟敏感属性，30% 属于少数群体
  2. X1 = rng.normal(0.5 * A, 1.0, N)制造特征与敏感属性相关，埋下偏见的种子
  3. y = rng.binomial(1, ..., N)按逻辑斯蒂函数生成真实标签，同时掺杂敏感属性影响
  4. w = np.where(A == 1, 1.0 / (2.0 * ratio), 1.0 / (2.0 * (1.0 - ratio)))计算重加权权重：目标占比 1/2 除以实际占比
  5. def spd(model, X, A)实现统计奇偶差指标，衡量两组预测正例率之差
  6. weighted = LogisticRegression().fit(X, y, sample_weight=w)使用样本权重训练模型，让少数群体拥有更多话语权
  7. for name, m in [('plain', plain), ('weighted', weighted)]并行对比两个模型的准确率与公平指标

常见误区

误区很多人以为只要把少数群体的样本权重调大，模型就自动公平了。毕竟数据分布被“校正”了，输出还能有什么问题？

正解重加权只修正“训练样本的入场券”，它不能阻止模型在特征交叉中重新学到敏感属性的代理变量。比如，你给女性样本加了权重，模型却可能通过“所在城市”“社交习惯”这些间接特征重新编码性别信息。重加权必须与对抗去偏或约束优化配合，才能从表征层面真正隔离敏感信号。

为何常见：因为“数据决定一切”的直觉很强，大家容易把公平性简化成一个数据预处理步骤，忽略了模型内部的自主挖掘能力。

误区有人认为判别器网络越深、λ 设得越大，模型就越“去偏”，公平性一定更好。

正解判别器太强会导致预测器为了骗过它而丢失太多语义信息，主任务准确率大幅下降；λ 过大相当于把“不要泄露敏感信息”凌驾于一切业务目标之上，模型甚至可能输出毫无意义的常数。实践中常用网格搜索，在验证集上同时观察准确率与公平指标，取帕累托曲线拐点处的 λ。

为何常见：对抗生成网络（GAN）给人们留下“对抗越狠效果越好”的印象，但去偏场景中预测器不是生成器，它没有无限容量去兼顾所有目标。

误区很多人把统计奇偶差当成唯一标准，觉得只要两组正例率完全相等，模型就是公平的。

正解SPD=0 只代表“总体名额分配”相等，但完全可能在细粒度上不公平。比如两组虽然都录取了同样的总数，但低风险男性被拒而低风险女性被录，导致机会均等指标（ΔEO）仍然很大。真正的公平需要综合 SPD、机会均等、均衡几率等多个维度一起看，单一指标归零常常只是“表面平等”。

为何常见：单指标优化最容易操作，人们天然喜欢用一个数字“证明”自己做了公平性工作，而忽略了多目标验证。

误区部分团队把公平性工作全部放在建模阶段，认为模型部署后只要没人投诉就不用再管。

正解线上数据分布会随外部环境漂移。某招聘模型上线时性别 SPD 只有 0.03，半年后因投放渠道变化，某城市的简历占比大幅上升，SPD 漂移到 0.15。正确的做法是把公平指标接入线上监控，设置告警阈值 τ，并配合定期重训与因果复核。

为何常见：模型生命周期管理常以业务指标（如准确率）为核心，公平性指标没有进入常规监控体系，自然被遗忘。

面试题

Q1. 重加权缓解策略的核心操作是什么？

单选题 · easy

  • A.加大模型正则化权重
  • B.给不同敏感组分配权重← 正确答案
  • C.删除敏感属性特征
  • D.对预测后处理修正

答案：B。重加权通过给不同敏感组的样本分配不同权重（目标占比 / 实际占比）来校正训练分布。A 是正则化手段，C 是特征剔除，D 是后处理修正，都不属于重加权的核心操作。

Q2. 对抗去偏中“判别器”的主要任务是什么？

单选题 · easy

  • A.提升模型预测精度
  • B.反推预测中的敏感属性← 正确答案
  • C.生成更多训练样本
  • D.计算模型损失函数

答案：B。判别器像那位“独立审查官”，专门从预测结果中反推敏感属性。它猜得越准，说明预测中残留的敏感信号越多，主模型就要继续去偏。生成样本是 GAN 的生成器职责，不是这里的判别器。

Q3. 统计奇偶差（SPD）衡量的是什么？

单选题 · easy

  • A.预测结果与敏感属性差值
  • B.训练推理的时间开销
  • C.不同分组预测正例率差← 正确答案
  • D.模型的参数规模大小

答案：C。SPD 比较两个敏感组被模型判为正例的比例之差。C 表述正确；A 描述的是相关性方向不明；B 和 D 讲的是性能与规模，与公平无关。

Q4. 约束优化中引入拉格朗日乘子 λ 的主要目的是什么？

单选题 · mid

  • A.提升模型的训练速度
  • B.把公平约束转化为罚项← 正确答案
  • C.对输入特征做标准化
  • D.增加判别器的复杂度

答案：B。拉格朗日乘子把带约束的优化问题转化为可微的无约束问题，λ 是根据违规程度动态调整的“罚金”。这跟加速训练（A）、标准化（C）或判别器结构（D）没有关系。

Q5. 样本权重 w_i 通常按什么公式计算？

单选题 · mid

  • A.真实分布占比作分子
  • B.目标占比除以真实占比← 正确答案
  • C.直接取真实分布倒数
  • D.目标乘以真实分布值

答案：B。w_i = P_target(A=a_i) / P_data(A=a_i)，即目标占比除以真实占比。少数群体因真实占比小而获得大于 1 的权重；反过来（A）会让少数群体更被忽视，C 和 D 则缺乏目标占比的概念。

Q6. 机会均等（Equal Opportunity）关心的是哪组人群的预测情况？

单选题 · mid

  • A.两组总体预测正例率相等
  • B.真实正例中两组召回率相等← 正确答案
  • C.模型在所有样本上精度最佳
  • D.敏感属性的信息被完全删除

答案：B。机会均等只约束“真实标签为正例”的子集，要求两组中被正确识别的比例（召回率）相等。A 是统计奇偶差，C 是准确率优化，D 是表征去偏层面的目标，都与机会均等定义不符。

Q7. 反事实公平的核心思想是什么？

单选题 · single

  • A.保持其他条件固定改变敏感属性预测不变← 正确答案
  • B.让敏感属性参与模型编码与训练过程
  • C.删除所有与敏感属性间接关联的特征
  • D.用随机采样掩盖敏感属性的统计特征

答案：A。反事实公平用 do 算子强行改变敏感属性，其他特征不变，若预测结果不变则公平。A 正确；B 鼓励使用敏感属性，与公平目标相悖；C 是特征删除策略；D 是数据扰动手段，都不涉及“平行世界对照”的思想。

Q8. 以下哪些属于公平性缓解策略？

多选题 · mid

  • A.采用重加权法← 正确答案
  • B.随机梯度下降
  • C.采用约束优化← 正确答案
  • D.对抗去偏法← 正确答案

答案：ACD。重加权、约束优化、对抗去偏是本文三大缓解策略。随机梯度下降只是通用的模型优化器，并不面向公平性，因此 B 不选。

Q9. 关于重加权与对抗去偏的区别，说法正确的有哪些？

多选题 · hard

  • A.重加权作用于数据层面← 正确答案
  • B.对抗去偏改变模型表征← 正确答案
  • C.两者实现效果完全相同
  • D.重加权能纠正分布偏差← 正确答案

答案：ABD。重加权在样本层面修正分布偏差，属于数据预处理；对抗去偏在表征层面消除敏感信号，两者互补而非相同，因此 C 错。A、B、D 分别准确描述了两者的作用层面与重加权的核心效果。

Q10. 公平性模型的线上监控需要关注哪些要点？

多选题 · mid

  • A.数据漂移会引发偏见复发← 正确答案
  • B.参考指标须在验收时固化← 正确答案
  • C.监控只存在于训练阶段
  • D.阈值告警要提前定义← 正确答案

答案：ABD。数据漂移可能让训练时达标的公平指标重新恶化，因此需要持续监控并设告警阈值 τ；参考值应在验收时固化。C 与监控“线上持续”的理念相反，不选。