算法公平性：机会均等Equal Opportunity

可视化演示

展示不同群体TPR对比、人口学平差与机会均等差异及后处理阈值调整ROC曲线，支持模式切换。

公平性起源

算法世界里的“评分不公”，和育英中学如出一辙。学生的平时成绩、作业表现就是特征，班主任的打分规则就是模型，奖学金名单就是预测结果。当打分标准本身带有偏颇时，模型输出了“看起来合理”却埋没甲班的名单。AI 的偏见，往往不是模型凭空产生，而是训练数据里的历史偏见被模式化了：比如用过去十年简历训练招聘模型，历史中高管多为男性，模型就从数据里学到“男性更适合管理岗”，从而放大了不公。要消除偏见，先得有“公平”的数学定义，这正是算法公平性研究兴起的原因——把抽象的道德问题，变成可量化、可审计的指标。

要将问题符号化，我们可以写出模型的决策形式：

把目光转回奖学金评选，我们就明白：公平性研究的第一步，不是争论哪个班主任更严格，而是先把“评分标准”和“真实优劣”分开。只要数据里的偏见被机器学到，预测结果就不可能无辜。所以这个领域的第一步，总是先定义一种可计算的公平尺子，再用它丈量模型。“公平”不是一句口号，而是一道可以检验的数学不等式。

人口均等

校长的第一个方案“每班发 5 个名额”，在算法公平性里对应一个经典概念：人口学平价（Demographic Parity，也称人口均等）。它要求模型在不同群体上的预测正例率保持一致——即甲班全体的“获奖预测率”和乙班全体的“获奖预测率”相同。这个指标完全不看学生的真实优劣标签，只要求各组预测结果的边缘分布相等，是一种极其朴素、容易被理解的“平均”。

人口均等的数学形式如下：

校长很快发现这个方案的问题：如果甲班真实优秀率远高于乙班，强行让两班“获奖人数比例一样多”，就等于压下了甲班真正的尖子生，把乙班的“次优生”抬了进来。人口均等于是把公平定义成了一碗“端平的水”，可水的两端，杯子大小却不一样。它忽略了真实标签，最终导致一种新的反向歧视。这也是我们学习机会均等之前，必须先理解人口均等的局限性的原因。

机会均等定义

后来有人提醒校长：我们真正在乎的，不是“每班多少人获奖”，而是“真正优秀的学生，有没有获得同样的被选中机会”。这便是机会均等（Equal Opportunity）的核心思想。它把视线收窄到真实正例——也就是那些“货真价实”的优秀学生——然后在其中比较各群体的召回率。只要甲班真实优秀的学生被选中的比例，和乙班真实优秀学生的比例持平，我们就认为模型给了两个群体同样大的“机会”。

机会均等的定义式如下：

从“人口均等”到“机会均等”，最重要的变化是引入了真实标签 Y。人口均等的分子是“所有被预测为优秀的人”，机会均等的分子则是“真实优秀且被预测为优秀的人”。它不再要求获奖总数相同，而要求“真正优秀的人被看见的概率相同”。回到育英中学，这个机会意味着：即便甲班评分严苛，真正优秀的甲班学生，也有和乙班同等概率出现在奖学金名单上。这正是校长真正想要的公平。

公式基础

要落地机会均等，我们需要一个熟悉的名词——召回率（Recall），也叫真阳性率（TPR）。它衡量的是：在所有真实正例中，模型成功找出了多少。不妨把模型想象成一位“寻宝人”：真实优秀的学生是埋藏的宝藏，模型要尽可能多地挖出来。召回率就是“挖出的宝藏数 ÷ 地下埋藏的总宝藏数”。对每个群体分别计算这个比率，再比较群体间是否接近，就是机会均等的全套操作。

对群体 g 的召回率，公式如下：

在工程实践中，机会均等通常被转化为一个近似条件：|TPR_甲 − TPR_乙| ≤ ε，其中 ε 是业务可接受的容忍度，比如 0.05 或 0.1。它不是绝对相等，而是一个可操作的容差范围。对校长来说，这意味着要分别给两个班各做一份“优秀学生被选中率”清单，再比较两张清单的差距是否小到可以接受。公式基础并不复杂，真正复杂的是数据是否可靠，以及监督是否持续。

应用场景

育英中学的评选办法一旦成立，很快就被推广到社会各行各业。凡是“存在真实正例、且误伤代价很高”的 AI 决策场景，机会均等都成了公平审计的主流标尺。第一个典型场景是招聘筛选。招聘引擎使用“简历→面试→最终通过”作为真实正例，让不同院校、不同背景的真实优秀候选人，拥有接近的进入面试环节的机会，避免名校背景掩盖了真实能力。第二个场景是信贷审批，以“实际按时还款”作为真实正例，让不同人群组的优质客户获批率保持相近。

在风控与医疗等高危领域，机会均等同样举足轻重。反欺诈模型以“真实高风险用户”为正例，要求不同群体被识别出的概率一致；AI 医学影像模型以“真实患病”为正例，让年轻组和老年组的确诊召回率对齐。从社会视角看，机会均等之所以流行，是因为它抓住了“真实”这个锚点。只要找到可信的真实标签，公平就可以被定义成一道加法运算：把每组优秀者的召回率列出来，检查差距。它不能包治百病，但比“总体同比例”离真正的社会公平近了一大步。

对比优势

回到校长面前的两套方案。人口均等像是按“班级人数”平均发名额，机会均等则是按“真正优秀学生的被选中率”对齐。显然，后者更贴合“公平”的直觉。机会均等的最大优势，是它结合了真实标签：它不强迫不同群体的预测结果分布完全一致，而是聚焦于“真实正例被保住”这一核心目标，因而避免了人口均等在真实优秀率不均时引发的反向歧视。它既照顾了群体差异，又约束了模型对优质人群的召回能力，因此在高风险决策中更有说服力。

当然，机会均等也有自身的边界：它只约束正类（Y=1）的召回率，对假阳性率并没有限制。假如模型在甲班乱发“优秀”标签、在乙班很保守，只要两班真实正例的召回率相同，机会均等依然“达标”，这显然不够严谨。此时，研究者会采用更严格的均等化几率（Equalized Odds）：

所以校长在评选奖学金时，不仅查“优秀者有没有被看见”，也会查“普通学生有没有被误选”。机会均等是良好起点，但面对误伤敏感的复杂场景，需要更严格的指标体系来托底。理解它的优势与边界，是公平治理能力的体现。

实践要点

制定公平的评选机制，不能只停留在定义上，更要落地执行。首先，数据层面要建立可靠的真实标签。招聘模型中的“真实优秀”需要通过面试结果、试用期绩效来界定；信贷模型中的“真实优质”需要依赖逾期记录与还款行为。没有干净的 Y，机会均等就像在流沙上盖楼。其次，模型审计阶段要按群体分别统计召回率，将 TPR 差距与业务容忍阈值比较，一旦超过就标记为不达标。常用的做法是在验证集上做分层评估，构建混淆矩阵，分别计算每个群体的 TPR。

随后是阈值调优：在分类器输出分数的基础上，允许不同群体使用不同的判定阈值，使两组的召回率对齐。这一操作不改变模型本身，却能显著缩小 TPR 差距。最后，也是最容易被忽略的一步——持续监测。真实世界会漂移，学生群体的构成会变，评分标准会更新。模型上线后要定期重算各群体 TPR，并在差距扩大时触发再训练或阈值校准预警。机会均等不是一个静态结论，而是伴随模型生命周期的“公平底线”，需要像校园风纪一样天天维护。

AI 应用场景

Python 演示

import numpy as npfrom sklearn.linear_model import LogisticRegressionfrom sklearn.model_selection import train_test_split  def tpr_by_group(y_true, y_pred, group, gid):    """Compute recall (TPR) for one group."""    rows = group == gid    pos = y_true[rows] == 1    if pos.sum() == 0:        return 0.0    return float((y_pred[rows][pos] == 1).mean())  np.random.seed(42)n = 2000group = np.random.choice([0, 1], size=n)ability = np.random.normal(0, 1, n) + 0.2 * groupy_true = (ability + np.random.normal(0, 0.6, n) > 0.3).astype(int)X = np.column_stack([    ability + np.random.normal(0, 0.3, n),    np.random.normal(0, 1, n),]) X_train, X_test, y_train, y_test, g_train, g_test = train_test_split(    X, y_true, group, test_size=0.4, random_state=7) model = LogisticRegression()model.fit(X_train, y_train)y_pred = model.predict(X_test) tpr0 = tpr_by_group(y_test, y_pred, g_test, 0)tpr1 = tpr_by_group(y_test, y_pred, g_test, 1)gap = abs(tpr0 - tpr1) print(f"group 0 TPR={tpr0:.3f}")print(f"group 1 TPR={tpr1:.3f}")print(f"TPR gap={gap:.3f}")print("Equal opportunity OK" if gap <= 0.1 else "Equal opportunity violation")

1. ability = np.random.normal(0, 1, n) + 0.2 * group模拟两组能力分布的微小差异，制造潜在偏差来源。
2. y_true = (ability + np.random.normal(0, 0.6, n) > 0.3).astype(int)根据“真实能力”生成真实标签，对应奖学金评选里的“真实优秀”。
3. model.fit(X_train, y_train)训练模型，让模型从数据中学习预测规则，相当于“班主任的打分规则”。
4. pos = y_true[rows] == 1这个切片筛选出“真实正例”，也就是只保留真正优秀的学生。
5. return float((y_pred[rows][pos] == 1).mean())计算真实正例中被预测为正的比例，即该群体的召回率 TPR。
6. gap = abs(tpr0 - tpr1)求出两个群体的 TPR 差距，机会均等要求这个差距小于容忍阈值。

常见误区

面试题