想象我们在小区里设计一栋新楼。普通标准很有意思：门宽80厘米、台阶三级、电梯按钮离地1.4米——这些尺寸让健康成年人觉得很顺手，却难住了坐轮椅的老张、眼睛不好的李叔，还有刚上小学的朵朵。真正负责任的建筑师，不会等楼盖好之后再道歉，而是从画图纸那一天起，就反复问：“儿童够得着按钮吗？轮椅能进电梯吗？老人看得清指示牌吗？” AI系统就像这栋楼。它服务的用户里，既有熟悉科技的年轻人，也有数字技能较弱的老年人、数据样本稀少的儿童、依赖辅助工具的残障人士。如果AI在数据收集、算法设计、界面交互中忽略了这些群体，就会在数字世界里立起一道道“看不见的门槛”。好消息是，全球的AI治理法规和伦理审查机制，正是为了拆除这些门槛而设计的。 这篇文章，我们就借“一栋人人可用的大楼”的故事，把AI伦理审查中的弱势群体保护讲透。我们会看看弱势群体面临哪些AI风险，学会用数学指标量化公平性，了解包容性设计怎么做，再梳理全球法规要求与落地实践策略。

岗位关联

学完本节，你将掌握AI公平性评估的核心指标与伦理审查落地方法，能在实际AI项目中识别并降低对弱势群体的算法偏见，成为真正“负责任AI”的推动者。

目录
  1. 可视化演示
  2. 弱势群体AI风险
  3. 伦理审查原则
  4. 公平性评估指标
  5. 包容性设计方法
  6. 法规合规要点
  7. 落地实践策略
  8. AI 应用场景
  9. Python 演示
  10. 常见误区
  11. 面试题

可视化演示

展示系统处理流水线、实时性能指标曲线及多方案对比分析，包含数据流转、吞吐延迟监控与方案评估。

本节配有交互动效（进入视口后自动加载，约 3KB）。

系统可视化 处理流程：输入→处理→模型→输出 性能监控：实时指标 P=L×T

弱势群体AI风险

大楼施工方在一层装了五级台阶。年轻人三步两步就上去了，但坐轮椅的老张只能绕远路找坡道；读小学的朵朵踮起脚也够不着门禁按钮；视力不好的李叔盯着屏幕上的小字看不清楼层。这些设计缺陷不是故意的，只是设计师的默认假设——“用户都是健康成年人”。

AI系统中的“台阶”也是如此。模型从大量数据里学习规律，如果训练数据里几乎没有儿童、老年人、残障人士的样本，AI就会“看不见”他们，甚至做出不公平的判断。比如，一个智能客服系统，可能会因为老年人的提问句式比较长而无法理解，直接跳转到“人工服务”；一个视频内容审核算法，可能因为训练数据中缺少儿童语音特征，而误将孩子的说话声识别为背景噪音。这种偏差叫作算法偏见。它并非来自恶意，而是来自数据和设计的“默认假设”。

更麻烦的是，数字鸿沟会放大这种偏见。弱势群体使用数字设备的频率低、留存数据少，导致数据层面的“马太效应”——越缺少数据，模型越不懂他们；模型越不懂他们，越难为他们服务，他们就越不愿意用。此外，弱势群体的生物特征（如老人病史、儿童声纹）属于高度敏感的隐私数据，一旦泄露，伤害远大于普通用户。我们用一个“偏见暴露指数”来刻画这种风险：

回到大楼的比喻：这就像做一次“无障碍缺陷盘点”——先列出所有台阶、窄门、高按钮的位置，再标出每天有多少人经过这些地方。只有先承认台阶存在，才谈得上去改造它。AI 伦理审查的第一步，同样是先把弱势群体的风险点找出来。

R=∑g∈Gwg⋅(1−Dg)⋅AgR = \sum_{g \in G} w_g \cdot \left(1 - D_g\right) \cdot A_g
偏见暴露指数 R：把每个弱势群体的“数字服务缺乏程度”和“AI使用频率”相乘再加权求和，越接近1说明这个群体越容易被AI不公平对待。
  1. 群体集合$G$ 表示我们需要关注的受保护群体，如 $\{儿童, 老年人, 残障人士\}$
    G={儿童,老年人,残障人士}G = \{ \text{儿童}, \text{老年人}, \text{残障人士} \}
  2. 人口权重$w_g$ 表示群体 $g$ 在总人口中的占比，用于体现影响范围
    ∑g∈Gwg=1\sum_{g \in G} w_g = 1
  3. 数字覆盖率$D_g$ 表示群体 $g$ 使用互联网和智能设备的比例，数值在 0 到 1 之间
    Dg=群体g的数字活跃人数群体g总人数D_g = \frac{\text{群体}g\text{的数字活跃人数}}{\text{群体}g\text{总人数}}
  4. 使用频率$A_g$ 表示该群体日常生活被 AI 决策影响的频率，比如贷款审批、内容推荐、健康监测
    Ag∈[0,1]A_g \in [0,1]
  5. 综合求和把每个群体的“覆盖率缺口”与“使用频率”相乘再加权求和，缺口越大、频率越高，暴露风险越高
    R=∑g∈Gwg⋅(1−Dg)⋅AgR = \sum_{g \in G} w_g \cdot (1 - D_g) \cdot A_g

伦理审查原则

国家规定，大楼竣工必须通过消防、结构、水电三道验收。负责任的 AI 系统也是一样——在模型上线前，必须由独立团队按照伦理原则逐条检验。这就像一个“AI 验收队”，拿着检查清单走进大楼，看每一处细节是否合格。

伦理审查的四大原则，相当于大楼验收单上的“安全红线”。公平公正原则要求 AI 不得因年龄、残障状态等原因对任何群体产生系统性歧视；透明可解释原则要求用户有权知道 AI 为什么给自己作出某个判断；问责追溯原则要求每个决策都能追溯到对应的模型版本和数据来源；多方参与原则则强调把弱势群体代表请进审查会议室——就像大楼验收时必须有残疾人联合会的代表在场，而不是几个建筑师自己互相点头。

如何判断一轮伦理审查是否合格？我们可以用简单的 “合规度” 来量化：

这就像验收单上列了 20 个检查项，每项打勾或打叉。全部打勾才能发“合格证”。同时，审查过程要邀请弱势群体代表参与：儿童产品的测试要请家长和孩子来试用，老年健康监测 AI 要请老人来体验，无障碍功能要请残障用户亲自走一遍。只有这样，验收才算真正“负责任”。

C=1N∑k=1NI(rulek is satisfied)C = \frac{1}{N}\sum_{k=1}^{N} I(\text{rule}_k \text{ is satisfied})
合规度 C：把伦理审查清单上每一条规则当作一道“是非题”，回答“满足”得 1 分，“不满足”得 0 分，最后求平均。C = 1 代表全部通过。
  1. 审查规则$\text{rule}_k$ 表示清单上的第 $k$ 条审查要求，例如“是否验证了老年用户的可用性”
    rulek∈{公平性评估完成,可解释性报告提交,⋯ }\text{rule}_k \in \{ \text{公平性评估完成}, \text{可解释性报告提交}, \cdots \}
  2. 指示函数$I(\cdot)$ 是逻辑判断，条件成立取值 1，不成立取值 0
    I(rulek)={1,满足0,不满足I(\text{rule}_k) = \begin{cases} 1, & \text{满足} \\ 0, & \text{不满足} \end{cases}
  3. 平均合规度将所有规则的得分加总后除以规则总数 $N$，得到综合合规度
    C=1N∑k=1NI(rulek)C = \frac{1}{N}\sum_{k=1}^{N} I(\text{rule}_k)

公平性评估指标

老张的轮椅要进门，门框必须够宽。但“够宽”到底是 80 厘米还是 90 厘米？公平不能只靠感觉，必须用卷尺说话。AI 公平性也是这样——我们需要一把“数学卷尺”，量化模型对不同群体的对待差异。

第一把尺子叫 统计均等差异（Statistical Parity Difference, SPD），它衡量两个群体被 AI 判为“通过”的概率差：

第二把尺子叫 均等机会差异（Equalized Opportunity Difference, EO），它不只看“通过率是否一致”，还进一步检查“误伤率”和“漏救率”：

SPD 像用卷尺量门宽——门的净宽是否够；EO 更像让人实际推着轮椅走一遍——门不仅要够宽，而且要不会卡住轮子、不会找不到门。两把尺子配合使用，才能形成一份完整的“公平体检报告”。

SPD=P(y^=1∣S=0)−P(y^=1∣S=1)\text{SPD} = P(\hat{y}=1 \mid S=0) - P(\hat{y}=1 \mid S=1)
EO 同时关注“不该通过的却被放行”（FPR）和“该通过的却被拦住”（FNR）。比如，轮椅用户刷卡进站时被反复误判为逃票（FPR 高），或老人刷脸支付时总是超时失败（FNR 高），都逃不过 EO 的眼睛。
  1. 假阳性率$\mathrm{FPR}$ 表示实际为负类（不该通过）却被判为正类的比例
    FPR=FPFP+TN\mathrm{FPR} = \frac{\mathrm{FP}}{\mathrm{FP} + \mathrm{TN}}
  2. 假阴性率$\mathrm{FNR}$ 表示实际为正类（该通过）却被判为负类的比例
    FNR=FNFN+TP\mathrm{FNR} = \frac{\mathrm{FN}}{\mathrm{FN} + \mathrm{TP}}
  3. 组间绝对差$\left| \cdot \right|$ 取弱势组与优势组两个指标的绝对差
    ∣FPRS=0−FPRS=1∣\left| \mathrm{FPR}_{S=0} - \mathrm{FPR}_{S=1} \right|
  4. 取平均将两个差距相加后除以 2，得到一个综合的“不公平差距”分数
    ΔEO=12(ΔFPR+ΔFNR)\Delta_{EO} = \frac{1}{2}\left( \Delta_{\mathrm{FPR}} + \Delta_{\mathrm{FNR}} \right)

包容性设计方法

知道门要够宽还不够，还要考虑扶手、斜坡、盲道、电梯按钮位置。真正的包容性设计，不是等楼建好再贴一张“无障碍电梯”的标签，而是在每一张设计图纸上就把所有人算进去。

对 AI 系统来说，包容性设计体现在四个层面。无障碍设计标准：遵循 WCAG（Web 内容无障碍指南）等规范，让界面同时支持读屏软件、高对比度模式和大字号；用户参与式设计：邀请儿童、老年人、残障人士在原型阶段就参与测试——比如让老人试用语音购药系统，听他们抱怨“方言识别不了”；自适应交互反馈：系统能识别用户输入慢、误触多、文字小等情况，自动放大按钮、延长超时时间；多元测试覆盖：测试集里必须保证弱势群体的代表样本，不能清一色是“20 岁学生党”。

我们用一个“可访问性覆盖率”来评估设计是否足够包容：

回到大楼：验收时数一数无障碍设施的种类和数量，看它是否覆盖了轮椅坡道、盲道、扶手和低按键。每一类都覆盖到，才算真正的“人人可用”。AI 的包容性同样如此——不是某一个群体照顾到就够了，而是所有群体都在测试和设计中被看见。

Aacc=1∣G∣∑g∈Gmin⁡(1,ngtestngtarget)A_{\text{acc}} = \frac{1}{|G|} \sum_{g \in G} \min\left(1, \frac{n_g^{\text{test}}}{n_g^{\text{target}}}\right)
可访问性覆盖率：对比测试集中各弱势群体的实际样本量与目标样本量。每个群体单独计分后再平均，1 分代表完全覆盖。
  1. 群体数量$|G|$ 是需要覆盖的弱势群体总数
    ∣G∣=3(儿童、老年人、残障人士)|G| = 3 \quad (\text{儿童、老年人、残障人士})
  2. 实际测试样本$n_g^{\text{test}}$ 是测试集中该群体的样本个数
    ngtest=∑i=1NtestI(gi=g)n_g^{\text{test}} = \sum_{i=1}^{N_{\text{test}}} I(g_i = g)
  3. 目标样本量$n_g^{\text{target}}$ 是根据人口占比推算的最小测试样本数
    ngtarget=⌈Ntest×wg⌉n_g^{\text{target}} = \lceil N_{\text{test}} \times w_g \rceil
  4. 单群体截断$\min(1, \cdot)$ 防止“过度采样刷分”——样本远超目标也只给满分
    min⁡(1,ngtestngtarget)∈[0,1]\min\left(1, \frac{n_g^{\text{test}}}{n_g^{\text{target}}}\right) \in [0,1]
  5. 平均总分对全部群体取平均，得到整体可访问性覆盖率
    Aacc=1∣G∣∑g∈Gmin⁡(1,ngtest/ngtarget)A_{\text{acc}} = \frac{1}{|G|} \sum_{g \in G} \min(1, n_g^{\text{test}}/n_g^{\text{target}})

法规合规要点

大楼不仅要通过内部验收，还要接受消防法、建筑法、无障碍条例的执法检查。AI 系统也一样——即使内部伦理审查通过了，还必须在法律框架下运营。近年来，全球针对 AI 弱势群体保护的法规正在快速落地。

欧盟 AI 法案按风险把 AI 系统分为四级。影响弱势群体权益的关键基础设施（如教育评分 AI、医疗分诊系统、招聘简历筛选）大多被划入“高风险”类别，必须满足严格的审计追踪和人工监督要求。中国的《生成式人工智能服务管理暂行办法》和《个人信息保护法》要求算法备案、安全评估，并对儿童等敏感群体数据实行特殊保护。美国的 COPPA（儿童在线隐私保护法）规定，收集 13 岁以下儿童的数据必须获得父母可验证的同意。此外，各国数字可及性立法明确规定，政务和公共服务的 AI 必须提供无障碍渠道，比如语音办理、大字版本、手语视频。

合规不能只看感觉，需要数字化评估。我们用一个合规风险评分来给系统“体检”：

这就像消防通道检查——堆放杂物的概率越高，失火逃生的后果越严重，整栋楼的消防风险分就越高。合规风险分高并不意味着“一定会出事”，而是在提醒你：这里有个隐患，再不整改就要吃罚单了。

Rcomp=∑i=1Mpi⋅siR_{\text{comp}} = \sum_{i=1}^{M} p_i \cdot s_i
合规风险评分：把每条法规条款的“违反概率 \(p_i\)”乘以“违规严重度 \(s_i\)”，累加所有条款。分数越高，说明踩红线的风险越大。
  1. 法规条款数量$M$ 是适用于该业务场景的全部法规条款数
    M=m数据保护+m算法备案+m无障碍要求+⋯M = m_{\text{数据保护}} + m_{\text{算法备案}} + m_{\text{无障碍要求}} + \cdots
  2. 违规概率$p_i$ 表示当前系统状态触发第 $i$ 条法规的概率，取值 0 到 1
    pi∈[0,1]p_i \in [0,1]
  3. 违规严重度$s_i$ 表示一旦违规的后果等级，1 为轻微，5 为致命
    si∈{1,2,3,4,5}s_i \in \{1,2,3,4,5\}
  4. 加权求和对每条法规的风险贡献求和，得到整体合规风险分
    Rcomp=∑i=1Mpi⋅siR_{\text{comp}} = \sum_{i=1}^{M} p_i \cdot s_i

落地实践策略

大楼交付不是终点。电梯要定期检修，无障碍坡道要扫雪防滑，残疾人求助铃要每月测试。AI 伦理审查同样需要“物业管理”式的持续运营，而不是验收一结束就刀枪入库。

风险缓解流程讲究闭环：计划（Plan）→ 执行（Do）→ 检查（Check）→ 处理（Act），每一轮迭代都重新评估弱势群体影响。模型透明解释要求团队为模型配置 SHAP 等可解释性工具，让每个“拒绝贷款”的决定都能被翻译成人类看得懂的语言。持续监控预警是重中之重——模型上线后数据分布会漂移，昨天还公平的模型，今天就可能悄悄变偏。我们需要一个综合指标来捕捉这种变化：

最后，伦理培训文化是这一切的地基。算法工程师要学会使用公平性指标，产品经理要理解弱势群体需求，测试人员要设计多样化的测试用例。物业能把大楼维护好，靠的不是一张万能的指令单，而是每一位工作人员心里都装着“无障碍”三个字。AI 团队也一样——只有当每个人都把弱势群体保护当成默认共识，负责任 AI 才算真正落了地。

Ft=13(∣SPDt−SPD0∣+∣EODt−EOD0∣+∣ACCt−ACC0∣ACC0)F_t = \frac{1}{3}\left( |\mathrm{SPD}_t - \mathrm{SPD}_0| + |\mathrm{EOD}_t - \mathrm{EOD}_0| + \frac{|\mathrm{ACC}_t - \mathrm{ACC}_0|}{\mathrm{ACC}_0} \right)
公平性漂移度 \(F_t\)：同时监控 SPD、EOD 和准确率三个指标相对基线的变化量。当 \(F_t\) 超过预设阈值（比如 0.15），系统自动触发告警，提示工程师介入调查。
  1. 基线值$\mathrm{SPD}_0, \mathrm{EOD}_0, \mathrm{ACC}_0$ 是模型上线时记录的公平性和性能基线
    基线下标 0 表示上线时刻\text{基线下标 } 0 \text{ 表示上线时刻}
  2. 当前值$\mathrm{SPD}_t, \mathrm{EOD}_t, \mathrm{ACC}_t$ 是运营中实时计算的当前指标
    下标 t 表示当前时刻\text{下标 } t \text{ 表示当前时刻}
  3. 公平性绝对漂移$|\mathrm{SPD}_t - \mathrm{SPD}_0|$ 和 $|\mathrm{EOD}_t - \mathrm{EOD}_0|$ 度量公平性指标的偏移
    ∣ΔSPD∣+∣ΔEOD∣|\Delta \mathrm{SPD}| + |\Delta \mathrm{EOD}|
  4. 准确率相对漂移$\frac{|\mathrm{ACC}_t - \mathrm{ACC}_0|}{\mathrm{ACC}_0}$（防止因准确率下降带来偏见放大）
    ∣ΔACC∣ACC0\frac{|\Delta \mathrm{ACC}|}{\mathrm{ACC}_0}
  5. 三项平均除以 3 得到综合漂移度，与阈值比较决定是否告警
    Ft>θ⇒触发告警F_t > \theta \Rightarrow \text{触发告警}

AI 应用场景

智能招聘系统的偏见审计

阶段：模型评估与部署监控

解决的问题：传统招聘系统在筛选简历时，对老年求职者存在系统性偏见。人工难以逐份核对成千上万份简历的筛选逻辑，而 AI 虽然提高了效率，却因为训练数据以年轻求职者为主，导致 45 岁以上候选人的简历通过率明显偏低。通过在模型评估阶段引入 SPD 和 EOD 指标，团队量化了偏见幅度（SPD = -0.27），调整训练数据年龄分布并在上线后持续监控漂移指标，才让招聘系统变得公平。

具体案例：某互联网招聘平台在使用 AI 简历初筛后，发现 45 岁以上求职者的面试邀约率仅为 25~35 岁组的 61%。伦理审查团队介入后，重新平衡了数据分布，并设置 EOD < 0.1 的监控阈值，每月自动生成公平性报告，使老年求职者的邀请率回升至同龄人专业能力的合理匹配区间。

儿童教育 App 的合规改造

阶段：产品设计与合规审查

解决的问题：传统儿童教育 App 通常会收集孩子的语音、图像和行为数据来训练个性化推荐，却很少取得监护人可验证的授权。依据 COPPA 和《个人信息保护法》，这类做法面临巨额罚款和产品下架的风险。通过伦理审查，团队重建了数据收集流程——先取得家长授权，再做数据匿名化，最后用“数据最小化”原则只保留必要特征。

具体案例：某在线英语学习平台收集了 12 岁以下儿童的语音数据进行发音评测。合规改造后，App 在首页增加大字版《家长同意书》，语音数据在传输前先做特征提取不保留原始音频，并设置 90 天自动删除策略。家长满意度提升 18%，合规审查一次性通过。

政务服务 AI 的无障碍升级

阶段：用户接口设计与可访问性测试

解决的问题：某市政部门的 AI 客服机器人只能进行文字/语音对话，视力障碍和听障人士都无法独立使用。传统文本交互界面对于使用读屏软件、依赖手语的用户极不友好。通过遵循 WCAG 无障碍标准、增加手语视频通道和超大字体模式，并邀请残障用户参与验收测试，AI 政务服务的覆盖人群显著扩大。

具体案例：上海的社区事务受理中心为其 AI 智能问答系统增加了无障碍模式——读屏软件兼容、语音输入备选、手语翻译视频窗口。残障用户可在没有工作人员陪同的情况下完成事项查询，热线转人工率下降 32%，投诉率下降 46%。

Python 演示

python58 行
# -*- coding: utf-8 -*-"""AI公平性审计工具：评估分类器对儿童、老年人、残障人士的决策是否公平"""import numpy as np  def fairness_audit(y_true, y_pred, group):    """对三个受保护群体执行公平性审计，输出SPD和EO等指标"""    groups = ['儿童', '老年人', '残障人士']    print('=' * 56)    print('          AI 公平性审计报告')    print('=' * 56)    print(f'全体正预测率: {np.mean(y_pred):.3f}')     for i, name in enumerate(groups):        mask = group == i        n = mask.sum()        pos_rate = np.mean(y_pred[mask])        spd = pos_rate - np.mean(y_pred)         tn = ((y_pred == 0) & (y_true == 0) & mask).sum()        fp = ((y_pred == 1) & (y_true == 0) & mask).sum()        fn = ((y_pred == 0) & (y_true == 1) & mask).sum()        tp = ((y_pred == 1) & (y_true == 1) & mask).sum()        fpr = fp / max(fp + tn, 1)        fnr = fn / max(fn + tp, 1)         flag = 'PASS' if abs(spd) < 0.1 else 'WARN'        print(f'\n[{name}]   样本数 = {n}')        print(f'  正预测率 = {pos_rate:.3f}    SPD = {spd:+.3f}  [{flag}]')        print(f'  FPR = {fpr:.3f}    FNR = {fnr:.3f}')     print('\n' + '=' * 56)  def main():    rng = np.random.RandomState(42)    n = 300    group = np.array([0] * 100 + [1] * 100 + [2] * 100)    y_true = rng.randint(0, 2, n)     y_pred = y_true.copy()    for i in range(n):        if group[i] == 2 and rng.rand() < 0.30:            y_pred[i] = 0        elif group[i] == 0 and rng.rand() < 0.15:            y_pred[i] = 0        elif group[i] == 1 and rng.rand() < 0.10:            y_pred[i] = 0        if y_true[i] == 0 and rng.rand() < 0.05:            y_pred[i] = 1     fairness_audit(y_true, y_pred, group)  if __name__ == '__main__':    main()
目的：模拟一个有偏见的 AI 分类器对三个弱势群体的预测结果，然后输出公平性审计报告，量化各个群体之间的统计均等差异（SPD）、假阳性率（FPR）和假阴性率（FNR）。
  1. group = np.array([0] * 100 + [1] * 100 + [2] * 100)构建 300 个样本，三个群体各占 100
  2. y_true = rng.randint(0, 2, n)随机生成真实标签，表示“该通过/不该通过”
  3. if group[i] == 2 and rng.rand() < 0.30:模拟残障人士有 30% 概率被模型错误拒绝
  4. spd = pos_rate - np.mean(y_pred)计算该群体正预测率与整体正预测率的差值（SPD）
  5. fp = ((y_pred == 1) & (y_true == 0) & mask).sum()统计假阳性数量，用于计算 FPR
  6. flag = 'PASS' if abs(spd) < 0.1 else 'WARN'当 SPD 绝对值小于 0.1 时判定该群体未受明显偏见
  7. fairness_audit(y_true, y_pred, group)调用审计函数，输出完整报告

常见误区

误区数学公式是客观的，AI 用数学计算决策，不会像人一样有偏见。既然 AI 不“偏心”，那弱势群体保护不是多余吗？

正解AI 不是从真空里长出来的，它学的是“数据”里的人类经验。如果训练数据里弱势群体的样本很少，AI 对这个群体的理解就天然残缺。就像一位只在北京生活过的导游，没法给你准确介绍上海的弄堂——他并非故意忽略上海，而是真的没见过。算法偏见不是模型有心作恶，而是数据偏见被数学放大了。

为何常见：人们容易把“客观工具”和“客观结果”混为一谈。数学符号本身是中性的，但喂给它的数据是人类活动留下的带偏见的足迹。

误区公平性指标就像考试成绩，SPD 和 EOD 都在阈值内，就说明 AI 对弱势群体没有偏见了，法规上也绝对安全。

正解指标只是量化工具，合规还包含透明性、问责性和过程文档。比如测试集本身就没有覆盖残障人士，SPD 计算得再漂亮也是“盲人摸象”。法律审查要看的是完整链路：数据来源是否合法、审查过程是否有记录、是否给用户提供了申诉渠道。指标不过是证据链上的一环。

为何常见：指标能直观地“打勾交差”，人天然喜欢把复杂问题简化成一个数字。但现实的合规评估远比单一指标复杂。

误区“我们在测试集里加了 100 个老人样本，你看准确率没掉，所以我们的 AI 对老人很友好。”

正解加入样本只是第一步。测试数据要按弱势群体的人口比例设计，还应在模型评估中单独计算该群体的 FPR/FNR 指标，并且产品界面上要提供大字模式、语音等适配功能。就像一个商场门口装了坡道，但电梯按钮还是高出地面 1.6 米，坐轮椅的人依然进不了楼——测试样本只是发现问题的入口，真正的包容要从数据一直贯穿到界面。

为何常见：人们倾向于认为“只要做了某个动作就完成了某个目标”，忽略了系统性工程的多个环节。

误区公司里有合规团队，程序员只要把功能跑通就行，伦理审查和公平性评估与自己无关。

正解伦理审查是跨职能的共同责任。算法工程师要会计算并解释 SPD/EOD，产品经理要理解弱势群体的真实需求，测试人员要设计多元化的用例。如果开发团队不参与，偏见在设计阶段就会悄悄植入代码，等法务发现时为时已晚。就像大楼验收发现消防通道设计不合理，返工代价远大于最初设计时多花几天时间。

为何常见：多数公司组织架构按职能划分部门，容易让人产生“各管一段”的错觉，忽略了真正的工程质量需要全链路协作。

误区模型上线前已经做了公平性审计，指标都合格了，以后定期看一看就可以，不用再投入资源。

正解模型上线后，用户分布、数据分布、现实场景都在变化。一部 AI 贷款审批模型上线时 SPD = -0.05，半年后可能因用户群体变化漂移到 -0.22。公平性需要持续监控、定期重新评估，就像物业需要定期检查电梯和无障碍坡道——不是装好了就一劳永逸。负责任 AI 的底色，是“终身维护”而非“一次性验收”。

为何常见：软件行业传统上把“上线”看作终点，但机器学习模型的特殊性在于它是持续学习的系统，上线只是开始。

面试题

Q1. 以下哪一项是 AI 算法偏见最主要的来源？

单选题 · easy

  • A.AI 模型的隐藏层数量太多
  • B.训练数据中弱势群体样本不足← 正确答案
  • C.GPU 算力不够导致训练不充分
  • D.模型使用了过多的正则化惩罚

答案：B。算法偏见主要来自训练数据分布不均衡。模型是从数据中学习的，如果弱势群体样本稀缺，模型就“看不见”这个群体，进而产生系统性偏见。模型结构、算力和正则化虽然影响性能，但不会直接造成群体偏见。

Q2. 统计均等差异（SPD）的理想值是多少？

单选题 · easy

  • A.0← 正确答案
  • B.1
  • C.0.5
  • D.-1

答案：A。SPD = P(ŷ=1|S=0) - P(ŷ=1|S=1)。理想情况下，弱势群体和对照组获得正类结果的概率完全一致，所以差值为 0。SPD 越接近 0 越公平，正值说明弱势群体反而被“优待”（少见），负值说明被歧视（常见）。

Q3. 均等机会差异（EOD）同时关注哪两个指标？

单选题 · mid

  • A.准确率 Accuracy 和精确率 Precision
  • B.假阳性率 FPR 和假阴性率 FNR← 正确答案
  • C.召回率 Recall 和偏差 Bias
  • D.方差 Variance 和偏差 Bias

答案：B。EOD = ½(|FPR₀ - FPR₁| + |FNR₀ - FNR₁|)。它同时关注“不该过却过了”（FPR）和“该过却没过”（FNR）在两组间的差距，可以全面捕捉“误伤”和“遗漏”两类不公平。

Q4. 以下哪些措施有助于提升 AI 系统对弱势群体的包容性？

多选题 · mid

  • A.邀请老年用户参与产品原型测试← 正确答案
  • B.遵循 WCAG 无障碍标准设计界面← 正确答案
  • C.单纯增加训练数据的总量
  • D.在测试集中加入残障人士交互样本← 正确答案

答案：ABD。用户参与式设计、无障碍标准和多元测试覆盖都可以直接提升包容性。只增加数据总量未必有用，如果新增数据中仍然以主流群体为主，弱势群体的覆盖并不会改善。

Q5. 欧盟 AI 法案将影响弱势群体权益的教育评分 AI 归为哪一类风险？

单选题 · mid

  • A.不可接受风险
  • B.高风险← 正确答案
  • C.有限风险
  • D.最低风险

答案：B。欧盟 AI 法案按风险将 AI 分为四级。影响弱势群体权益的 AI（如教育评分、医疗分诊、招聘筛选）通常被归为“高风险”，需满足严格的数据治理、审计追溯和人工监督要求。

Q6. 中国哪部法规明确了生成式 AI 服务的算法备案要求？

单选题 · easy

  • A.《民法典》
  • B.《生成式人工智能服务管理暂行办法》← 正确答案
  • C.《电子商务法》
  • D.《反垄断法》

答案：B。《生成式人工智能服务管理暂行办法》等法规要求提供生成式 AI 服务的机构履行算法备案义务，并在显著位置公示 AI 生成内容。这是中国 AI 治理法规与合规体系的重要一环。

Q7. 关于公平公正原则，下列哪些说法是正确的？

多选题 · hard

  • A.公平要求所有群体在任何指标上完全相同
  • B.公平要求系统不因年龄、残障状态产生系统性歧视← 正确答案
  • C.公平需要关注弱势群体的差异化结果← 正确答案
  • D.公平意味着每个决策结果必须一致

答案：BC。公平不是“所有人结果一样”，而是不产生系统性歧视，同时要关注弱势群体在具体指标（如通过率、误伤率）上的差异。B 是原则的直接表述，C 是量化公平性的出发点，A 和 D 是“平均主义”的误解。

Q8. 某贷款模型的 SPD 从 -0.08 漂移到 -0.25，团队正确的应对方式是？

单选题 · hard

  • A.不必处理，只要准确率没有明显下降就好
  • B.立刻永久下线该模型
  • C.触发监控告警，分析漂移原因并调整← 正确答案
  • D.直接增加更多训练数据，不做分析

答案：C。持续监控的意义在于尽早发现“变偏”信号。SPD 从 -0.08 漂移到 -0.25 说明模型对弱势群体的拒绝率显著升高，团队应触发告警、分析数据漂移原因（如用户群体变化、样本分布变化）并针对性调整。永久下线或盲目加数据都不是科学的做法。

Q9. 什么是“数字鸿沟”？

单选题 · easy

  • A.AI 模型在不同硬件上的推理速度差
  • B.不同群体在数字技术接入和使用上的差距← 正确答案
  • C.数字信号远距离传输时的衰减现象
  • D.数据中心之间网络带宽不足的问题

答案：B。数字鸿沟指弱势群体因设备、技能、网络条件等因素，难以同等使用数字服务。这会导致 AI 训练数据中弱势群体样本更少，进而放大算法偏见，形成“越缺数据 → 越不公平 → 越不愿用”的恶性循环。

Q10. 在设计面向儿童的 AI 产品时，哪些做法符合监管要求？

多选题 · hard

  • A.收集儿童语音前获得监护人可验证的授权← 正确答案
  • B.对儿童数据进行匿名化处理← 正确答案
  • C.无限期保存儿童数据以便后续研发
  • D.用大字版说明清楚地告知数据用途← 正确答案

答案：ABD。COPPA 和《个人信息保护法》均要求儿童数据收集需获得监护人授权、遵循数据最小化原则、明确告知用途，并支持删除。无限期保存违反数据最小化原则，所以 C 错误。A、B、D 是符合监管要求的常见做法。