司法AI：智能辅助量刑的偏差与公平

可视化演示

演示智能辅助量刑的偏差与公平性：识别偏差来源、计算公平性指标并评估偏差缓解策略，确保量刑建议不放大司法不公。

量刑AI基础

智能烤面包机有三个关键部件：传感器、配方库和火候控制器。学徒把面粉品牌、油量、环境湿度报给机器，机器在配方库里比对，输出「烤20分钟，220度」的建议。量刑AI异曲同工：案件信息经过特征工程变成机器能读的数字，预测模型给出量刑建议范围，最后连同置信度一起呈给法官。

特征工程是最基础的「传感器」：犯罪类型、犯罪情节、前科记录、悔罪表现、退赔情况等，每一项都要量化成模型可用的字段。如果传感器坏了——比如漏掉「犯罪中止」——机器就看不到重要信号。模型则是配方库，它把数字化的案件信息映射为刑期建议；输出端的置信度则告诉法官「这条建议有多可靠」，相当于烤箱显示「火候控制误差±5度」。

最直观的模型是线性加权，判决建议看成各项特征乘以权重再加总：

这台机器的「手艺」完全来自配方库。配方库里的每一页，都来自老李师傅三十年的记录；同样，模型参数里凝结的，是几十万份历史判决的「经验」。经验里有精华，也可能藏着「手抖」。

偏差形成机制

老李师傅不是坏人，他只是习惯「进口粉多烤十分钟」。这个习惯来自他学徒时的师傅，也来自进口面粉更贵、他更珍惜的心理。没人会记得每一天的手抖，但三十年的记录里，「进口粉=更长烘烤时间」就成了规律。

量刑AI也一样。假设历史判决中，经济条件差的被告人因无力聘请资深律师、证据辩护不足，得到的实刑整体偏重。AI学习这些判决，就会学到「经济条件差」与「刑期更长」的相关性。注意：它没有输入「经济条件」字段也没关系，住址、职业、户籍等字段会代替它表达这个信息——这就是特征代理。偏差一旦进入训练数据，还会被算法放大：模型为了拟合历史规律，会把微小的群体差异编码成稳定的决策边界。

用条件概率可以刻画偏差的形成。记 $\hat{y}=1$ 表示系统建议从重，$A$ 为敏感属性（如户籍）：

机器没有恶意，但手抖的轨迹被完整复制，还被刻成了标准的刻度。当机器把这些差异变成「一致性执行」时，个人习惯就升级成了系统性偏差。

公平性度量

怎么判断烤箱有没有偏爱？很简单：同一配方，分别用两种面粉各烤一百炉，测出炉面包的成色分布。如果一种面粉平均焦度高1.5度，偏爱就藏不住。司法领域也需要这样的「温度计」——公平性指标。

公平性指标从不同角度回答同一个问题：「建议结果是否因群体身份而系统性不同」。三种最常用的温度计：人口均等、均等机会、校准指标。人口均等最直观：不同群体被建议从重的比例应该相同：

均等机会则更进一步，要求「真正该从重的人」被正确识别的比例在群体间一致：

校准指标则从另一个方向提问：当系统说「建议从重」时，这些案子实际上从重的比例，是否在群体间一致。

三支温度计测的不是同一个位置：人口均等看总体比例，均等机会看识别能力，校准看预测可信度。只带一支温度计出门，测不出烤箱的全貌。

偏差检测方法

体检不能只量体温，还要量血压。血压比是「高压/低压」的比值，超过正常区间就预警。司法公平审计也有一个类似血压比的指标——差异影响比率（Disparate Impact, DI）。

DI 衡量受保护群体与参照群体被建议从重的概率比值。它源自民权领域著名的「80%规则」：如果某一群体的有利结果率不足另一群体的80%，就认为存在不成比例的不利影响。设 $U$ 为参照群体，$B$ 为受保护群体：

血压高只是信号，不是诊断。DI 超阈值后，还要做群体对比分析（逐个特征对比两群体的预测分布）、反事实检验（把样本的群体属性换掉，看预测变不变）和审计测试集验证，才能锁定病灶到底在传感器、配方库还是火候控制器。

偏差缓解策略

烤箱被查出对两种粉火力不均，怎么办？不是把烤箱砸了，而是重新配比：如果记录里本地粉烤得太多，把本地粉的记录权重调低、进口粉的权重调高，让机器对两种粉「一视同仁」地学习。这就是数据层面的重加权。

重加权的核心思想是：让训练分布与理想分布对齐。理想状态下，每个群体在标签各层中都保持与总体相同的占比；实际数据不满足，就给样本配上补偿权重。设 $A$ 为群体属性，$y$ 为真实标签，样本 $i$ 的权重为：

重加权属于「数据层面」的手术。除此之外还有「算法层面」的对抗去偏（额外加一个对抗网络，尝试从模型输出中猜测群体身份，主模型则努力让它猜不出）与公平正则（把公平性差异作为罚项加入损失函数）；以及「输出层面」的后处理校准（对不同群体设置不同的决策阈值）。三者可组合使用。

给烤箱重新配比后，两种粉在相同配方下出炉成色终于接近。但这只是第一天——烤箱会老化，面粉会换季，所以要持续复检。

评估与监控

面包房老板给烤箱做了彻底保养，成色恢复均衡。但三个月后，进口面粉批次换了，发热管也老化了，火候又悄悄跑偏。公平不是一次校准，而是持续监控。

量刑AI上线后，案件分布、社会形势、司法解释都可能变化，模型偏差会随时间复发。因此要定义基线指标，周期性对比当前指标与基线的差异，超过阈值就告警。设 $\mathrm{Met}_0$ 为上线时公平性指标的基线值，$\mathrm{Met}_t$ 为当前监测值：

监控不是看一次就完事，而是形成闭环：采集新判决 → 重算指标 → 对比基线 → 发现问题 → 校准模型 → 更新基线。反馈回路一旦建立，烤箱就始终在店长的眼皮底下工作。

伦理与规制

面包房再智能，店长也不能总是缺席。新配方上线、进口粉换批号、顾客投诉面包焦黑——这些关键时刻，都要店长亲自签字。烤箱是提速的，不是掌舵的。

对应到司法场景：AI量刑辅助系统的定位始终是「辅助」而非「决策」。法官保留最终决定权。这个定位要落实到三个制度层面：透明度、人类参与、问责。人类参与可以用「人工复核比例」来约束。设 $N_{\text{review}}$ 为实际人工复核的案件数，$N_{\text{total}}$ 为系统给出建议的案件总数：

店长不烤面包，但店里每一炉面包的出品标准由店长负责。先有人类定标尺，再有AI提效率；先有问责链条，再有自动化操作——这才是司法AI该有的姿态。

AI 应用场景

Python 演示

import numpy as npfrom sklearn.linear_model import LogisticRegression np.random.seed(42)N = 6000group = np.random.randint(0, 2, N)x1 = np.random.normal(0, 1, N)x2 = np.random.normal(0, 1, N)logit = 0.8 * x1 + 0.5 * x2prob = 1 / (1 + np.exp(-logit))y = (np.random.rand(N) < prob).astype(int)prob_bias = np.clip(prob + 0.18 * group, 0.001, 0.999)y_bias = (np.random.rand(N) < prob_bias).astype(int)X = np.column_stack([x1, x2]) def train(X_, y_, w_=None):    m = LogisticRegression(max_iter=1000)    m.fit(X_, y_, sample_weight=w_)    return m def group_diff(p_, g_):    return p_[g_ == 1].mean() - p_[g_ == 0].mean() base_model = train(X, y_bias)p_base = base_model.predict_proba(X)[:, 1]d0 = group_diff(p_base, group) def fair_weights(g_, y_):    w_ = np.ones(len(g_))    for a_val in (0, 1):        for yy in (0, 1):            mask = (g_ == a_val) & (y_ == yy)            p_a = (g_ == a_val).mean()            p_a_y = mask.mean() / (y_ == yy).mean()            w_[mask] = p_a / p_a_y    return w_ / w_.mean() w = fair_weights(group, y_bias)fair_model = train(X, y_bias, w)p_fair = fair_model.predict_proba(X)[:, 1]d1 = group_diff(p_fair, group) print("历史模型A/B重判率差: %.4f" % d0)print("重加权后A/B重判率差: %.4f" % d1)

1. np.random.seed(42)固定随机种子，保证每次运行结论可复现
2. prob_bias = np.clip(prob + 0.18 * group, 0.001, 0.999)给群体B叠加历史偏差，模拟「老李师傅的手抖」
3. y_bias = (np.random.rand(N) < prob_bias).astype(int)生成带偏差的历史重判标签
4. def fair_weights(g_, y_):重加权函数，按群体与真实标签分层计算补偿权重
5. w_[mask] = p_a / p_a_y核心公式：群体占比除以条件占比，偏差越大补偿越强
6. p_base = base_model.predict_proba(X)[:, 1]基线模型预测的从重概率
7. d0 = group_diff(p_base, group)计算两组被建议从重概率的差值
8. return w_ / w_.mean()权重归一化，避免改变样本总量
9. fair_model = train(X, y_bias, w)用重加权后的样本重新训练

常见误区

面试题