模型风险登记册：给AI模型建一本“健康档案”

可视化演示

三模式展示模型风险登记册：风险矩阵（可能性×严重性4×4分级Low/Med/High/Critical）、全生命周期台账（六阶段req→dev→val→dep→mon→ret+风险关联）、风险闭环管理（识别→分配→修复→验证→关闭→复审循环）。

风险登记概念

家里多了一个新生儿，父母第一件事不是等孩子生病，而是去社区领一本健康手册。手册上空空如也，可它会成为后续每一次就医的基础。对组织里的AI模型来说，风险登记册就是这本健康手册。它是风险治理的起点，而不是事后补写的“事故报告”。

技术团队训练出一个模型后，很容易把注意力放在准确率上，直到上线出事故才想起“应该早点记录风险”。风险登记册要求我们在模型立项、性能评估、上线部署等关键节点，主动把可能出问题的环节写下来。它解决的问题很简单：这件事我们知道了吗？谁负责？现在状态如何？

登记册的核心是结构化字段：风险编号、风险描述、发现时间、来源、可能性、严重性、责任人和状态。它不像散文那样凭感觉写，而是像病历一样能快速检索。任何利益相关方翻开它，都能在几分钟内知道模型当前最担心什么。衡量这份档案是否完整，可以用登记率来观察。

没有登记册，之后的风险评估、缓解、审计就都没有落脚点，就像孩子生病却没有既往病史，医生只能从头排查，既慢又容易漏。

风险识别登记

孩子半夜发烧，家长不会直接灌药，而是先观察症状：是着凉还是积食？在健康手册上记下“咳嗽两天、体温38.5度”。识别并登记，就是风险治理的听诊器。

风险识别的来源有很多：开发联调时的数据异常、红队对抗测试发现的漏洞、线上监控的告警、用户投诉中的隐私问题。模型团队不能只依赖“感觉”，而要建立一套发现机制，把分散的信号汇总成统一的风险条目。常见风险类别包括数据风险、算法风险、安全风险和合规风险。

识别到风险后，要立即填登记表。一张规范的登记表至少包含风险ID、名称、来源、类别、可能性、严重性、责任人、状态。这就像病历上有主诉、现病史和初步印象，所有人都用同一套语言沟通。登记是否合格，取决于必填字段是否都填写完整。

别小看这张“症状记录”，它让模糊的“好像有个风险”变成了一条可追踪的档案。家长记下症状，医生才好下诊断；团队记下风险，治理人员才好做评估。

风险评估分级

体温计是家庭常备工具：36.5度正常，38度需要观察，39.5度就要送医院。评估分级就是给风险量体温。

登记表中已经记录了可能性（L）和严重性（S）。但单独看哪个都不够：一个“发生概率极低但会掀翻业务”的风险，不能因为概率低就被忽略；一个“经常发生但只影响小事”的风险，也不能因为频次高就过度恐慌。

把两者相乘得到风险指数 R，再对照阈值划分高、中、低等级。中低风险可以进入常规处理队列，高风险必须立即给出处置方案，并由治理委员会定期复核。这样，风险登记册就不再是一张静态信息表，而是一份带优先级的行动清单。

风险分级就像体温计上的色标，让所有人都知道要先处理哪一条，而不是先处理谁先填的表格。分级的目的，是把有限的治理资源用到最需要的地方。

风险缓解追踪

低烧时贴退热贴、多喝水，高烧时要吃药甚至住院。不同等级的风险对应不同强度的缓解动作，而且每个动作都要有专属的“主治医生”。

缓解措施大体分成两类：降低可能性，比如清洗训练数据、增加对抗训练、加入拒答机制；降低影响，比如增加人工审核、设置降级预案。措施确定后，要指定责任主体并设定复查日期。没有负责人的缓解措施，往往会在两周后悄悄消失。

缓解并不是一次性的。风险条目状态保持 open，并持续跟踪：残余风险是否还在可接受范围内？责任人是否更新了验证结果？如果超过约定时间仍未闭环，就通过升级机制上报更高层。整个过程都记录在案，避免“做了动作但没人验证”。

就像孩子复查体温直到稳定，风险缓解的终点不是“做了动作”，而是“残余风险可控”。只要残余风险还在阈值之上，这份风险就不能从登记册上消失。

风险关闭归档

孩子病好了，不是凭家长感觉，而是去医院复查、指标正常、医生在病历上写“痊愈”。同理，风险关闭必须有客观验收，而不是某个人拍脑袋说“差不多行了”。

关闭标准通常定义为：残余风险低于组织设置的阈值，并且缓解措施有测试报告、线上观测数据等证据支撑。责任团队提交关闭申请，治理团队复核后把状态置为 closed，整个风险条目才算真正完成闭环。

关闭不是删记录。风险描述、评分、缓解措施、关闭原因都要保留在风险库中，作为同类模型的参考样本。下一次另一个模型遇到相似问题，可以直接翻出历史记录，大幅缩短评估和处置时间。

归档就像把这次的就医记录放进家庭档案盒，以后家人谁有类似症状，不用从头查起。风险库沉淀得越厚，组织应对新风险的速度就越快。

生命周期台账

一个孩子的档案盒里，存放出生证、疫苗接种本、每学期体检表、住院记录。模型生命周期台账，就是把模型从立项到退役的所有“人生阶段”按时间装订成册。

台账不是把日志文件简单堆积，而是以模型ID为主键的结构化档案。它记录模型当前处于哪个阶段（开发、测试、上线、退役），版本号是多少，负责人是谁，关联了哪些风险条目。任何人打开台账，都能迅速回答“这个模型现在到哪一步了”。

版本追溯尤为重要。模型更新后效果回退，可以通过台账找到上一版本与当时的风险评估记录，快速定位是数据变化、参数变化还是环境变化。当模型退役时，还要在台账中记录下线时间、归档位置和数据清理方案，确保模型的“身后事”也可审计。

成长档案的意义不在纸张本身，而在于每一次翻开它，都能看到孩子走过哪些路。模型台账就是这样一个“时间轴”，让每个模型的一生都有迹可循。

治理审计合规

社区儿保医生会定期检查孩子的健康手册，看疫苗是否漏打；学校的入学报名也要核对免疫记录。治理审计，就是给AI模型的档案做“定期年检”。

治理团队的核心职责包括：制定登记规范与分级阈值，定期评审开放风险，督办超期风险。同时，审计追踪要求每一次登记修改都有操作人和时间戳。谁在什么时候把风险从“高”调成“低”，都能查得清清楚楚。

合规检查关注的是：登记是否存在、状态是否最新、缓解是否闭环。面对外部监管或内部审计，组织可以导出模型的风险清单、生命周期台账和关闭记录作为证据。合规通过率能直观反映有多少模型真正处于受控状态。

年检的意义不是挑毛病，而是让孩子持续保持健康。合规审计同样不是给团队添堵，而是确保每一本“健康档案”都真实、完整、可用。

工具平台落地

纸质档案再多也有翻不到的时候。把健康档案录入手机App，到点提醒打疫苗、自动同步医院检查结果——治理平台就是把模型风险档案搬上线。

台账系统统一管理所有模型的注册信息和状态变更；自动化采集通过CI/CD流水线、线上监控、告警系统自动写入记录，减少人工漏登；预警提醒在风险评分超阈值、阶段超期时自动通知负责人。这样，治理团队从“追着人填表”变成“只看异常”。

理想状态是：模型在生命周期中的每一次变更都自动留痕，治理团队只需要处理异常，而不是收集Excel。自动化采集率越高，年报和审计越省力；持续治理的闭环也让风险登记册从“审计道具”变成每天在用的作战地图。

手机App不会替家长做决定，但它让所有记录都变得及时、可查、可提醒。工具平台也不会替治理团队负责，但它能让“持续治理”从口号变成每天自动运转的机制。

AI 应用场景

Python 演示

class RiskRegister:    def __init__(self):        self.risk_list = []     def register(self, risk_id, name, likelihood, impact, owner):        risk = {            "id": risk_id,            "name": name,            "likelihood": likelihood,            "impact": impact,            "owner": owner,            "score": likelihood * impact,            "status": "open",            "measure": ""        }        self.risk_list.append(risk)        return risk     def evaluate(self, low_threshold=0.2, high_threshold=0.5):        for risk in self.risk_list:            if risk["status"] != "open":                continue            score = risk["score"]            if score >= high_threshold:                risk["level"] = "high"            elif score >= low_threshold:                risk["level"] = "medium"            else:                risk["level"] = "low"        return self.risk_list     def mitigate(self, risk_id, measure, new_likelihood=None, new_impact=None):        risk = next((r for r in self.risk_list if r["id"] == risk_id), None)        if risk is None:            return None        risk["measure"] = measure        if new_likelihood is not None:            risk["likelihood"] = new_likelihood        if new_impact is not None:            risk["impact"] = new_impact        risk["score"] = risk["likelihood"] * risk["impact"]        return risk     def close(self, risk_id):        risk = next((r for r in self.risk_list if r["id"] == risk_id), None)        if risk is None:            return None        risk["status"] = "closed"        return risk     def lifecycle_log(self, model_id, phase):        return {"model_id": model_id, "phase": phase, "record_time": "2025-01-01"}  def main():    reg = RiskRegister()    reg.register("R001", "训练数据偏差", 0.6, 0.8, "数据组")    reg.register("R002", "输出幻觉", 0.4, 0.6, "算法组")    reg.register("R003", "对抗样本攻击", 0.3, 0.9, "安全组")    reg.evaluate()    for item in reg.risk_list:        print(item["id"], item["score"], item["level"])    reg.mitigate("R002", "增加拒答校验", new_likelihood=0.2)    reg.close("R003")    print(reg.lifecycle_log("M001", "上线运行"))  if __name__ == "__main__":    main()

1. "score": likelihood * impact,在登记风险时立即算出风险指数，等价于风险等级公式 R=L×S。
2. if score >= high_threshold:对照阈值判断高风险，相当于体温计上的高烧线。
3. elif score >= low_threshold:落在低阈值和高阈值之间，标记为中等风险。
4. risk["score"] = risk["likelihood"] * risk["impact"]缓解后重新计算残余风险。
5. reg.register("R001", "训练数据偏差", 0.6, 0.8, "数据组")把一条风险写进登记册，指定责任主体。
6. reg.mitigate("R002", "增加拒答校验", new_likelihood=0.2)执行缓解措施并降低可能性。
7. reg.close("R003")满足关闭条件后，将风险状态置为 closed，但记录保留。

常见误区

面试题