想象你生活在一座由欧洲交通局严格管理的城市里。交通局出台了一部《AI 交通法》——真实世界里，它的名字叫 EU AI Act（欧盟人工智能法案）。这部法律把马路上跑的一切“AI 交通工具”分成四条车道：有的装置从第一天起就被禁止上路，比如专门探测红灯然后加速冲过去的“作弊助推器”；有的像运送危险品的重型卡车，必须考特照、办年检、配押运员才能上路；有的像普通小轿车，只要挂上牌照、让路人知道开车的是谁就行；还有的像自行车，自由骑行，无人过问。为什么非要分级？因为用管卡车的办法去管自行车，会让生活寸步难行；用管自行车的办法去管卡车，则会把城市炸上天。这篇文章将带你以“交通管理”的视角，把 EU AI Act 的四级风险分级体系、每一级的合规义务、以及判断你的 AI 产品该走哪条车道的方法，一次讲透。

岗位关联

对 AI 从业者而言，理解风险分级相当于拿到一张“全球监管导航图”。它能帮你判断产品属于哪条监管车道、该提前准备哪些材料，避免产品在欧洲市场上市时被一纸禁令拦下。

目录
  1. 可视化演示
  2. 风险分级概述
  3. 不可接受风险
  4. 高风险AI
  5. 有限风险AI
  6. 最低风险AI
  7. 风险判定方法
  8. 企业合规策略
  9. AI 应用场景
  10. Python 演示
  11. 常见误区
  12. 面试题

可视化演示

展示EU AI Act四级风险金字塔与产品风险判定流程。

本节配有交互动效（进入视口后自动加载，约 3KB）。

四级风险金字塔体系 不可接受：完全禁止，罚款最高7%营业额 高风险：严格义务，需合规审计与登记 有限风险：透明度义务，需告知用户 regulation ∝ risk_level 监管强度与风险等级成正比。

风险分级概述

想象一座大城市的交通局要对所有交通工具立法。如果让走路的人和运危险品的卡车遵守同一套规则：要么行人被累死——因为规范卡车的重重手续也压到了他们身上；要么城市被炸飞——因为管控行人的宽松尺度同样放过了卡车。EU AI Act 的立法者深知这个道理，所以它不写“所有 AI 必须如何”，而是按风险把 AI 分成不同等级，匹配不同力度的义务。

EU AI Act（欧盟人工智能法案）是全球第一部针对 AI 的综合性监管法律，2021 年由欧盟委员会提出，2024 年正式通过生效。它的核心思想叫“基于风险的方法”（risk-based approach）：先判断一个 AI 系统可能带来多大危害，再决定管多严。法规把 AI 分为四级：不可接受风险（直接禁止）、高风险（最严格的合规义务）、有限风险（只要求透明度）、最低风险（无额外义务）。越靠前，监管越重。

值得强调的是，分级不看技术复杂度，而看“危害”的两个维度——影响多大、涉及人群多广。一个用于垃圾邮件过滤的朴素算法可能是最低风险，而同样朴素的人脸聚类算法部署在执法场景就成了高风险。危害的数学直觉可以用一个函数来表达：

正如交通局把出行方式分成四档管理，EU AI Act 把 AI 分成四级车道。接下来我们逐条车道去看：哪条禁止驶入、哪条要年检、哪条只挂牌、哪条随便骑。

R=f(P危害,S严重度,C场景)\displaystyle R = f(P_{\text{危害}}, S_{\text{严重度}}, C_{\text{场景}})
通俗说明：风险等级不是产品自带的标签，而是危害发生概率、危害严重度和使用场景三者的综合结果。同一个模型用在手机解锁和用在火车站抓逃犯，等级天差地别。
  1. 风险等级 RR 表示 AI 系统最终落入哪一级，取值只有四个——不可接受、高风险、有限、最低。
    R∈{不可接受, 高风险, 有限, 最低}R \in \{\text{不可接受, 高风险, 有限, 最低}\}
  2. 危害概率 PP 表示 AI 出错或被滥用的可能性有多大，频率越高风险越大。
    P危害=Pr⁡(错误或滥用发生)P_{\text{危害}} = \Pr(\text{错误或滥用发生})
  3. 严重度 SS 表示一旦发生危害，对人身、财产、基本权利的损害有多深。
    S严重度=健康 / 安全 / 权利受损程度S_{\text{严重度}} = \text{健康 / 安全 / 权利受损程度}
  4. 场景修正 CC 代表部署场景的放大效应，例如“公共执法”比“私人相册”放大多个量级。
    C场景=使用环境与人群暴露系数C_{\text{场景}} = \text{使用环境与人群暴露系数}

不可接受风险

有些“交通工具”被造出来的目的就是坑人——例如专门感应红灯然后加速冲过去的“作弊助推器”。交通局的处理方式很简单：列入黑名单，一经发现直接没收。EU AI Act 的“不可接受风险”就是这条禁行车道，它针对的是“天生危险”的 AI 应用。

法案第 5 条划定了不可接受风险的清单。任何落入此清单的 AI 系统，无论宣传多好、技术多先进，都不得在欧盟市场投放或使用——没有豁免、没有过渡期。违规者面临的最高罚款达到 3500 万欧元或全球年营业额的 7%，取较高者。

清单里最典型的四类：一是操纵与欺骗，利用潜意识暗示或故意诱导让人做出本不会做的决定，例如诱导儿童说出家庭隐私的声控玩具；二是剥削弱势，利用年龄、残疾、经济困境等弱点造成伤害；三是社会评分，根据社会行为推导信用分并据此区别对待，例如凭“品行分”限制贷款；四是实时远程生物识别，除反恐等极少数例外，禁止在公共场所对人群做实时人脸识别。判定逻辑可以抽象为一个集合归属问题：

记住这条车道的画线逻辑：不看车跑多快，只看它生来是不是为了坑人。天生危险的，直接禁行。

禁行  ⟺  系统类别∈B禁止\displaystyle \text{禁行} \;\Longleftrightarrow\; \text{系统类别} \in \mathcal{B}_{\text{禁止}}
通俗说明：只要 AI 的用途命中禁止集合 \(\mathcal{B}\)，其它条件都不用再看。一票否决，直接禁行。
  1. 禁止集合 B\(\mathcal{B}\) 包含法案第 5 条列出的应用类别：操纵欺骗、剥削弱势、社会评分、实时远程生物识别等。
    B禁止={操纵, 剥削弱势, 社会评分, 实时识别}\mathcal{B}_{\text{禁止}} = \{\text{操纵, 剥削弱势, 社会评分, 实时识别}\}
  2. 属于符号 ∈表示“该 AI 的实际用途恰好命中清单中的某一类”，用途由部署场景决定。
    实际用途∈B禁止\text{实际用途} \in \mathcal{B}_{\text{禁止}}
  3. 双箭头 ⇔表示充要条件——命中清单必被禁止，没有任何“业务意义重大”之类的例外通道。
    禁行⟺命中清单\text{禁行} \Longleftrightarrow \text{命中清单}

高风险AI

危化品卡车不是不能上高速，但必须办到：特种驾照、每年年检、押运员随车、行车记录仪全程开启、应急预案随时可查，一样都不能少。高风险 AI 的处境正是如此——它没有被禁止，但被要求“极致规范”。

法案附件三（Annex III）列出 8 类高风险场景：关键基础设施、教育、就业、基本公共服务、执法、移民与边境、司法、民主进程。此外，AI 作为安全部件嵌入的产品（如医疗影像诊断系统、自动驾驶系统）也属于高风险。为什么这些场景特殊？因为出错可能直接伤害生命、自由和基本权利。

高风险 AI 上市前必须过“五关”：数据治理——训练数据要做质量与偏见审计，确保来源合法；风险管理——全生命周期识别、评估、缓解风险；技术文档——设计、训练、测试全过程留痕供监管检查；人工监督——人必须能理解输出、介入并叫停；日志记录——自动留存关键操作便于事后追溯。通过“合格评定”后加贴 CE 标志，才能进入欧洲市场；上市后还要持续监控，重大事故必须上报。这五项义务是逻辑与的关系：

就像危化品车队的老板要雇押运员、买保险、做台账，做高风险 AI 的企业不是“不能做”，而是“必须向监管证明你能做对”。

合规高风险=D数据∧M风险∧T文档∧H人工∧R日志\displaystyle \text{合规}_{\text{高风险}} = D_{\text{数据}} \land M_{\text{风险}} \land T_{\text{文档}} \land H_{\text{人工}} \land R_{\text{日志}}
通俗说明：高风险不是“不能做”，而是“必须全部做到”。五项义务像危化品卡车的五项年检，缺任何一项都不能上路。
  1. 数据治理 D训练数据要可溯源、去偏见、保证质量，禁止用违法抓取的数据。
    D数据=数据质量+偏见审计+来源合法D_{\text{数据}} = \text{数据质量} + \text{偏见审计} + \text{来源合法}
  2. 风险管理 M建立覆盖设计、部署、使用的风险管理体系，持续识别并缓解风险。
    M风险=识别→评估→缓解→复评M_{\text{风险}} = \text{识别} \rightarrow \text{评估} \rightarrow \text{缓解} \rightarrow \text{复评}
  3. 技术文档 T记录系统能力、限制、测试结果，供监管机构随时调阅。
    T文档={设计说明, 训练记录, 测试报告}T_{\text{文档}} = \{\text{设计说明, 训练记录, 测试报告}\}
  4. 人工监督 H自然人必须有能力审查、否决、干预系统输出。
    H人工=可理解+可干预+可叫停H_{\text{人工}} = \text{可理解} + \text{可干预} + \text{可叫停}
  5. 日志记录 R系统自动记录关键操作，保证全程可追溯。
    R日志=自动记录⇒事后可查R_{\text{日志}} = \text{自动记录} \Rightarrow \text{事后可查}
  6. 逻辑与 ∧五项必须同时成立，任何一项为假，整体合规即为假。
    D∧M∧T∧H∧R=1D \land M \land T \land H \land R = 1

有限风险AI

普通小轿车不需要危化品年检，但必须挂车牌——让路人一眼知道你是辆“车”。有限风险 AI 的唯一强制义务就是这种“挂牌”：透明度。它针对的是会和人打交道的 AI 系统。

为什么只需要透明度？因为这些系统不直接触碰生命安全和基本权利，但如果用户不知道对面是 AI，就可能在毫不知情时被误导。例如一个伪装成真人的客服机器人，可以不动声色地让你说出本不会说的话。透明度义务就是赋予用户“知情权”。

最典型的两类应用：一是聊天机器人和生成式系统，必须明确告知用户“你在和 AI 对话”，例如客服开场白“我是 AI 助手，不是真人”；二是深度伪造（Deepfake），AI 生成或篡改的图像、视频、音频必须显著标注“AI 生成”，防止以假乱真误导公众。义务的本质是一条信息链：

这条车道的规则最简单：不做复杂年检，但别玩隐身。开着 AI 上路，请把牌照挂出来。

告知义务:  AI 身份→用户知情\displaystyle \text{告知义务}: \;\text{AI 身份} \rightarrow \text{用户知情}
通俗说明：有限风险不做复杂年检，但别玩隐身。开着 AI 上路，请把牌照挂出来，让用户清清楚楚知道在和 AI 打交道。
  1. 告知义务凡与人交互的 AI 系统，必须主动表明自己的 AI 身份，不能冒充人类。
    交互系统⇒披露 AI 身份\text{交互系统} \Rightarrow \text{披露 AI 身份}
  2. AI 身份系统需要用自然语言或显著标识宣告“我是 AI”，例如机器人客服的开场白。
    身份声明="我是 AI 助手, 不是真人"\text{身份声明} = "\text{我是 AI 助手, 不是真人}"
  3. 用户知情知情权落实为“用户有权决定是否继续交互”，知情是同意的前提。
    知情⇒自主选择\text{知情} \Rightarrow \text{自主选择}
  4. 深度伪造标注AI 生成或修改的图片、视频、音频须以显著方式标注来源。
    Deepfake⇒显著标注"AI 生成"\text{Deepfake} \Rightarrow \text{显著标注"AI 生成"}

最低风险AI

自行车不挂牌、不年检、不需要驾照，交通局还专门修自行车道欢迎你。在 EU AI Act 眼里，绝大多数日常 AI 产品就是自行车——它们是城市生活的基础设施，而不是威胁。

最低风险包括垃圾邮件过滤器、游戏对战 AI、库存优化系统、推荐算法等。这些系统对基本权利的影响微乎其微，法案不为它们设置任何强制义务，可以自由开发和上市。这是四级体系中最宽松的一条车道。

但“不管”不等于“放任”。EU AI Act 鼓励行业制定行为准则（Codes of Conduct），自愿承诺更高的透明度和安全性标准；同时建立“监管沙盒”（regulatory sandbox），让创新者先在受控环境里测试产品，降低合规不确定性。欧盟还设立了 AI Office（AI 办公室）负责统筹协调。最低风险级的义务可以写成空集：

自行车级产品最幸福，但也有底线：别私自改装成危险品车。一旦用途跨界，等级随时重判。

最低风险  ⇒  义务集=∅,但推荐遵守行为准则\displaystyle \text{最低风险} \;\Rightarrow\; \text{义务集} = \varnothing,\quad \text{但推荐遵守行为准则}
通俗说明：自行车不用挂牌，但交通局仍鼓励你戴头盔、走自行车道。最低风险 AI 自由行驶，行业自律则让它骑得更安全。
  1. 义务集为空 ∅法规不施加任何强制性义务，产品可直接上市，无需报备。
    强制义务=∅\text{强制义务} = \varnothing
  2. 行为准则行业可自愿制定行为准则，作为自律承诺，类似自行车骑行者的安全公约。
    Codes of Conduct=自愿承诺≥法律底线\text{Codes of Conduct} = \text{自愿承诺} \geq \text{法律底线}
  3. 监管沙盒政府提供受控测试环境，让创新产品在真实场景中试跑而不立即触发全部监管。
    沙盒:受控测试→数据反馈→正式上市\text{沙盒}: \text{受控测试} \rightarrow \text{数据反馈} \rightarrow \text{正式上市}
  4. 行业自律AI Office 鼓励自我监管，形成“法律—准则—实践”三层治理。
    治理=硬法+软法+行业实践\text{治理} = \text{硬法} + \text{软法} + \text{行业实践}

风险判定方法

新手司机站在岔路口，问交警：“我这台 AI 该走哪条道？”交警掏出流程卡，按顺序问三个问题：你的车是黑名单装置吗？运的是危险品吗？是普通轿车还是自行车？顺序不能乱——先看禁行，再看高危，最后看交互。EU AI Act 的风险判定正是这样一套决策流程。

为什么顺序如此重要？因为不可接受清单是“一票否决”的，如果先问“是不是和人打交道”，一个社会评分系统可能因为“通过 APP 与用户交互”而被误判为有限风险，漏掉了它的禁行属性。判定必须从最严的层级开始，逐级下放。

完整的判定流程分四步：① 是否命中不可接受清单？（是→禁行，流程终止）② 是否属于附件三高风险场景，或作为安全部件嵌入产品？（是→高风险）③ 是否与自然人交互、生成或修改内容？（是→有限风险）④ 其余→最低风险。此外，实践中还要用“风险矩阵”做书面评估：风险值 = 发生概率 × 影响严重度，为定级结论留下量化证据。

这套流程就是交警手里的路标卡。带着产品从第一句话问起，一路走到底，你的车队就知道该把车开进哪条车道。

R等级={不可接受,若用途∈B高风险,若场景∈H有限,若人机交互或生成内容最低,其他,R风险值=P×I\displaystyle R_{\text{等级}} = \begin{cases} \text{不可接受}, & \text{若用途} \in \mathcal{B} \\ \text{高风险}, & \text{若场景} \in \mathcal{H} \\ \text{有限}, & \text{若人机交互或生成内容} \\ \text{最低}, & \text{其他} \end{cases}, \qquad R_{\text{风险值}} = P \times I
通俗说明：交警按四道闸门依次问话，逐级下放；同时用“概率 × 影响”给每一档判定留下白纸黑字的证据，防止定级靠拍脑袋。
  1. 分段函数从最严的不可接受开始，自上而下依次检查，命中即停。
    检查顺序:B→H→交互→兜底\text{检查顺序}: \mathcal{B} \rightarrow \mathcal{H} \rightarrow \text{交互} \rightarrow \text{兜底}
  2. 高风险集合 H\(\mathcal{H}\) 是附件三的 8 类场景清单，例如教育、就业、司法。
    H={关键设施, 教育, 就业, 服务, 执法, 移民, 司法, 民主}\mathcal{H} = \{\text{关键设施, 教育, 就业, 服务, 执法, 移民, 司法, 民主}\}
  3. 人机交互面向用户的聊天机器人、生成式内容工具进入有限风险，需要透明披露。
    交互=用户直接输入输出⇒有限\text{交互} = \text{用户直接输入输出} \Rightarrow \text{有限}
  4. 最低兜底以上条件都不命中，落入最低风险，自由使用。
    否则⇒最低\text{否则} \Rightarrow \text{最低}
  5. 风险值 P×IP 是危害发生概率，I 是影响严重度，乘积用于文档化的定量论证。
    R风险值=P×I,P,I∈[0,1]R_{\text{风险值}} = P \times I,\quad P, I \in [0, 1]

企业合规策略

一个运输公司如果要把车队开进欧洲，光有能开车的司机远远不够：还得有车队档案、专职安全员、年检预算和事故上报机制。AI 企业做“合规车队”，同样有四件事绕不开。

很多企业产品线复杂：一个聊天机器人旁边可能挂着一个招聘筛选器，前者是有限风险，后者直接进入高风险。如果不对每个产品单独定级、统一管理，轻则合规漏洞，重则产品被下架。企业需要一套系统化的治理打法。

四条军规：① 建立产品风险分类清单——对每个产品按判定流程定级，形成动态台账；② 完整文档记录——技术文档、训练数据说明、日志留存，高风险系统尤其要全；③ 配置合规团队——设置 AI 合规官，吸纳数据保护官、法务、技术负责人等角色，明确责任到人；④ 成本提前规划——高风险系统的认证、测试、文档成本远高于有限风险，必须进预算。早期用“合规设计”（compliance by design）思想把风险控制内建到产品中，成本最低。合规的充分程度可以用加权评分来度量：

车队管理做得好，卡车、轿车、自行车各归其位。AI 合规也是工程活：分级只是起点，把它落进文档、团队和预算，产品才能真正跑上欧洲的马路。

Score合规=∑i=1nwici∑i=1nwi,wi∈[0,1],  ci∈[0,1]\displaystyle \text{Score}_{\text{合规}} = \frac{\sum_{i=1}^{n} w_i c_i}{\sum_{i=1}^{n} w_i}, \quad w_i \in [0,1],\; c_i \in [0,1]
通俗说明：把每项义务的完成度按重要性加权平均。缺了“人工监督”这种高权重项，总分立刻被拉低，提醒你优先补课。
  1. 完成度 cᵢ第 \(i\) 项义务的完成比例，0 表示完全没做，1 表示完全达标。
    ci∈[0,1]c_i \in [0, 1]
  2. 权重 wᵢ每项义务对整体合规的重要性，例如人工监督的权重要高于日志格式。
    wi∈[0,1],∑wi=1w_i \in [0, 1],\quad \sum w_i = 1
  3. 加权平均总分落在 0 到 1 之间，越高代表合规越充分。
    Score=各项加权和权重和\text{Score} = \dfrac{\text{各项加权和}}{\text{权重和}}
  4. 行动指引得分低于阈值时，优先补齐高权重缺口，而不是先扣低权重的细节。
    补课顺序=arg⁡max⁡iwi(1−ci)\text{补课顺序} = \arg\max_i w_i (1 - c_i)

AI 应用场景

企业 AI 产品风险自评

阶段：合规评估与产品立项

解决的问题：过去企业上线新 AI 功能靠“感觉”判断监管风险，经常事后补救。用四级风险判定流程，产品经理可以在立项阶段就对每个功能定级，提前规划合规预算，避免上线后被平台下架。

具体案例：某电商公司同时准备上线 AI 客服和 AI 招聘助手。合规官按流程先查禁止清单，都不命中；再查高风险清单——AI 招聘属于“就业”场景，判为高风险，需要数据治理和人工监督；AI 客服仅与用户对话，判为有限风险，只需开场告知“我是 AI”。两条产品线各走各的合规通道。

深度伪造内容标注

阶段：内容发布与平台审核

解决的问题：AI 生成视频在网上以假乱真，传统审核只查侵权不查“是否 AI 生成”。按有限风险的透明度义务，平台要求创作者对深度伪造内容显著标注“AI 生成”，并部署检测模型自动识别未标注的合成内容。

具体案例：欧洲某社交平台上线“AI 内容标识系统”：上传视频时若检测到合成痕迹，自动打上“AI 生成/修改”角标；知名公众人物的可疑视频还会进入人工复核队列。简单视频滤镜不触发标注，完整换脸必须标注。

医疗影像 AI 的合格评定

阶段：医疗器械注册与上市后监控

解决的问题：肺结节检测 AI 作为医疗器械的安全部件，属于高风险系统。传统软件注册只测功能正确性，而 EU AI Act 还要求数据治理、风险管理、人工监督、日志记录和 CE 标志。

具体案例：某医疗 AI 公司组建“法规事务 + 临床 + 算法”联合团队，完成训练数据的偏见审计，提交技术文档给公告机构评估，拿到 CE 标志后上市；同时建立上市后监控渠道，医生可上报误诊案例，公司需限期整改。

Python 演示

python37 行
# -*- coding: utf-8 -*-"""AI 风险分级器, 模拟 EU AI Act 四级风险判定流程"""  def classify_ai_risk(system):    # 1) 检查是否属于不可接受风险, 即禁止类    banned = {        'social_score': '社会评分',        'manipulate': '潜意识操纵',        'exploit': '剥削弱势群体',        'realtime_biometric': '实时远程生物识别',    }    if system['mode'] in banned:        return '不可接受风险: ' + banned[system['mode']]     # 2) 检查是否属于高风险清单场景    high_risk_areas = ('教育', '就业', '关键基础设施', '司法')    if system['area'] in high_risk_areas:        return '高风险: 需满足数据治理与人工监督等义务'     # 3) 检查是否需要透明度义务    if system['user_facing']:        return '有限风险: 需向用户告知正在与 AI 交互'     # 4) 其余为最低风险    return '最低风险: 无额外义务, 自由使用'  if __name__ == '__main__':    systems = [        {'name': '招聘简历筛选器', 'mode': 'normal', 'area': '就业', 'user_facing': False},        {'name': 'AI 客服聊天机器人', 'mode': 'normal', 'area': '商业', 'user_facing': True},        {'name': '商场实时情绪识别', 'mode': 'realtime_biometric', 'area': '安防', 'user_facing': False},        {'name': '垃圾邮件过滤器', 'mode': 'normal', 'area': '通讯', 'user_facing': False},    ]    for s in systems:        print(s['name'], '->', classify_ai_risk(s))
目的：把文章里的四步判定流程翻译成可执行的 Python 函数，输入 AI 系统的用途、场景和交互方式，输出它对应的风险等级。
  1. banned = {...}用字典模拟法案第 5 条的禁止清单，键是系统模式，值是中文类别名。
  2. if system['mode'] in banned第一步先查禁行清单，命中即返回“不可接受”，流程终止。
  3. high_risk_areas = (...)用元组模拟附件三的高风险场景，覆盖教育、就业等 8 类中的 4 类。
  4. if system['area'] in high_risk_areas第二步查高风险场景，命中即要求数据治理、人工监督等义务。
  5. if system['user_facing']第三步判断是否与用户直接交互，决定是否需要透明度义务。
  6. return '最低风险...'兜底逻辑：以上都不命中，就是最低风险，自由使用。

常见误区

误区很多初学者认为 AI 越强大、用户越多，风险等级就越高，所以 ChatGPT 这类产品肯定属于高风险甚至不可接受。

正解EU AI Act 不问 AI 多聪明，而问它用在哪。通用聊天机器人属于有限风险，核心义务只是告知用户“你在和 AI 对话”；只有当它被嵌进就业筛选、医疗诊断等高风险场景时，才升级为高风险。就像一辆车算不算危险品运输车，取决于装的货，而不是车速。

为何常见：人们习惯用“技术能力强 = 社会影响大 = 监管严”的直觉推断，忽略了法案以“使用场景”为锚点的分级逻辑。

误区有人查完禁止清单，发现自己的 AI 没被禁，就放心地说“那它肯定是最低风险，啥也不用管”。

正解禁止清单只是第一道闸门。接下来还要查附件三的高风险清单，再查是否与人交互。招聘筛选 AI 不在禁止清单，但它属于“就业”场景，直接进入高风险，需要一整套合规义务。不在黑名单不代表不用挂牌，更不代表不用年检。

为何常见：初学者只记住了最抓眼球的“禁止”，忽略了分级是一个多级决策树，每级都要走一遍。

误区有人觉得产品上市前评过一次等级，之后就一劳永逸了，模型升级也不用重新评估。

正解风险等级取决于具体使用场景和用途，同一模型换一个部署场景，等级会变。一个通用推荐模型从“短视频推荐”换到“贷款审批”，就从最低风险跳到高风险；上市后监控发现的重大事故也可能触发重新评估。就像同一辆车，家用是普通轿车，改装成运危险品就成了危化品车。

为何常见：把“风险分级”误解为对模型本身的静态标签，忽略了它对“用途 + 场景”的动态依赖。

误区有初学者把“告诉用户这是 AI”当成高风险系统的全部合规要求，觉得只要加上一句免责声明就能上市。

正解两者完全不同。有限风险的透明度义务只是“挂牌”——告知 AI 身份、标注深度伪造；高风险则要数据治理、风险管理、技术文档、人工监督、日志记录五件套，还要合格评定和 CE 标志。挂牌的车和运危险品的车，管理强度天差地别。

为何常见：两类系统的用户都能“感知到 AI”，表面相似，导致初学者把最轻的义务误当成最重的义务。

误区有人认为欧盟罚款只是象征性的，违法了最多被警告、公示，交点小钱就过去了。

正解不可接受风险的最高罚款是 3500 万欧元或全球年营业额的 7%，取较高者；且禁止类应用会被直接下架、禁止上市。对大型科技公司，7% 的年营业额是数十亿欧元级别的重罚。交通局对“作弊助推器”不是开罚单，而是直接没收销毁。

为何常见：许多人拿国内互联网“轻度处罚”的经验去套欧洲监管，低估了 EU AI Act 作为“全球最严 AI 法”的执行力度。

面试题

Q1. EU AI Act 将 AI 风险划分为几个等级？

单选题 · easy

  • A.两个等级
  • B.三个等级
  • C.四个等级← 正确答案
  • D.五个等级

答案：C。EU AI Act 按风险从高到低分为四级：不可接受风险（禁止）、高风险（严格合规）、有限风险（透明度）、最低风险（无义务）。四个等级对应四种监管力度，就像四条车道对应四种交通规则，选项 C 正确。

Q2. 以下哪类 AI 应用属于不可接受风险？

单选题 · easy

  • A.垃圾邮件过滤器
  • B.社会信用评分系统← 正确答案
  • C.游戏对战 AI 助手
  • D.物流库存优化 AI

答案：B。社会信用评分系统被 EU AI Act 第 5 条明确禁止，属于不可接受风险，因为政府或机构据此区别对待公民。垃圾邮件过滤器、游戏 AI、库存优化 AI 都只是最低或有限风险，不触碰禁止清单。

Q3. 关于高风险 AI 的上市要求，下列说法正确的是？

单选题 · mid

  • A.无需任何评估即可上市
  • B.仅内部测试留档即可
  • C.须通过合格评定并加贴 CE 标志← 正确答案
  • D.只需征求用户书面同意

答案：C。高风险 AI 上市前必须完成合格评定：根据风险级别选择内部评估或公告机构评估，通过后加贴 CE 标志。仅内部测试、无需评估或用户同意都不满足法案要求，就像危化品卡车必须通过特种年检才能上路。

Q4. 有限风险 AI 的核心义务是什么？

单选题 · mid

  • A.全面风险管理体系
  • B.严格的训练数据治理
  • C.向用户披露 AI 身份← 正确答案
  • D.配置专门人工监督

答案：C。有限风险 AI 只承担透明度义务，核心是让用户知道自己在和 AI 交互，例如聊天机器人开场告知、深度伪造内容标注。风险管理、数据治理、人工监督都是高风险 AI 的义务，不是有限风险的标配。

Q5. 以下哪些属于不可接受风险的禁止类别？

多选题 · mid

  • A.社会评分系统← 正确答案
  • B.垃圾邮件过滤
  • C.潜意识操纵欺骗← 正确答案
  • D.实时远程生物识别← 正确答案

答案：ACD。社会评分、潜意识操纵欺骗、公共场所实时远程生物识别都在第 5 条禁止清单中。垃圾邮件过滤属于最低风险，无害且自由。注意选项 D 的“实时远程生物识别”指公共执法场景，不是手机人脸解锁，两者场景不同。

Q6. 聊天机器人为什么需要向用户表明 AI 身份？

单选题 · mid

  • A.因为属于高风险类别
  • B.为满足透明度法定义务← 正确答案
  • C.为了收集更多用户数据
  • D.因为此类产品被明令禁止

答案：B。聊天机器人属于有限风险，透明度义务要求它告知用户“你在和 AI 对话”，保障用户知情权。它既没有被禁止，也不属于高风险，告知目的也不是收集数据，而是让用户不被冒充真人的系统误导。

Q7. 某公司把情绪识别 AI 部署在招聘面试环节，该系统的风险等级是？

单选题 · hard

  • A.最低风险无义务
  • B.有限风险仅告知
  • C.高风险需严格评定← 正确答案
  • D.不可接受被禁止

答案：C。虽然情绪识别不在禁止清单，但它部署在“就业”场景，命中附件三的高风险清单，因此属于高风险。最低、有限都不对，因为它不属于黑名单但也远超这两个等级。说明同一技术在不同场景下，风险等级会发生迁移。

Q8. 高风险 AI 系统应当满足哪些合规义务？

多选题 · hard

  • A.建立风险管理体系← 正确答案
  • B.严格的训练数据治理← 正确答案
  • C.配置人工监督机制← 正确答案
  • D.只需上市前发布公告

答案：ABC。高风险 AI 必须满足“五关”：数据治理、风险管理、技术文档、人工监督、日志记录，因此 A、B、C 都正确。D 的“发公告”远不足以替代合格评定，就像危化品卡车不能靠喊话代替年检。

Q9. 违反不可接受风险禁令的最高罚款是多少？

单选题 · mid

  • A.最高罚款 100 万欧元
  • B.最高罚款 500 万欧元
  • C.最高 3500 万欧或营业额 7%← 正确答案
  • D.仅警告且不设罚款

答案：C。EU AI Act 对不可接受风险的最高罚款是 3500 万欧元或全球年营业额 7%，取较高者。这是欧盟 AI 法的重罚条款，对大型科技公司意味着数十亿欧元级别的代价，选项 D“仅警告”与现实完全不符。

Q10. 以下哪些 AI 应用通常属于最低风险？

多选题 · easy

  • A.垃圾邮件过滤器← 正确答案
  • B.游戏对战机器人← 正确答案
  • C.招聘简历筛选 AI
  • D.仓库库存优化系统← 正确答案

答案：ABD。垃圾邮件过滤、游戏 AI、库存优化对基本权利影响极小，属于最低风险，无强制义务。招聘简历筛选 AI 命中“就业”场景，属于高风险，必须满足数据治理、人工监督等要求，不能与前三者混为一谈。