想象你是一家大型游乐园的园长。这几年园里事故频发：有的过山车安全带失灵，有的旋转木马夹伤小朋友，还有一座“鬼屋”偷偷录下游客的惊恐表情拿去卖钱。于是你决定写一本《游乐园安全总章程》，把所有设施分成“四色手环”来管理：红手环的设施一律拆除，紫手环的过山车要年检要持证，绿手环的碰碰车只需挂块提示牌，灰手环的旋转木马随便玩。欧盟做的正是这件事——它管理的“游乐园”是拥有四亿多人口的欧洲单一市场，而它写下的章程，就是《欧盟人工智能法案》（EU AI Act）。这部全球首部全面监管 AI 的法律，核心设计只有一句话：不看技术多先进，只看用途多危险，然后按风险等级分配不同的合规义务。本文就带你逛一遍这座园子，看清四条手环分别管什么、怎么管、管多严。

岗位关联

掌握 EU AI Act 风险分级，是 AI 从业者把产品卖进欧洲市场的第一张门票，也是理解全球 AI 治理走向的思维框架。

目录
  1. 可视化演示
  2. 监管背景
  3. 风险分级框架
  4. 不可接受风险
  5. 高风险AI
  6. 有限风险AI
  7. 最小风险AI
  8. 高风险合规义务
  9. 全球影响
  10. AI 应用场景
  11. Python 演示
  12. 常见误区
  13. 面试题

可视化演示

交互式展示欧盟AI法案四级风险分级框架，从不可接受到最小风险，逐层呈现合规义务与市场准入要求。

本节配有交互动效（进入视口后自动加载，约 3KB）。

不可接受风险：明令禁止 社会评分、潜意识操纵、实时生物识别等AI实践被完全禁止 无合规路径，唯一选择是退出欧盟市场 Regulation (EU) 2024/1689 Art.5 违背欧盟基本价值观的AI系统零容忍禁止

监管背景

回到那座游乐园。园长发现，事故根源不在某个员工偷懒，而在于整个园子几十年都没有一套统一的设施安全标准。各部门各管一摊：过山车归设备部管，鬼屋归演艺部管，出了事才追责，预防全靠自觉。于是她决定写一部覆盖全园的总章程，把所有设施的安全责任统一起来。欧盟面对的 AI 乱象与之惊人相似——各国各管各的，企业无所适从，公众缺乏信任，所以 2024 年 5 月，欧盟理事会正式批准了《欧盟人工智能法案》，成为全球第一部全面监管 AI 的立法。

这部总章程的监管范围并不限于“欧盟注册企业”。园长的规矩写得很清楚：只要你的设施在园内运营、或者游客会接触到你的设施，不管厂家来自哪个国家，都要遵守园规。法案同样规定，AI 产品在欧盟市场“投放”、在欧盟境内“部署”、或者系统输出会“影响欧盟公民”，都触发监管。这就是著名的“域外效力”（extraterritorial effect）——法律不看你的公司注册地，只看你的产品有没有“碰触”到欧盟。

对 AI 从业者而言，这意味着即便公司总部在北京或硅谷，只要任何一名欧洲用户用到你的产品，这部法律就管得到你。

园长的思路清晰：园规不是写给厂家的感谢信，而是写给所有“想进园做生意的人”的通行证条款。读不懂这条，后面的四色手环都无从谈起。

适用范围={在欧投放, 在欧部署, 影响欧盟个人}\displaystyle \text{适用范围} = \{ \text{在欧投放},\, \text{在欧部署},\, \text{影响欧盟个人} \}
三条线任中其一，即落入 EU AI Act 的管辖范围。
  1. 在欧投放AI 产品或服务首次进入欧盟市场销售，即触发监管，无论开发者国籍如何。
    投放∈适用范围\displaystyle \text{投放} \in \text{适用范围}
  2. 在欧部署在欧盟境内上线使用该系统，例如医院、工厂部署 AI 辅助工具，同样受法案约束。
    部署∈适用范围\displaystyle \text{部署} \in \text{适用范围}
  3. 影响欧盟个人系统输出面向欧盟自然人，例如服务欧洲用户的在线客服机器人，即便服务器在境外也适用。
    影响欧盟个人∈适用范围\displaystyle \text{影响}_{欧盟个人} \in \text{适用范围}

风险分级框架

总章程有了，可园长很快就发现：不同设施的危险程度天差地别。坏掉的跳楼机会出人命，过山车需要严格年检，碰碰车只是容易蹭破皮，旋转木马几乎不用操心。如果对它们一视同仁地搞最严检查，旋转木马早就被检查单压垮了；如果都放养，过山车迟早出事。于是她设计了一套“四色手环”制度，让不同设施佩戴不同颜色的手环，对应不同的检查规则——这就是法案最核心的设计：风险分级。

EU AI Act 把 AI 系统分成四个等级：不可接受风险（直接禁止）、高风险（严格的合规义务）、有限风险（透明度义务）、最小风险（无强制义务）。分级的关键判定依据是“预期用途”（intended purpose），而不是技术本身。同一个神经网络，用来过滤垃圾邮件就是最小风险，用来筛选求职者简历就升为高风险。就像一把弹簧刀，放在厨房切菜是正常工具，绑在鞋上就成了凶器——刀没变，变的是用途。

这套“比例原则”（proportionality）是整部法案的哲学基础：义务的轻重必须与风险的高低成正比，管得越严的前提是风险越大。

四色手环让整部法律有了“交通信号灯”般的直觉：红的停、紫的查、绿的看、灰的走。接下来的四节，我们逐一逛到每条手环的专属区域。

T(A)={T0,A∈禁止清单T1,A∈高风险清单T2,A 具交互性T3,其他情况\displaystyle T(A) = \begin{cases} T_0, & A \in \text{禁止清单} \\ T_1, & A \in \text{高风险清单} \\ T_2, & A \text{ 具交互性} \\ T_3, & \text{其他情况} \end{cases}
分级函数 T 把任意 AI 系统 A 按用途对号入座，映射到四个等级之一。
  1. T(A) 分级函数把任意 AI 系统 A 映射为四个等级之一的决策规则，是整部法案的“分配枢纽”。
    T:A→{T0,T1,T2,T3}\displaystyle T: A \rightarrow \{ T_0, T_1, T_2, T_3 \}
  2. 禁止清单优先用途落入禁止清单，直接判为 T0，连继续评估的机会都没有。
    A∈禁止清单⇒T(A)=T0\displaystyle A \in \text{禁止清单} \Rightarrow T(A) = T_0
  3. 高风险清单次之用途落入附件三敏感领域或作为安全组件，判为 T1，承担全套义务。
    A∈高风险清单⇒T(A)=T1\displaystyle A \in \text{高风险清单} \Rightarrow T(A) = T_1
  4. 交互性兜底具备人机交互功能（如聊天机器人）判为 T2；其余一切默认 T3。
    A 具交互性⇒T2,其他⇒T3\displaystyle A \text{ 具交互性} \Rightarrow T_2,\quad \text{其他} \Rightarrow T_3

不可接受风险

有些设施无论怎么加固都改变不了本质危险——比如那座专门用恐吓手段逼游客买“护身符”的鬼屋。园长直接下令：这种设施一律拆除，整改？不存在整改，它的存在本身就是在伤害人。法案第 5 条对“不可接受风险”正是这个态度：一经认定，直接禁止，没有任何“降险措施”可以洗白。

这类 AI 的共同特征是：严重违背欧盟的基本权利与民主价值观。最典型的包括：社会评分——按公民的社会行为打综合分，并据此在贷款、就业等方面差别对待；操纵欺骗——利用潜意识技术或信息茧房让人做出违背本意的决定；剥削弱势——利用年龄、残障等弱势群体的脆弱性实施剥削；以及公共场所的实时远程生物识别——在公共空间实时扫描人脸进行身份识别，执法场景仅有极窄的例外。

值得注意的是，“禁止”不等于“技术上做不到”，而是“价值观上不允许”。社会评分系统在技术上完全可行，甚至某些地方已经实践过，但欧盟从制度上把这条路焊死了。

拆完鬼屋那天，园长在拆除报告上写了一句话：有些东西不是不够努力，而是它存在的意义就是伤害人。对不可接受风险，别问“怎么合规”，要问“要不要做”。

禁止={社会评分, 操纵欺骗, 剥削弱势, 实时远程生物识别}\displaystyle \text{禁止} = \{ \text{社会评分},\, \text{操纵欺骗},\, \text{剥削弱势},\, \text{实时远程生物识别} \}
落入此集合的 AI 实践没有合规可言，只有“拆除”一条路。
  1. 社会评分基于社会行为给公民打综合分并差别对待，属于整体性禁止。
    社会评分∈禁止\displaystyle \text{社会评分} \in \text{禁止}
  2. 操纵欺骗利用潜意识技术或信息操纵使人做出违背本意的决定。
    操纵欺骗∈禁止\displaystyle \text{操纵欺骗} \in \text{禁止}
  3. 剥削弱势针对年龄、残障等弱势群体实施剥削性利用，同样入禁。
    剥削弱势∈禁止\displaystyle \text{剥削弱势} \in \text{禁止}
  4. 实时远程生物识别公共场所实时远程识别自然人身份，仅保留极窄执法例外。
    实时远程生物识别∈禁止∖执法例外\displaystyle \text{实时远程生物识别} \in \text{禁止} \setminus \text{执法例外}

高风险AI

剩下的设施里，过山车无疑最让人紧张：速度快、载客量大、一旦出事后果不堪设想。园长给过山车发的是紫色手环：每季度强制年检、操作员持证上岗、每次运行都要记录日志、还要有应急预案演练。AI 世界里的“过山车”就是高风险系统——一旦出错可能损害人的健康、安全或基本权利，所以必须施加最严格的事前约束。

进入高风险等级有两条路径（法案第 6 条与附件三）：第一，AI 是某款受监管产品的安全组件，比如医疗影像设备里的诊断 AI、汽车里的自动驾驶辅助模块；第二，AI 用于附件三列出的敏感领域，包括关键基础设施、教育与职业培训、就业与员工管理、基本公共服务（信贷、保险）、执法、移民与庇护、司法与民主进程。如果在这些场景中涉及对自然人的“画像”（profiling），同样算高风险。

但紫色手环并非终身制。法案留了一个“显著风险例外”：如果 AI 任务范围很窄、输出可被人工轻松校正、且不实质影响决策结果，可以申请免于高风险认定。这相当于给一辆“慢速观光小火车”摘掉紫色手环——前提是你得证明它真的不危险。

园长每年复评一次手环颜色：如果过山车改成了时速只有五公里的观光小火车，紫色手环自然可以摘掉。风险分级从来不是贴一次标签就完事，而是持续评估的动态过程。

A∈T1  ⟺  (安全组件∨附件三领域)∧¬显著风险例外\displaystyle A \in T_1 \iff (\text{安全组件} \lor \text{附件三领域}) \land \lnot \text{显著风险例外}
高风险 =（安全组件 或 附件三用途）且未落入显著风险例外。
  1. 安全组件触发AI 作为受监管产品的安全关键部件，直接判为高风险。
    安全组件⇒T1\displaystyle \text{安全组件} \Rightarrow T_1
  2. 附件三领域触发用于就业、教育、信贷、执法等八个敏感领域，同样入列。
    A∈附件三⇒T1\displaystyle A \in \text{附件三} \Rightarrow T_1
  3. 显著风险例外豁免若任务窄、可人工校正且不实质影响结果，可豁免高风险。
    ¬显著风险例外⇒T1\displaystyle \lnot \text{显著风险例外} \Rightarrow T_1

有限风险AI

碰碰车不会伤筋动骨，但容易撞出小摩擦。园长对它的管理很轻：不用年检、不用持证，但必须在入口挂一块牌子，写明“本车无刹车，碰撞责任自负”——让游客在知情的前提下玩耍。对应到法案，这就是“有限风险”等级：典型代表是聊天机器人、深度伪造生成器、AI 作画与作曲工具。

有限风险的义务核心只有两个字：透明。为什么透明如此重要？因为这类 AI 本身不危险，但它会“骗人”。想象一下：你深夜刷到一段总统宣布开战的视频，真情实感、口型完美，结果是 AI 生成的——这种欺骗足以动摇社会信任。所以法案要求：与人交互的 AI 必须告知用户“你在和 AI 对话”；深度伪造内容必须显著标注；AI 生成的、可能被误认为真实的文本、图像与音频，要披露其 AI 来源。

合规手法其实很轻：一句开场白、一个水印、一个标签，就把义务履行掉了。这也是法案“比例原则”的典型体现——不给你加负担，只要求你诚实。

透明是有限风险 AI 的“免检牌”：让你知道面前是机器，剩下的自由留给你。游客没有被剥夺玩碰碰车的乐趣，只是不再被蒙在鼓里。

OT2={告知用户, 披露AI身份, 标注深度伪造}\displaystyle O_{T_2} = \{ \text{告知用户},\, \text{披露AI身份},\, \text{标注深度伪造} \}
有限风险 AI 的义务集合围绕“透明度”展开，目的是杜绝系统性欺骗。
  1. 告知用户与 AI 交互时明确告知对方你面对的是机器而非真人。
    告知∈OT2\displaystyle \text{告知} \in O_{T_2}
  2. 披露AI身份AI 生成的内容需标注机器来源，防止冒充真人发言。
    披露∈OT2\displaystyle \text{披露} \in O_{T_2}
  3. 标注深度伪造合成图像、音频、视频必须带显著标记。
    标注∈OT2\displaystyle \text{标注} \in O_{T_2}

最小风险AI

旋转木马大概是园区里最省心的设施：小朋友坐上去，家长在旁边看着就好。园长给它的灰色手环只写了一行字：“请正常使用。”在 EU AI Act 的体系里，最小风险就是那个“默认档”——凡是没落入前面三个等级的 AI，统统归到这里。

垃圾邮件过滤器、棋类游戏 AI、图片美化滤镜、短视频推荐算法……今天我们在日常生活中遇到的绝大多数 AI，其实都在这个档位。它们出错的最坏结果，不过是多收一封广告邮件、或推荐了一个不感兴趣的视频，不构成对权利与安全的实质威胁。法案对这类 AI 的态度是“不打扰”：没有 CE 认证要求、不需要技术文档、不需要预先登记。

但“不强制”不等于“不鼓励”。法案明确倡导最小风险 AI 的开发者自愿遵循行为准则——比如在模型卡中披露训练数据、做简单的公平性测试。这像园长在章程里“建议”旋转木马每天擦拭坐垫：非强制，但做了更好，既是对游客负责，也是给自己留一份口碑。

灰色手环不是被遗忘，而是被信任。欧盟想用最少的干预换取最大的创新——这份“默认信任”，恰恰是分级制度最聪明的地方。

OT3=∅,自愿遵守行为准则\displaystyle O_{T_3} = \varnothing,\quad \text{自愿遵守行为准则}
最小风险 AI 的强制义务为空集，仅保留自愿性行为准则的倡导。
  1. 无强制义务最小风险等级的合规义务集合为空，无需认证、登记或文档。
    OT3=∅\displaystyle O_{T_3} = \varnothing
  2. 自愿准则鼓励开发者签署并遵守行业行为准则，属“软法”倡议。
    准则∈建议∖强制\displaystyle \text{准则} \in \text{建议} \setminus \text{强制}

高风险合规义务

拿到紫色手环的过山车，要过七道检查关卡。园长在章程里写得清清楚楚：风险评估报告、零件来源记录、操作员培训证明、每趟运行日志、紧急制动演练、安全提示标语、维修档案归档——少一项都不能开园。高风险 AI 的合规义务也对应一套“七件套”，集中在法案第 9 至 15 条。

七件套分别是：风险管理体系（RM，全生命周期识别、评估、缓解风险）、数据治理（DG，训练数据来源合法、有代表性、可纠偏）、技术文档与运行日志（TD，记录算法设计与每次关键预测）、透明度与用户告知（AC，说明能力边界与风险）、人工监督（HS，人有权否决机器的关键决策）、鲁棒性与准确性（RS，在噪声和对抗攻击下保持稳定）、注册与 CE 标志（REG，进入 EU 数据库并贴标）。

这套义务的工程化含义非常具体。风险管理要形成“预测—分析—控制—残留评估”的闭环；数据治理要能回答“训练数据从哪来、有没有偏见、怎么消除的”；日志要能回溯每一次关键预测；人工监督界面要保证“医生可以推翻 AI 的肺结节判断”。这不是写在 PPT 里的理念，而是能直接映射到研发流程、测试矩阵和审计表中的硬性要求。

七道关卡听起来繁琐，但正如园长所说：过山车之所以敢让人坐上去，是因为这七道关卡已经在替你兜底。对高风险 AI 而言，合规不是成本，而是通行证。

OT1={RM, DG, TD, AC, HS, RS, REG}\displaystyle O_{T_1} = \{ RM,\, DG,\, TD,\, AC,\, HS,\, RS,\, REG \}
高风险 AI 的强制性义务由七个模块构成，缺一不可。
  1. RM 风险管理从风险预测、分析、缓解到残留评估的全生命周期闭环。
    RM=识别→评估→缓解→复盘\displaystyle RM = \text{识别} \rightarrow \text{评估} \rightarrow \text{缓解} \rightarrow \text{复盘}
  2. DG 数据治理训练数据须来源合法、具有代表性、可检测并纠正偏差。
    DG={来源,代表性,纠偏}\displaystyle DG = \{ \text{来源}, \text{代表性}, \text{纠偏} \}
  3. TD 技术文档保存算法设计说明、训练过程与运行日志。
    TD={设计说明,训练日志,运行日志}\displaystyle TD = \{ \text{设计说明}, \text{训练日志}, \text{运行日志} \}
  4. AC 透明度告知向用户说明 AI 的能力、限制与残余风险。
    AC=说明书+风险提示\displaystyle AC = \text{说明书} + \text{风险提示}
  5. HS 人工监督设计上保证人对机器关键决策的审查与否决权。
    HS=人的最终决定权\displaystyle HS = \text{人的最终决定权}
  6. RS 鲁棒性系统在噪声、异常输入与对抗样本下保持准确稳定。
    RS=准确率+抗扰动能力\displaystyle RS = \text{准确率} + \text{抗扰动能力}
  7. REG 注册标志在 EU 数据库登记并按要求加贴 CE 标志。
    REG=EU数据库+CE标志\displaystyle REG = \text{EU数据库} + \text{CE标志}

全球影响

章程生效后的第二年，园长发现一个有趣的现象：其他城市的游乐园纷纷跑来抄作业，把四色手环体系、七道检查关卡原样搬回自家园子。园长这才意识到：最大的影响从来不在园区内，而在园区外。这就是“布鲁塞尔效应”（Brussels Effect）——欧盟凭借巨大的市场体量和成熟的规则制定能力，把自己的标准变成了事实上的全球标准。GDPR 当年做到了，EU AI Act 正在 AI 领域重演。

对企业而言，最直接的冲击是合规成本与风险等级成正比：不可接受风险对应“市场禁入”的机会成本，高风险对应研发流程与文档体系的改造投入，有限风险可能只是 UI/UX 的小改动，最小风险则几乎零成本。战略上，出海企业可以按三步走完成应对：第一步盘点——把公司所有 AI 系统列出来逐一分级；第二步差距分析——对照本等级的义务清单找出缺项；第三步持续治理——把合规嵌入研发流程，而非上线前临时补课。

对中国而言，EU AI Act 也是一面镜子。无论国内 AI 治理体系如何演进，“分级分类、比例监管”的思路已经成为全球共识，也必将反向塑造中国 AI 企业的研发习惯与出海策略。

游乐园的章程最终成了全行业的通用语言。这不是欧盟一家的胜利，而是“安全是通行证”这一常识的胜利——无论你在哪座园子，戴上紫色手环的那一刻，就意味着你愿意为责任买单。

合规成本∝风险等级,规则外溢⊇欧盟边界\displaystyle \text{合规成本} \propto \text{风险等级},\quad \text{规则外溢} \supseteq \text{欧盟边界}
合规成本随风险等级上升，而欧盟规则的影响力远超其地理边界。
  1. 成本随级递增从 T0 到 T3，合规成本随风险等级逐级上升，形成阶梯。
    成本∝Ti,  i=0,1,2,3\displaystyle \text{成本} \propto T_i,\; i = 0,1,2,3
  2. 规则外溢欧盟规范借助市场力量扩散为全球事实标准。
    规则外溢⊇欧盟边界\displaystyle \text{规则外溢} \supseteq \text{欧盟边界}

AI 应用场景

出海产品的合规体检

阶段：部署前评估

解决的问题：中国 SaaS 公司推出一款 AI 简历筛选工具，目标市场包括德国。过去只关注产品功能与成本，如今必须回答一个前置问题：它属于哪一级风险？若误判为低风险，产品可能在欧盟上线第一天就面临禁入或巨额罚款。

具体案例：某招聘 SaaS 平台在进入欧盟前，用分级框架自查：简历筛选属附件三“就业领域”，因此判定为高风险。团队随后补齐了去偏测试、人工复核流程和技术文档，把合规改造成本纳入预算，顺利通过一家德国客户的供应商审查。

医疗影像 AI 的七件套改造

阶段：开发与部署

解决的问题：医疗影像诊断 AI 是典型的“安全组件”型高风险系统，单靠算法精度不足以获得准入资格。传统研发只盯着 AUC 指标，现在还要同时建立风险管理文档、数据治理说明、日志追溯与人工监督界面。

具体案例：一家柏林医疗 AI 创业公司在部署肺结节筛查系统时，按“七件套”要求建立了“医生可一键推翻 AI 结论”的交互流程，并每季度输出合规报告。这套流程既满足了监管要求，也显著提升了医院采购方的信任度。

大模型聊天机器人的透明度设计

阶段：产品设计

解决的问题：大模型客服机器人属于有限风险，义务很轻但必须“说实话”。传统设计追求“人味十足”，现在反而要在交互中明确标识 AI 身份，避免用户误以为自己在和真人对话。

具体案例：某电商平台的 AI 客服在对话框顶部常驻“我是 AI 助手”标识，在深度生成内容上自动加盖来源水印。改动虽小，却换来用户投诉率下降、监管零处罚的双赢结果。

Python 演示

python60 行
# -*- coding: utf-8 -*-"""EU AI Act 风险分级示例：按预期用途判定等级并输出义务清单"""  class AiRiskClassifier:    def __init__(self):        self.prohibited_map = [            "social_score",            "subliminal_manipulation",            "exploit_vulnerable",            "public_remote_biometric"        ]        self.high_risk_map = [            "employment",            "education",            "essential_services",            "law_enforcement",            "critical_infrastructure",            "migration",            "justice"        ]        self.obligation_map = {            "unacceptable": [],            "high": ["RM", "DG", "TD", "AC", "HS", "RS", "REG"],            "limited": ["TRANSPARENCY"],            "minimal": []        }     def classify(self, purpose, is_safety_component=False,                 is_interactive=False, has_exception=False):        if purpose in self.prohibited_map:            return "unacceptable"        if is_safety_component or purpose in self.high_risk_map:            if not has_exception:                return "high"        if is_interactive:            return "limited"        return "minimal"     def obligations(self, tier):        return self.obligation_map.get(tier, [])  def main():    classifier = AiRiskClassifier()    cases = [        ("social_score", False, False, False),        ("employment", False, False, False),        ("chatbot", False, True, False),        ("spam_filter", False, False, False)    ]    for purpose, safety, interactive, exception in cases:        tier = classifier.classify(purpose, safety, interactive, exception)        print("%s -> %s, 义务: %s" % (            purpose, tier,            ",".join(classifier.obligations(tier)) or "无"))  if __name__ == "__main__":    main()
目的：用 50 行代码实现 EU AI Act 四级风险判定与义务查询，可直接作为产品合规自查脚本的雏形。
  1. self.prohibited_map = [...]用列表保存不可接受风险清单，命中即返回 unacceptable。
  2. self.high_risk_map = [...]保存附件三的八个敏感领域（示例含七个），用于高风险判定。
  3. def classify(...)核心分级函数，按“禁止 → 安全组件/附件三 → 交互性 → 默认”的顺序逐层判断。
  4. if is_safety_component or purpose in self.high_risk_map:对应“安全组件或附件三领域”的高风险触发条件。
  5. if not has_exception:实现“显著风险例外”，有例外则不判为高风险。
  6. self.obligation_map = {...}每个等级映射一套义务集合，高风险直接对应“七件套”。
  7. def obligations(self, tier)查询指定等级的义务清单，返回列表。
  8. classifier.classify(purpose, safety, interactive, exception)调用时按预期用途与场景特征传入参数，得到等级。

常见误区

误区我看到某公司说“我们的模型用了深度学习，所以属于高风险”，或者反过来觉得“用传统机器学习就肯定安全”。这不是我们在判断风险等级时该有的思路。

正解EU AI Act 判断风险的核心是“预期用途”，而非技术栈。同一个神经网络，用于过滤垃圾邮件是最小风险，用于筛选求职者就是高风险。就像一把刀，切菜是工具，伤人是凶器——刀没变，变的是用法。做分级时先问“拿它做什么”，再问“它有多先进”。

为何常见：人们习惯用技术复杂度衡量风险，因为“先进技术更可怕”符合直觉，但法律关注的是对权利和安全的实际危害场景。

误区只要我的 AI 被归为最小风险，就可以完全不闻不问了，反正法律管不着。

正解最小风险确实没有强制义务，但法案仍鼓励开发者遵循自愿行为准则，且分级并非永久——若系统后续被扩展到新场景，用途变了，等级也会跟着变。就像灰色手环的旋转木马，如果园长发现它被改造成高速旋转装置，第二天就会被换手环。

为何常见：“默认档”容易让人误读为“免责档”，而忽略了法案的结构设计：义务虽然默认为空，但责任从未缺席。

误区我们公司在中国，产品只面向国内用户，EU AI Act 肯定跟我们没关系，不用花精力研究。

正解法案的域外效力很强：只要产品在欧盟投放、在欧盟部署、或系统输出影响欧盟公民，就落入管辖。哪怕是国内公司，只要网站上任何一个欧洲用户点了“注册”，就可能触发合规义务。园长的园规写得清楚：不管厂家来自哪个国家，设施在园内运营就得守园规。

为何常见：人们天然以注册地判断法律管辖，忽略了现代数字产品“服务无国界”的特性，也低估了 GDPR 之后欧盟的执法决心。

误区欧盟禁了所有生物识别技术吧？人脸识别、指纹识别这些以后在欧洲都不能做了。

正解法案禁止的是“公共场所的实时远程生物识别”，且执法场景还留有极窄例外。商用场景下的非实时识别、身份验证、门禁考勤等并不在禁止清单内，只是可能落入高风险或有限风险。就像园长只拆了“吓人的鬼屋”，并没有拆掉所有带特效的游乐项目。

为何常见：媒体标题往往只强调“禁人脸识别”，把“实时远程公共场所”这些限定词省略了，导致公众认知被过度简化。

误区上线前做一次分级，拿到等级就万事大吉，以后不用再管了。

正解风险等级与用途强绑定，而用途会随着产品迭代、新功能上线、合作方接入而变化。一次分级只代表“当下的用途”，系统更新后可能需要重新评估；同时“显著风险例外”也需要持续举证。合规不是一次性体检，而是像过山车年检一样，每年甚至每季度都要复查。

为何常见：企业习惯把合规当作“上线前的盖章”，但欧盟监管的底层逻辑是“全生命周期责任”，要求贯穿设计、开发、部署、运维始终。

面试题

Q1. EU AI Act 将 AI 系统划分为几个风险等级？

单选题 · easy

  • A.两个
  • B.三个
  • C.四个← 正确答案
  • D.五个

答案：C。EU AI Act 的核心是四级风险框架：不可接受风险、高风险、有限风险、最小风险，分别对应禁止、严管、透明义务与默认放行。好比游乐园的四色手环体系，不多不少正好四档。

Q2. 以下哪项属于「不可接受风险」而被直接禁止？

单选题 · easy

  • A.垃圾邮件过滤
  • B.文章自动摘要
  • C.社会信用评分← 正确答案
  • D.简历自动筛选

答案：C。社会信用评分按公民社会行为打综合分并差别对待，严重违背基本权利，被法案列为不可接受风险，直接禁止。垃圾邮件过滤、文章摘要通常属最小风险，简历筛选则属高风险而非禁止项。

Q3. 判断一个 AI 系统风险等级的核心依据是什么？

单选题 · mid

  • A.模型参数量
  • B.预期用途← 正确答案
  • C.算力规模
  • D.训练数据量

答案：B。法案按“预期用途”（intended purpose）定级，而非技术复杂度。同一模型用在垃圾过滤上是最小风险，用在招聘筛选中就是高风险，就像同一把刀切菜是工具、伤人是凶器。参数量、算力、数据量都不决定法律风险。

Q4. 高风险 AI 系统需要履行哪些合规义务？

多选题 · mid

  • A.建立风险管理体系← 正确答案
  • B.保证数据治理质量← 正确答案
  • C.设计人工监督机制← 正确答案
  • D.无需任何登记

答案：ABC。高风险 AI 的“七件套”义务包括风险管理、数据治理、技术文档、透明度、人工监督、鲁棒性、注册与 CE 标志。A、B、C 都是七件套成员；D 错误，因为高风险系统必须进入 EU 数据库登记并加贴 CE 标志。

Q5. 聊天机器人最可能需要履行何种义务？

单选题 · easy

  • A.全面禁止应用
  • B.告知机器人身份← 正确答案
  • C.强制 CE 认证
  • D.提交技术文档

答案：B。聊天机器人通常属有限风险，核心义务是透明度——必须告知用户“你在和 AI 对话”。它不需要 CE 认证和技术文档（那属于高风险），更不会被禁止。就像碰碰车只需挂块提示牌，不用年检。

Q6. 欧盟 AI 法的域外效力体现在哪些情形？

多选题 · hard

  • A.欧盟本土企业开发← 正确答案
  • B.外国企业欧盟投放← 正确答案
  • C.输出影响欧盟民众← 正确答案
  • D.与欧盟毫无关联

答案：ABC。法案适用于三类情形：在欧盟投放、在欧盟部署、系统输出影响欧盟公民。欧盟本土企业当然适用；外国企业在欧投放、服务器在境外但输出影响欧盟民众，同样被管辖。只有与欧盟毫无关联的系统才在监管之外。

Q7. 关于最小风险 AI 的合规特征，下列说法正确的是？

单选题 · mid

  • A.需要 CE 认证
  • B.无强制法定义务← 正确答案
  • C.被完全禁止使用
  • D.必须实名登记

答案：B。最小风险是默认档，强制义务为空集，不需要 CE 认证、登记或技术文档，更不会被禁止。法案仅鼓励自愿遵守行为准则。这就像灰色手环的旋转木马，正常使用即可，不额外加规则。

Q8. 高风险判定中的「显著风险例外」是指什么？

单选题 · hard

  • A.低风险且人工可校正← 正确答案
  • B.采用最先进模型
  • C.企业规模效应大
  • D.覆盖用户人数多

答案：A。显著风险例外要求 AI 任务范围窄、输出可被人工轻松校正、且不实质影响决策结果。它考察的是“实际危害大小”，与模型先进性、企业规模、用户数量无关。满足该例外的高风险清单用途可被免于定性，相当于“低速观光小火车”摘掉紫色手环。

Q9. 以下哪些属于不可接受风险的 AI 应用？

多选题 · hard

  • A.潜意识操纵类行为← 正确答案
  • B.社会信用评分做法← 正确答案
  • C.公共场所实时远程识别← 正确答案
  • D.深度伪造的艺术创作

答案：ABC。潜意识操纵、社会评分、公共场所实时远程生物识别均在禁止清单内。深度伪造的艺术创作不在禁止之列，但须履行透明度义务——显著标注 AI 来源。好比鬼屋被强拆，而带特效的展览只需挂“内含特效”的提示牌。

Q10. 「布鲁塞尔效应」在 AI 监管领域通常指什么？

单选题 · mid

  • A.欧盟规则外溢为全球标准← 正确答案
  • B.取消欧盟全部监管义务
  • C.美国主导全球的规则制定
  • D.联合国推动各国统一立法

答案：A。布鲁塞尔效应指欧盟凭借巨大市场体量，使自身规则成为事实上的全球标准——GDPR 如此，EU AI Act 也在重演。它不是取消监管，也不是美国或联合国主导，而是“市场即规则”的外溢现象。