EU AI Act禁止类AI应用

可视化演示

交互展示欧盟AI法案禁止的AI应用类别、风险分级体系和合规审查流程，理解AI监管核心框架。

法案背景与风险分级

数字交通管理局（欧盟）在修订《车辆管理规章》时发现，路上的“AI车辆”五花八门，有的像自行车一样无害，有的则像装了炸药的重型卡车。于是它把所有AI应用按危险程度分成四档：最小风险（自行车，自由通行）、有限风险（私家车，只需亮明身份）、高风险（公交车，必须经过严格年检）、不可接受风险（炸药车，直接没收驾照，一条路都不让上）。这个四档分级是整个AI法案的骨架，而禁止类AI就是那批“炸药车”——法规对它们的态度不是“多加看管”，而是“零容忍”。

换句话说，法案的核心逻辑是：先给AI按“对基本权利和安全的风险”贴好危险等级标签，再对不同等级施加不同力度的义务。最小风险无需额外义务，有限风险要满足透明度和告知义务，高风险要建立风险管理体系、数据治理、人工监督等一整套合规流程，而不可接受风险则被直接写进法案第五条，彻底禁止投放市场、投入使用。这套“按危险定管理”的思路，和交通法规对危险品运输车的管理如出一辙：不是靠司机小心驾驶，而是根本不让它上路。

对企业来说，这条分级直接决定了产品的生死。如果你做的是聊天机器人（最小风险），合规成本几乎为零；如果你做的是招聘筛选系统（高风险），就要准备技术文档、风险登记、日志记录；如果你碰的是禁止清单里的功能（不可接受风险），再完善的文档也救不了你——因为这不是“合不合规”的问题，而是“允不允许存在”的问题。法案对不可接受风险的定义，本质上是风险严重度与发生概率共同作用的结果：

把这条风险公式记在心里，再回头看那些被禁的AI，你就明白为什么社会评分和实时监控会被一票否决——它们一旦出错，伤害的是人的整个人生和自由，而且出错的概率还不低。交通管理局的逻辑很简单：一款产品如果撞车就是车毁人亡，那干脆连驾照都不要发。理解了这个“禁止优先于盈利”的立场，后面的四张禁止贴纸才不会让你意外。

禁止清单总览

数字交通管理局在公告栏上贴出四张醒目的“禁止通行”贴纸，每张贴纸对应一类“炸药车”。这四类分别指向：给公民贴终身标签的社会评分系统、在公共场所实时抓拍的天眼识别系统、偷偷操控人决策的潜意识操纵系统、以及靠“算命”来抓人的预测警务系统。四张贴纸不是孤立的“违章示例”，而是一个完整的禁止逻辑链条——它们都指向同一个核心：对基本权利的不可接受侵犯。

四类禁止场景在法案里各有各的精确边界。社会评分关注的是“跨领域泛化”的终身定性；生物识别禁令盯住的是“实时+公开场所+远程”的三要素；操纵条款打击的是“隐蔽性+实质损害”；预测警务则瞄准“个人画像+无事实基础”。监管机构还给这四类配套了一个“出口”——监管沙盒，允许企业在受控环境中试点创新方案，探索既不踩红线又能提供价值的替代设计。换句话说，法律不是把路堵死，而是让你换一种不危险的车重新上路。

判断一个AI系统是否落入禁止清单，本质上是在做一个“集合归属”判定：看这个系统是否同时满足某个禁止场景的全部构成要件。这个判定可以用一个简洁的表达式概括：

企业拿到这四张贴纸后能做的第一件事，就是把自己的产品功能逐条对照：我的系统会不会给用户“定性”？会不会在公共场所实时“盯人”？会不会在用户不知情时“操控”？会不会对没犯事的人做“预判”？只要任何一个回答是“是”，就得回到设计阶段重新来过，而不是想着用免责声明蒙混过关。

社会评分禁止

想象城市里有一种“自动贴纸机”，它根据你的日常行为——去过哪里、买过什么、在网上说过什么——给你计算一个“市民信用分”，然后在你胸口贴上终身无法撕掉的黑标签。分数低的人没法租房、找不到工作、孩子上不了好学校。这听起来像科幻电影，但社会评分系统（social scoring）就是这样的机器，而EU AI Act对它的态度非常明确：一律禁止。

法律之所以如此决绝，是因为这种系统有两个无法容忍的特征。第一，它“跨领域泛化”——用你在一个场景的行为去预测和惩罚你在另一个场景的价值，比如用购物记录决定你是否能贷款。第二，它“造成歧视性不利对待”——被低分的群体可能在相当长时间里无法翻身，即使后来行为改变，标签依然存在。法案的禁止标准不是“分数打得多准”，而是“这个评分是否导致了基本权利被剥夺或严重不利对待”。只要满足这一点，无论技术多么公平公正，都触碰红线。

这也划清了它与合法信用评分的边界。银行基于还款记录评估信用风险是允许的，因为它有明确的合同基础、专门的信用法律框架、且只服务于信贷决策。但社会评分是“无边界”的，它把信用逻辑扩散到社会生活的方方面面。判定标准可以用逻辑公式表示：

看到这里你可能会问：那淘宝的“买家信用分”、游戏的“行为分”算不算社会评分？答案是：只要这些分数不涉及跨领域的不利对待、不损害基本权利、且用户知情，通常不在禁止范围内。但如果一家公司把用户在所有平台的行为汇集成一个“社会价值分”，再据此拒绝提供服务，那就妥妥踩线了。交通管理局不是禁止你给车做保养记录，而是禁止你给每个路人烙上“终身黑星”。

生物识别禁令

现在来到最像谍战片的一条禁令：公共场所的“天眼实时追踪”。想象天花板上装着一台摄像机，不仅能看清每个人的脸，还能实时比对数据库，在一秒内告诉你“那个穿红衣服的人是谁、有没有案底、现在往哪走”。这种实时远程生物识别系统（real-time remote biometric identification），正是EU AI Act重点打击的对象——它意味着国家或企业可以在公共空间对所有人进行无差别的实时监控，自由和隐私将荡然无存。

禁令的构成要件非常精确，必须同时满足三个条件：实时（边采集边识别）、公共场所（对不特定多数人开放的空间）、远程识别（摄像机无需接触即可完成比对）。三个条件缺一个，就不属于这条禁令的射程。比如，事后用监控录像做“对照组”检索（发现某个嫌疑人曾出现在某地）是被允许的，因为它不是实时追踪；在办公室入口做员工人脸打卡也不是“公共场所”，适用的是另一套数据保护规则。

判断公式如下：

这一条对做安防系统、智能门禁、零售客流分析的团队尤其重要。如果你的产品能“实时+公开+远程”认出人群中的特定个体，那在欧洲市场上基本没有生存空间；但如果把实时改成事后检索、把范围限定在私人场所，或者是让用户主动配合的验证场景，就能绕开这条禁令。交通管理局允许你在小区门口装摄像头，但不允许你在整条大街上安装“一秒点名”的全息天眼。

操纵与剥削

继续沿着禁令地图往前走，第三张贴纸有点“心理战”的味道：禁止利用潜意识技术操纵人类、以及利用弱势群体弱点进行剥削。打个比方，这就好像有人偷偷改装了你的汽车方向盘——你明明以为自己在控制方向，实际上转向系统已经被一个你看不见的程序接管，把你引导到它设定的目的地，而你毫不知情。

法案对于“操纵”设定了“隐蔽性 + 实质损害”的双重门槛。不是所有影响用户行为的AI都叫操纵——广告推荐让你点击了一双鞋，那是正常的说服；但如果AI利用你视觉盲区的潜意识信号、在你的APP里以超出你感知的方式改变你的决策，并且导致你做出原本不会做的、会造成实质损害的决定（比如过度借贷、赌博成瘾），那就越过了红线。条例特别点名了两类技术：潜意识技术（subliminal techniques）和基于年龄、残疾等特定弱点进行的剥削。

这类行为的判定逻辑可以形式化：

这一点给所有做推荐算法、游戏化设计、儿童向应用的团队敲响警钟。普通A/B测试不是操纵，但“通过画面闪烁让儿童反复氪金”就是典型的剥削；“默认勾选”如果配合了用户无法察觉的诱导机制，也可能滑向操纵。交通管理局的尺度很简单：你可以竖广告牌，但不能在司机眼皮底下偷偷改装方向盘，更不能把糖衣炮弹塞给没判断力的孩子。

预测警务禁止

第四张贴纸最接近“科幻成真”：预测警务（predictive policing）——用AI预测“某个人”未来会不会犯罪，并据此提前干预。想象一个路口摆着一颗水晶球，警察走过来盯着水晶球说：“根据你的长相、住址和朋友，你下个月有80%的概率入室盗窃。”于是你被带走了。这种“算命式执法”正是EU AI Act禁止的第四类场景。

为什么禁止？因为仅基于个人画像的犯罪预测，本质上是对“尚未发生的行为”作有罪推定。它违背了两个基本法律原则：无罪推定（presumption of innocence）和正当程序——一个人只能因“已发生的事实”被追责，不能因“统计概率”被惩罚。法案的禁止边界非常清楚：如果AI预测的是群体层面的犯罪热点分布（比如“这个街区盗窃案集中发生在傍晚”），属于合法的统计工具；但如果AI针对特定个人说“你很可能犯罪”，并导致该个人受到不利对待，就触犯禁令。

形式化如下：

这条对公共安全、保险公司、征信机构都有警示意义。保险公司用风险模型定价是合法的，因为合同关系建立在自愿基础上；但如果一个AI系统被警方用来给特定个人贴“未来罪犯”标签，那就是法律不能容忍的。交通管理局允许你统计“哪条路容易出事故”，但绝不允许你指着路过的司机说“你明天必然肇事”然后当场吊销他的驾照。

例外与豁免

禁令并非铁板一块。数字交通管理局虽然禁止炸药车上路，但也给“消防车”“救护车”留了专属通道——这就是生物识别禁令的执法例外。法案规定，执法机关在四种极端场景下可以使用实时远程生物识别：搜寻特定失踪儿童或受害人、预防具体且紧迫的恐怖袭击、侦查和起诉法案附件中列明的特定严重犯罪、以及定位已被定罪的嫌疑人。注意，这些例外全部服务于“人命关天”的紧急情境，而不是日常治安监控。

但例外不是“开后门”，法律给这扇窄门加了三把锁：司法授权（原则上必须事先获得法院或独立机构批准，紧急情况可事后补批）、时间与空间限制（使用时限必须合理，范围限于必要区域）、比例原则（措施力度必须与威胁严重程度相称）。至于国家安全相关的AI应用，法案明确说“不归我管”——根据《欧盟条约》第4(2)条，国家安全是成员国的专属职责，不适用该法案的监管框架。

豁免的判定条件可以归纳为：

对产品团队而言，这条“窄门”的含义很直白：想借“执法用途”绕开禁令，几乎没有可操作空间，因为四种例外场景需要满足的配套条件极其苛刻。更关键的是，例外只适用于执法机关，不适用于商业公司。如果你的安防产品想卖给警察，必须证明它符合例外场景和授权要求；如果你想卖给商场老板做实时客流识别，那还是死了这条心吧。

合规与处罚

了解了四张贴纸和例外窄门之后，最后一个话题是：企业如何做“出车前的自检”，以及违规会付出什么代价。数字交通管理局的执法风格很凌厉——不是罚款了事，而是直接“锁车拖走”。根据法案第99条，违反禁止条款的企业将面临最高3500万欧元、或上一财政年度全球年营业额7%（取较高者）的罚款。对于大型科技公司来说，这个数字可能是数十亿欧元。

合规路径的第一步是红线自检：对照四类禁止场景，逐条审查产品功能、训练数据、部署场景。第二步是设计合规：如果发现某个功能接近红线，就要重新设计——比如把实时识别改成事后检索、把跨领域评分限制在单一场景、把隐蔽诱导改成明示选择。第三步是建立治理机制：对高风险系统做风险评估、数据治理、人工监督，并保留完整的日志和文档。监管沙盒则提供了一个“受控试车场”，让创新企业能在监管机构的指导下安全测试边界产品。

合规与否可以用一个简洁的表达式总结：

合规不是法务部门单独的任务，而是产品研发流程的一部分。交通管理局的比喻在这里最有用：每款AI产品都像一辆出厂的车，不能等上路被交警拦了才想起查刹车。在立项阶段就对照禁止清单做“上路审查”，在开发阶段就记录好“行车数据”，在产品上架前组织“年检”——这些动作的成本，远低于一次全球营收7%的罚单。

AI 应用场景

Python 演示

# -*- coding: utf-8 -*-"""EU AI Act 禁止类AI合规自检器""" class ProhibitedAIChecker:    def __init__(self):        self.rule_map = [            ("social_score", "社会评分影响基本权利"),            ("public_biometric", "公共场所实时生物识别无授权"),            ("manipulation", "潜意识操纵或弱势群体剥削"),            ("predictive_policing", "无事实基础的预测警务")        ]     def evaluate(self, app):        banned_list = []        if app.get("social_score") and app.get("affects_rights"):            banned_list.append(self.rule_map[0][1])        if app.get("biometric") and app.get("public") and app.get("realtime"):            if not app.get("warrant"):                banned_list.append(self.rule_map[1][1])        if app.get("manipulation"):            banned_list.append(self.rule_map[2][1])        if app.get("predictive") and not app.get("fact_based"):            banned_list.append(self.rule_map[3][1])        return banned_list     def assess(self, app):        violations = self.evaluate(app)        if not violations:            return "OK: 未触碰禁止红线"        return "BANNED: " + "; ".join(violations)  if __name__ == "__main__":    checker = ProhibitedAIChecker()     sample_app = {        "name": "广角信用评分系统",        "social_score": True,        "affects_rights": True,        "biometric": False,        "public": False,        "realtime": False,        "warrant": False,        "manipulation": False,        "predictive": False,        "fact_based": False    }     print("产品:", sample_app["name"])    print("审查结果:", checker.assess(sample_app))     safe_app = {        "name": "银行信贷评估系统",        "social_score": False,        "affects_rights": False,        "biometric": False,        "public": False,        "realtime": False,        "warrant": False,        "manipulation": False,        "predictive": False,        "fact_based": True    }     print("产品:", safe_app["name"])    print("审查结果:", checker.assess(safe_app))

1. self.rule_map = [...]预定义四类禁令规则，每条包含判定字段和违规描述，类似交通管理局公告栏上的四张贴纸。
2. def evaluate(self, app)核心审查方法，遍历规则逻辑，收集所有被触发的违规项。
3. if app.get("social_score") and app.get("affects_rights")社会评分禁令的判定：系统在打分且影响基本权利，两个条件同时满足才算踩线。
4. if app.get("biometric") and app.get("public") and app.get("realtime")生物识别禁令的三要素判定：实时、公共场所、远程识别同时成立。
5. if not app.get("warrant")司法授权例外：即使三要素成立，有授权也能豁免，否则仍然违规。
6. if app.get("predictive") and not app.get("fact_based")预测警务禁令：只有“无事实基础”的画像预测才被禁止，有具体线索则不算。
7. def assess(self, app)对审查结果做格式化输出，返回“OK“或”BANNED”结论。

常见误区

面试题