工程岗

AI安全工程师

AI安全攻防、对抗样本、模型安全与合规审计

参考薪资 25-50K
220知识点
76学时
26120积分
23工具
开始学习
CHAPTER 01

岗位说明

AI安全攻防、对抗样本、模型安全与合规审计

本课程路径为【AI安全工程师】量身设计，聚焦工程系统与基础设施方向。 岗位描述：AI安全攻防、对抗样本、模型安全与合规审计。 学习路径分2个阶段递进：数据可信（164个知识点，涵盖数据科学与数据工程、AI安全伦理与合规、AI安全与对抗攻防） → 工程系统（56个知识点，涵盖AI工程化）。 参考薪资：25-50K。需要掌握23个工具。 建议按顺序学习，基础阶段（了解级）快速建立概念框架，核心阶段（理解级）深入掌握关键技术，实践阶段（熟练级）达到工程应用能力。

岗位分类
工程岗
参考薪资
25-50K（月·一线城市参考）
学习规模
220 个知识点 · 约 76 学时 · 23 个工具
已上线课程
221 节可直接学习
CHAPTER 02

现状与前景

AI安全是国家安全级别的议题。对抗攻击、模型窃取、数据投毒——这些威胁正在成为现实。各国正在立法要求AI系统安全评估，AI安全工程师将从"可选"变为"必须"，是蓝海中的蓝海。

CHAPTER 03

招聘数据

薪资区间

25-50K

数据来源于主流招聘平台 AI 岗位统计，一线城市 3-5 年经验参考。

岗位竞争力和成长

完成全部 220 节课程并通过面试题测试，可获得 26120 成长积分，覆盖该岗位 23 个核心工具与全部技能要求。

CHAPTER 04

能力雷达图

安全合规数据工程AI工程化安全攻防
安全合规 100
数据工程 98
AI工程化 87
安全攻防 40
CHAPTER 05

工具树（23）

AI安全 · 9
Lakera GuardRebuffPrompt GuardLLM GuardPyRITGarakGiskardCounterFitGarak Pro
LLM框架 · 2
NeMo GuardrailsGuardrails
AI代码审查 · 3
QodoSnyk CodePR-Agent
AI治理与合规 · 5
IBM AI Explainability 360AporiaWhyLabsFairlearnCredo AI
其他 · 2
gpt_4ogrok_4
大模型 · 1
360智脑
Agent框架 · 1
IBM Watsonx
CHAPTER 06

项目树

AI安全防护系统

面向LLM应用的输入输出安全过滤与防护网关

对抗样本检测

视觉模型的对抗攻击检测与防御系统

Prompt注入防御

针对大模型的Prompt注入、越狱与数据泄露防护方案

模型合规审计

AI模型公平性、偏见与合规性的自动化审计平台

隐私保护方案

差分隐私与联邦学习相结合的数据隐私保护体系

日常工作任务

  • 每日安全漏洞扫描与风险评估
  • 每日对抗攻击测试与防御验证
  • 每周安全策略配置与规则更新
  • 按项目模型安全评估与风险报告
  • 按项目合规审计与整改跟踪
  • 按项目防护规则迭代与误报优化
  • 按季度安全培训与意识提升
  • 按季度红蓝对抗攻防演练

核心交付物

安全评估报告防护规则合规审计报告对抗测试用例安全方案文档

协作对象

算法工程师后端工程师法务合规运维工程师产品经理
CHAPTER 07

学习目录（可直达课程）

第1篇系统
系统1 节
  1. 了解 欢迎来到AIQZ.CC 6分钟
第2篇数据科学与数据工程篇
数据为中心AI范式11 节
  1. 浅读 数据质量维度 20分钟 · 80分
  2. 浅读 数据质量监控告警系统实战 19分钟 · 80分
  3. 浅读 数据质量报告自动生成方案 21分钟 · 80分
  4. 浅读 WordPiece分词：BERT的##前缀与贪婪匹配 21分钟 · 80分
  5. 浅读 Mamba等线性注意力架构对比 16分钟 · 80分
  6. 浅读 飞轮数据筛选与过滤策略 19分钟 · 80分
  7. 浅读 数据飞轮闭环怎么设计才不漏气？架构方案 20分钟 · 80分
  8. 浅读 音频数据增强：让语音模型听得更明白 17分钟 · 80分
  9. 浅读 用GAN生成数据：对抗增强玩出新花样 19分钟 · 80分
  10. 浅读 投数据能赚多少？数据改进ROI算清楚 17分钟 · 80分
  11. 浅读 加数据还有用吗？边际收益递减规律 18分钟 · 80分
合成数据生成10 节
  1. 浅读 合成数据好不好用？质量评估全维度 18分钟 · 80分
  2. 浅读 要效用还是隐私？合成数据的两难权衡 19分钟 · 80分
  3. 浅读 RLAIF与Constitutional AI的完整技术图谱 19分钟 · 80分
  4. 浅读 Evol-Instruct：指令进化数据生成 19分钟 · 80分
  5. 浅读 检测大模型生成数据中的偏见方法 20分钟 · 80分
  6. 浅读 合成表格数据中的关系建模：保留数据关联性 20分钟 · 80分
  7. 浅读 合成表格数据好不好用？效用评估方法 18分钟 · 80分
  8. 浅读 AI生成完整场景：合成数据场景生成术 17分钟 · 80分
  9. 浅读 合成数据训分割模型：像素级标注自动化 19分钟 · 80分
  10. 理解 隐私预算怎么花才不超支？差分隐私核心概念 1分钟 · 120分
数据标注与管理11 节
  1. 浅读 标注太慢？效率提升方法与工具全解 17分钟 · 80分
  2. 浅读 标注员怎么培训和考核？体系化方法指南 21分钟 · 80分
  3. 浅读 Medusa与Lookahead解码加速方案 16分钟 · 80分
  4. 浅读 ZeRO-Infinity：万亿参数训练 10分钟 · 80分
  5. 浅读 Prodigy主动学习数据标注工具实战 5分钟 · 80分
  6. 浅读 主动学习的停止准则：什么时候该停止标注 21分钟 · 80分
  7. 浅读 NLP文本标注主动学习实战 22分钟 · 80分
  8. 浅读 众包标注怎么发钱？薪酬设计方法 16分钟 · 80分
  9. 浅读 众包标注要省钱还是要质量？平衡方法 15分钟 · 80分
  10. 浅读 数据标注的人机协作：弱监督与半自动化 18分钟 · 80分
  11. 浅读 弱监督还是主动学习？两种方法怎么选 14分钟 · 80分
隐私计算9 节
  1. 浅读 联邦学习参与者怎么激励？机制设计 18分钟 · 80分
  2. 浅读 联邦学习通信太慢？效率优化方法全解 19分钟 · 80分
  3. 浅读 RLAIF用LLM替代人类标注能省多少钱 17分钟 · 80分
  4. 浅读 差分隐私定义：epsilon-delta保证 16分钟 · 80分
  5. 浅读 隐私账本机制与预算管理 21分钟 · 80分
  6. 浅读 秘密共享协议与安全多方计算 20分钟 · 80分
  7. 浅读 BGW协议：安全多方计算经典 15分钟 · 80分
  8. 浅读 部分同态加密算法 20分钟 · 80分
  9. 浅读 SEAL同态加密库入门与实践指南 19分钟 · 80分
数据治理与合规11 节
  1. 浅读 数据血缘追踪技术 21分钟 · 80分
  2. 浅读 OpenLineage数据血缘追踪标准 20分钟 · 80分
  3. 浅读 vLLM用虚拟内存分页思想管理KV Cache 17分钟 · 80分
  4. 浅读 TensorRT-LLM内核融合与动态批处理 10分钟 · 80分
  5. 浅读 技术元数据管理与应用 16分钟 · 80分
  6. 浅读 DataHub：元数据管理平台 16分钟 · 80分
  7. 浅读 GDPR：欧盟数据保护的铁律 23分钟 · 80分
  8. 浅读 数据主体权利保障机制 20分钟 · 80分
  9. 浅读 数据加密技术与密钥管理 25分钟 · 80分
  10. 理解 数据脱敏算法对比与选择 22分钟 · 120分
  11. 理解 数据安全态势感知平台 20分钟 · 120分
特征工程与特征平台8 节
  1. 理解 特征一致性保证机制设计 23分钟 · 120分
  2. 理解 特征一致性监控体系 19分钟 · 120分
  3. 理解 特征实体定义与建模 19分钟 · 120分
  4. 理解 特征存储扩展性设计原则 23分钟 · 120分
  5. 理解 特征预计算与物化策略 19分钟 · 120分
  6. 理解 特征服务容灾与高可用 24分钟 · 120分
  7. 理解 Tecton企业级特征平台 21分钟 · 120分
  8. 理解 特征平台成本分析与优化 19分钟 · 120分
AI数据管道工程7 节
  1. 理解 数据管道回填策略设计 20分钟 · 120分
  2. 理解 Modin并行DataFrame加速数据处理 12分钟 · 120分
  3. 理解 D3.js：数据可视化基础 15分钟 · 120分
  4. 理解 DataRobot：自动化机器学习平台 10分钟 · 120分
  5. 理解 Great Expectations：数据质量监控 19分钟 · 120分
  6. 理解 数据质量监控Dashboard搭建实战 17分钟 · 120分
  7. 理解 数据集版本回溯实战 22分钟 · 120分
数据治理与MLOps5 节
  1. 理解 Data Contract：数据契约管理 22分钟 · 120分
  2. 理解 Tecton托管特征平台与实时服务 21分钟 · 120分
  3. 理解 特征统计画像与分布分析 31分钟 · 120分
  4. 理解 A/B测试分层设计与随机化单元选择指南 18分钟 · 120分
  5. 理解 灰度发布与金丝雀实验 21分钟 · 120分
第3篇AI安全伦理与合规篇
对抗攻防10 节
  1. 理解 物理世界对抗攻击 23分钟 · 120分
  2. 理解 Square Attack无梯度对抗攻击方法 22分钟 · 120分
  3. 理解 MemGPT分层记忆架构与Letta实践 21分钟 · 120分
  4. 理解 Rebuff框架防御Prompt注入攻击 20分钟 · 120分
  5. 理解 TRADES对抗训练防御提示注入 28分钟 · 120分
  6. 理解 Free与FAST AT加速：对抗训练提效 21分钟 · 120分
  7. 理解 随机平滑认证防御 23分钟 · 120分
  8. 理解 对抗防御中的区间界限传播IBP方法 25分钟 · 120分
  9. 理解 对抗Patch攻击 24分钟 · 120分
  10. 理解 物理世界中的3D对抗物体攻击 22分钟 · 120分
模型安全7 节
  1. 理解 模型提取检测方法 25分钟 · 120分
  2. 理解 API保护策略：防止模型提取攻击 20分钟 · 120分
  3. 理解 数据投毒防御方法 20分钟 · 120分
  4. 理解 数据审计机制设计 24分钟 · 120分
  5. 理解 后门移除方法 23分钟 · 120分
  6. 理解 隐蔽后门攻击 17分钟 · 120分
  7. 理解 水印鲁棒性分析 22分钟 · 120分
隐私保护技术5 节
  1. 理解 差分隐私噪声调优实战指南 17分钟 · 120分
  2. 理解 联邦学习拜占庭容错机制 22分钟 · 120分
  3. 理解 梯度泄漏攻击与防御 22分钟 · 120分
  4. 理解 成员推断攻击模型 29分钟 · 120分
  5. 理解 置信度遮蔽防御技术 23分钟 · 120分
AI红队测试8 节
  1. 理解 AI红队威胁建模方法论 19分钟 · 120分
  2. 理解 AI漏洞发现与分类体系 22分钟 · 120分
  3. 理解 直接Prompt注入攻击 17分钟 · 120分
  4. 理解 间接注入攻击技术 22分钟 · 120分
  5. 理解 LLM越狱技术全览 20分钟 · 120分
  6. 理解 GCG自动化越狱算法 19分钟 · 120分
  7. 理解 遗传算法搜索红队攻击 24分钟 · 120分
  8. 理解 AI红队效果度量体系 23分钟 · 120分
AI法规与合规7 节
  1. 理解 EU AI Act风险分级体系 19分钟 · 120分
  2. 理解 EU AI Act合格评定程序 22分钟 · 120分
  3. 理解 生成式AI服务管理办法 25分钟 · 120分
  4. 理解 NIST Govern功能：AI治理框架 21分钟 · 120分
  5. 理解 NIST AI RMF中Map映射机制 28分钟 · 120分
  6. 理解 算法备案流程实操指南 21分钟 · 120分
  7. 理解 ISO 42001 AI管理体系标准 24分钟 · 120分
AI伦理与社会影响8 节
  1. 理解 算法公平性之个体公平 20分钟 · 120分
  2. 理解 去偏见预处理：数据层面的公平清洗 20分钟 · 120分
  3. 理解 AI伦理委员会：组建与运作指南 28分钟 · 120分
  4. 理解 AI治理工具盘点：用什么管好AI系统 24分钟 · 120分
  5. 理解 AI驱动的教育变革 22分钟 · 120分
  6. 理解 AI社会适应策略 17分钟 · 120分
  7. 理解 全球AI治理中美欧模式对比 22分钟 · 120分
  8. 理解 发展中国家AI治理：挑战与路径 22分钟 · 120分
提示词安全与越狱攻防5 节
  1. 理解 Payload分块与base64编码绕过检测 20分钟 · 120分
  2. 理解 输入侧关键词与正则过滤实战 19分钟 · 120分
  3. 理解 提示词安全加固与指令分层防御 19分钟 · 120分
  4. 理解 HarmBench与AdvBench安全评测基准 21分钟 · 120分
  5. 理解 敏感词词库与地域化合规管理 21分钟 · 120分
AI内容安全与审核4 节
  1. 理解 涉政涉黄涉暴内容检测体系 22分钟 · 120分
  2. 理解 涉黄涉暴涉政图像检测实战 28分钟 · 120分
  3. 理解 AIGC深度伪造与换脸内容审核技术 23分钟 · 120分
  4. 理解 内容审核策略配置体系 22分钟 · 120分
AI治理与法规合规5 节
  1. 理解 欧盟AI法案深度解读 22分钟 · 120分
  2. 理解 跨境AI合规挑战与应对 31分钟 · 120分
  3. 理解 AI偏见检测与缓解：让模型决策更公平 22分钟 · 120分
  4. 理解 AI对齐问题详解：怎么让AI不跑偏 21分钟 · 120分
  5. 理解 AI安全基准对比：Anthropic与OpenAI方案 23分钟 · 120分
AI可解释性与机制解释5 节
  1. 理解 Captum与ELI5可解释性工具实战 22分钟 · 120分
  2. 理解 电路分析：拆解神经网络计算 23分钟 · 120分
  3. 理解 Probing探针分析：解码模型中间层特征 24分钟 · 120分
  4. 理解 逆强化学习：从行为推断奖励 21分钟 · 120分
  5. 理解 AI对齐研究前沿：让AI听懂人类价值观 17分钟 · 120分
第4篇因果推理与可解释AI篇
可解释AI(XAI)1 节
  1. 理解 积分梯度：深度模型特征归因原理 21分钟 · 120分
第5篇AI安全与对抗攻防篇
对抗攻击与防御5 节
  1. 理解 对抗样本跨模型迁移攻击 20分钟 · 120分
  2. 理解 后门攻击与数据投毒攻防对比 19分钟 · 120分
  3. 理解 模型水印白盒与黑盒方案对比 25分钟 · 120分
  4. 理解 大模型越狱攻击：DAN与角色扮演注入原理 19分钟 · 120分
  5. 理解 大模型PII提取与训练数据还原攻击 21分钟 · 120分
隐私保护学习6 节
  1. 理解 联邦学习客户端漂移与非IID挑战 24分钟 · 120分
  2. 理解 差分隐私与同态加密融合联邦学习 26分钟 · 120分
  3. 理解 DP-SGD实现：梯度裁剪与噪声注入 18分钟 · 120分
  4. 理解 全同态加密GPU加速：Concrete与OpenFHE库实战 20分钟 · 120分
  5. 理解 GAN与扩散模型：隐私数据合成对比 20分钟 · 120分
  6. 理解 三大隐私法规如何影响AI训练 25分钟 · 120分
模型可解释性与可信AI5 节
  1. 理解 模型可视化解释：积分梯度与Grad-CAM实战 26分钟 · 120分
  2. 理解 思维链CoT解释能力的局限性 20分钟 · 120分
  3. 理解 因果图与do-calculus干预分析 23分钟 · 120分
  4. 理解 HELM与DecodingTrust可信评估框架 19分钟 · 120分
  5. 理解 红队披露报告：Anthropic与OpenAI案例 20分钟 · 120分
AI安全运维与红蓝对抗6 节
  1. 理解 MITRE ATLAS：AI系统的攻击战术知识库 23分钟 · 120分
  2. 理解 MLOps供应链安全：签名、SBOM与溯源验证 24分钟 · 120分
  3. 理解 Safetensors格式为何比pickle更安全 21分钟 · 120分
  4. 理解 C2PA标准：数字内容溯源与验证 17分钟 · 120分
  5. 理解 推理成本异常与算力劫持防御 18分钟 · 120分
  6. 理解 审计日志防篡改存储与合规 22分钟 · 120分
AI治理法规与合规5 节
  1. 理解 英国AI白皮书与创新友好型监管 23分钟 · 120分
  2. 理解 算法备案与影响评估落地对比 25分钟 · 120分
  3. 理解 大模型时代知情同意与数据权利 24分钟 · 120分
  4. 理解 组织AI文化素养与成熟度评估体系 21分钟 · 120分
  5. 理解 AI偏差事故管理：上报流程与根因分析 23分钟 · 120分
第6篇AI工程化篇
软件工程实践6 节
  1. 理解 AI系统设计模式：架构怎么选才合理 21分钟 · 120分
  2. 理解 CQRS命令查询分离：架构设计 17分钟 · 120分
  3. 理解 量化代码难懂程度：复杂度分析实战指南 28分钟 · 120分
  4. 理解 AI模型测试怎么做：从功能到性能全覆盖 23分钟 · 120分
  5. 理解 CI测试自动化：工程实践方法 21分钟 · 120分
  6. 理解 API文档：Swagger/OpenAPI工具链 22分钟 · 120分
DevOps与容器化8 节
  1. 理解 Docker镜像构建入门实战 24分钟 · 120分
  2. 理解 Dockerfile优化：镜像构建最佳实践 19分钟 · 120分
  3. 理解 Kubernetes Ingress与网络配置 19分钟 · 120分
  4. 理解 K8s GPU调度插件：容器算力编排 22分钟 · 120分
  5. 理解 金丝雀发布实战与流量管理 22分钟 · 120分
  6. 理解 CircleCI：持续集成平台 20分钟 · 120分
  7. 理解 Chef/Puppet：配置管理工具 23分钟 · 120分
  8. 理解 告警规则设计与智能路由 21分钟 · 120分
MLOps工程9 节
  1. 理解 模型血缘追踪体系构建 18分钟 · 120分
  2. 理解 从注册到退役的模型全生命周期治理 18分钟 · 120分
  3. 理解 实验复现：让科学实验真正可验证 25分钟 · 120分
  4. 理解 实验并行管理：高效调度大规模训练 24分钟 · 120分
  5. 理解 流量路由：精准控制模型请求分发 22分钟 · 120分
  6. 理解 DVC：数据版本控制工具 15分钟 · 120分
  7. 理解 数据快照管理的工程化实践 20分钟 · 120分
  8. 理解 统计显著性：让实验结论可靠可信 19分钟 · 120分
  9. 理解 贝叶斯A/B测试的工程化实现方案 21分钟 · 120分
AI系统架构5 节
  1. 理解 熔断降级限流：微服务的三重防护 25分钟 · 120分
  2. 理解 AI系统事件版本演进：兼容性设计策略 25分钟 · 120分
  3. 精通 本地缓存Caffeine：Java高性能缓存利器 23分钟 · 180分
  4. 精通 延迟队列：精准控制任务执行时机 23分钟 · 180分
  5. 精通 幂等性保证：让重复操作安全无害 19分钟 · 180分
模型监控与漂移检测3 节
  1. 精通 多变量漂移检测：捕捉复杂的分布变化 24分钟 · 180分
  2. 精通 监控Dashboard设计：数据可视化的艺术 23分钟 · 180分
  3. 精通 AI系统Runbook应急手册设计指南 24分钟 · 180分
AI系统可观测性3 节
  1. 精通 推理服务Token消耗追踪与监控 22分钟 · 180分
  2. 精通 结构化日志规范：让日志真正可搜索 23分钟 · 180分
  3. 精通 错误预算：在稳定与创新间找到平衡 26分钟 · 180分
API设计与AI服务3 节
  1. 精通 GraphQL for AI：灵活API查询方案 25分钟 · 180分
  2. 精通 SSE还是WebSocket？流式API通信方案选型指南 20分钟 · 180分
  3. 精通 速率限制算法：保护API的流量阀门 20分钟 · 180分
AI测试与质量保证6 节
  1. 精通 ML模型单元测试：输入输出边界怎么验 30分钟 · 180分
  2. 精通 概念漂移检测与时效性测试 23分钟 · 180分
  3. 精通 合成数据真实性验证与分布匹配实战 18分钟 · 180分
  4. 精通 数据Pipeline端到端回归测试实战 22分钟 · 180分
  5. 精通 模型A/B测试自动化与指标对比实战 25分钟 · 180分
  6. 精通 测试左移与开发阶段质量门禁实战 23分钟 · 180分
可观测性与监控5 节
  1. 精通 用户反馈Thumbs Up/Down收集与关联 23分钟 · 180分
  2. 精通 协变量漂移检测：PSI与KL散度度量方法 23分钟 · 180分
  3. 精通 时序特征Kolmogorov-Smirnov检验 25分钟 · 180分
  4. 精通 校准度ECE与Brier Score监控 24分钟 · 180分
  5. 精通 影子模式Shadow Mode新模型并行验证 18分钟 · 180分
AgentOps与LLM运维5 节
  1. 精通 Agent部署与版本控制：发布管理 24分钟 · 180分
  2. 精通 Agent SLA/SLO：服务质量定义 26分钟 · 180分
  3. 精通 OpenLLMetry让LLM应用可观测性标准化 13分钟 · 180分
  4. 精通 PostHog：开源产品分析与LLM可观测性 12分钟 · 180分
  5. 精通 DeepEval：LLM评估框架 13分钟 · 180分
第7篇计算机基础篇
软件工程方法论2 节
  1. 理解 技术债管理策略与偿还计划 20分钟 · 120分
  2. 理解 Saga模式处理分布式事务 23分钟 · 120分
第8篇AI应用开发篇
LLM应用工程1 节
  1. 理解 API网关：LLM应用架构组件 21分钟 · 120分
AIQZ.CC · AI安全工程师岗位说明书 · 返回星图选择岗位 · 2026