支撑岗

内容审核员

AI内容审核、安全合规、有害内容识别

参考薪资 8-15K
250知识点
86学时
29340积分
15工具
开始学习
CHAPTER 01

岗位说明

AI内容审核、安全合规、有害内容识别

本课程路径为【内容审核员】量身设计，聚焦AI支撑与保障方向。 岗位描述：AI内容审核、安全合规、有害内容识别。 学习路径分3个阶段递进：大模型应用（93个知识点，涵盖AIGC内容创作与创意） → 数据可信（107个知识点，涵盖AI安全伦理与合规） → 实践应用（50个知识点，涵盖多模态与音视频AI）。 参考薪资：8-15K。需要掌握15个工具。 建议按顺序学习，基础阶段（了解级）快速建立概念框架，核心阶段（理解级）深入掌握关键技术，实践阶段（熟练级）达到工程应用能力。

岗位分类
支撑岗
参考薪资
8-15K（月·一线城市参考）
学习规模
250 个知识点 · 约 86 学时 · 15 个工具
已上线课程
251 节可直接学习
CHAPTER 02

现状与前景

内容审核是AI安全的最后一道防线。在AIGC内容泛滥的时代，识别有害内容、保障平台安全是每个互联网公司的刚需。学习这条路径意味着你将掌握AI审核系统的设计与运营，是AI治理的关键角色。

CHAPTER 03

招聘数据

薪资区间

8-15K

数据来源于主流招聘平台 AI 岗位统计，一线城市 3-5 年经验参考。

岗位竞争力和成长

完成全部 250 节课程并通过面试题测试，可获得 29340 成长积分，覆盖该岗位 15 个核心工具与全部技能要求。

CHAPTER 04

能力雷达图

安全合规AIGC创作多模态音视频
安全合规 100
AIGC创作 84
多模态音视频 56
CHAPTER 05

工具树（15）

AI对话 · 2
ChatGPTClaude
LLM框架 · 1
LangChain
AI安全 · 4
Lakera GuardLLM GuardPrompt GuardGiskard
AI治理与合规 · 4
IBM AI Explainability 360FairlearnAporiaWhyLabs
其他 · 3
gpt_4oernie_4glm_4
大模型 · 1
360智脑
CHAPTER 06

项目树

社交平台有害内容审核

部署AI审核模型识别暴力、色情、仇恨言论等违规内容

大模型输出安全过滤

为LLM输出构建多层级安全防护与拦截策略

提示词注入攻击防护

检测并拦截越狱、提示词注入类攻击行为

多语言内容审核策略

覆盖中英日韩等语种的有害内容识别与策略调优

日常工作任务

  • 每日审核AI标记的疑似违规内容
  • 每日标注误判样本并反馈给模型团队
  • 每周更新审核策略与规则库
  • 每周分析审核指标与漏判率
  • 每日处理用户申诉与内容复审
  • 按项目编写安全审核案例库
  • 按季度对齐监管政策与法规要求

核心交付物

审核策略文档误判分析报告安全规则库审核日报

协作对象

算法工程师产品经理法务专员客服团队
CHAPTER 07

学习目录（可直达课程）

第1篇系统
系统1 节
  1. 了解 欢迎来到AIQZ.CC 6分钟
第2篇AIGC内容创作与创意篇
AI图像生成29 节
  1. 浅读 Stable Diffusion核心架构拆解：从latent空间到出图 19分钟 · 80分
  2. 浅读 CFG Scale：引导强度调节技术 17分钟 · 80分
  3. 浅读 DDIM与DPM++采样器对比 21分钟 · 80分
  4. 浅读 图生图img2img实战教程 17分钟 · 80分
  5. 浅读 奖励欺骗经典案例赛船游戏钻空子 18分钟 · 80分
  6. 浅读 安全强化学习：在探索中守住安全底线 16分钟 · 80分
  7. 浅读 QMIX与MAPPO多智能体协作算法 17分钟 · 80分
  8. 浅读 DreamBooth：个性化图像微调 7分钟 · 80分
  9. 浅读 美图WHEE平台创作指南 12分钟 · 80分
  10. 浅读 即梦AI绘画：字节Dreamina玩法 10分钟 · 80分
  11. 浅读 NightCafe：零门槛AI艺术创作平台体验 10分钟 · 80分
  12. 浅读 Tensor.art在线模型托管与运行平台 18分钟 · 80分
  13. 浅读 AI图片放大与超分辨率实战 16分钟 · 80分
  14. 浅读 Luma AI：从照片重建3D场景的NeRF方案 15分钟 · 80分
  15. 浅读 Rodin AI从文字到3D模型生成 13分钟 · 80分
  16. 浅读 Imagine3D文字转三维模型工具 17分钟 · 80分
  17. 浅读 LogoAI：用AI快速生成专业级品牌Logo 22分钟 · 80分
  18. 浅读 Face Swap AI：图像换脸技术 18分钟 · 80分
  19. 浅读 PhotoRoom AI抠图：一键去除背景实战 22分钟 · 80分
  20. 浅读 DALL-E 3：OpenAI图像生成 11分钟 · 80分
  21. 浅读 Midjourney提示词结构拆解指南 19分钟 · 80分
  22. 浅读 AI图片版权与授权须知 20分钟 · 80分
  23. 浅读 ControlNet Canny边缘控制 18分钟 · 80分
  24. 浅读 Canny与Lineart边缘控制对比 21分钟 · 80分
  25. 浅读 ControlNet参考图精确控制AI绘画 16分钟 · 80分
  26. 浅读 AI人脸修复技术：让模糊老照片重获清晰 17分钟 · 80分
  27. 浅读 ESRGAN与SwinIR超分辨率 18分钟 · 80分
  28. 浅读 AI图片处理流水线搭建 19分钟 · 80分
  29. 浅读 SDXL Refiner：两阶段生成提升图像细节质量 16分钟 · 80分
AI视频生成19 节
  1. 浅读 Pika Labs：AI文生视频创作入门 13分钟 · 80分
  2. 浅读 Pika Labs视频生成功能深度评测 20分钟 · 80分
  3. 浅读 Google Veo：高质感文生视频模型 18分钟 · 80分
  4. 浅读 剪映CapCut的AI视频剪辑功能 22分钟 · 80分
  5. 浅读 Adobe Podcast AI：音频增强工具 22分钟 · 80分
  6. 浅读 Mochi 1文生视频模型体验评测 15分钟 · 80分
  7. 浅读 DomoAI：视频风格转换 11分钟 · 80分
  8. 浅读 字节Seedance视频生成模型 19分钟 · 80分
  9. 理解 腾讯混元视频生成 22分钟 · 120分
  10. 理解 T2V模型架构与质量评估 22分钟 · 120分
  11. 理解 豆包Seedance文生视频能力全面解读 23分钟 · 120分
  12. 理解 AI视频对口型Lipsync入门 18分钟 · 120分
  13. 理解 Lipsync对口型进阶技巧 19分钟 · 120分
  14. 理解 AI视频换脸入门 29分钟 · 120分
  15. 理解 AI视频帧插值入门 17分钟 · 120分
  16. 理解 视频修复与去闪烁技术 21分钟 · 120分
  17. 理解 DiT视频模型：Sora核心架构 24分钟 · 120分
  18. 理解 Sora视频生成中的世界模拟 21分钟 · 120分
  19. 理解 长视频生成连贯性技术 26分钟 · 120分
AI音频与音乐17 节
  1. 理解 Suno与Udio两大AI音乐平台对比 23分钟 · 120分
  2. 理解 AI编曲入门指南 23分钟 · 120分
  3. 理解 AI音乐风格控制与混音 19分钟 · 120分
  4. 理解 ElevenLabs：AI语音克隆技术 20分钟 · 120分
  5. 理解 AI声音克隆：用少量样本复刻任意人声 18分钟 · 120分
  6. 理解 Lovo AI：逼真语音合成与多语言配音利器 20分钟 · 120分
  7. 理解 AIVA AI作曲工具原理与创作实战 25分钟 · 120分
  8. 理解 AI音轨分离：智能音频处理技术 22分钟 · 120分
  9. 理解 AI拟音入门指南 29分钟 · 120分
  10. 理解 AI环境音效生成技术 20分钟 · 120分
  11. 理解 AI音频合成与层叠技术 18分钟 · 120分
  12. 理解 跨语言声音克隆入门 20分钟 · 120分
  13. 理解 少样本声音克隆技术 20分钟 · 120分
  14. 理解 声音版权与防伪技术 20分钟 · 120分
  15. 理解 AI混音：小白也能调出专业音轨 19分钟 · 120分
  16. 理解 一首歌拆成多轨：AI音轨分离术 19分钟 · 120分
  17. 理解 音频修复去噪：抢救破损老录音 21分钟 · 120分
AI创意设计方法论15 节
  1. 理解 AI迭代优化：让作品越改越精 30分钟 · 120分
  2. 理解 AI概念草图：创意秒变线稿图 19分钟 · 120分
  3. 理解 AIGC创意工作流自动化搭建实战指南 21分钟 · 120分
  4. 理解 Prompt构图控制：让画面会布局 20分钟 · 120分
  5. 理解 搭建系统化风格关键词体系 19分钟 · 120分
  6. 理解 Prompt里的色彩理论实战课 25分钟 · 120分
  7. 理解 人机协作创作中的协作边界划定方法 20分钟 · 120分
  8. 理解 放权与回收控制：精细化人机协作 20分钟 · 120分
  9. 理解 AIGC作品创意版权归属的法律 24分钟 · 120分
  10. 理解 AI辅助设计系统搭建指南 22分钟 · 120分
  11. 理解 快速原型与MVP：低成本验证 18分钟 · 120分
  12. 理解 AIGC设计中的A/B测试与数据驱动方法 21分钟 · 120分
  13. 理解 AI艺术市场：数字艺术交易生态 18分钟 · 120分
  14. 理解 数字艺术策展完整流程拆解 20分钟 · 120分
  15. 理解 AI艺术伦理与争议：创作边界的思辨 30分钟 · 120分
数字人与虚拟主播13 节
  1. 理解 照片驱动：一张照变会说话的人 21分钟 · 120分
  2. 理解 虚幻MetaHuman高保真数字人制作指南 22分钟 · 120分
  3. 理解 数字人外观定制：捏脸级精细控制 18分钟 · 120分
  4. 理解 百度数字人平台实战指南 11分钟 · 120分
  5. 理解 AI驱动动作：数字人动画技术 32分钟 · 120分
  6. 理解 MoCap动作捕捉技术方案与对比分析 26分钟 · 120分
  7. 理解 全身动画与IK技术：让数字人动作自然不穿模 22分钟 · 120分
  8. 理解 数字人实时驱动技术入门 18分钟 · 120分
  9. 理解 Wav2Lip与SadTalker唇形同步方案 24分钟 · 120分
  10. 理解 Viseme音素映射原理与实战 15分钟 · 120分
  11. 理解 数字人直播系统搭建指南 18分钟 · 120分
  12. 理解 对话驱动数字人系统实战 20分钟 · 120分
  13. 理解 虚拟场景搭建全流程实战 18分钟 · 120分
第3篇AI安全伦理与合规篇
对抗攻防17 节
  1. 浅读 PGD投影梯度下降对抗攻击方法 15分钟 · 80分
  2. 浅读 FGSM快速梯度：对抗样本生成 18分钟 · 80分
  3. 浅读 通用对抗扰动UAP攻击原理 17分钟 · 80分
  4. 浅读 ReAct框架推理与行动交替的智能循环 17分钟 · 80分
  5. 浅读 MemGPT分层记忆架构与Letta实践 19分钟 · 80分
  6. 浅读 CodeAct：Agent生成可执行代码 17分钟 · 80分
  7. 浅读 LLM Guard：大模型输入输出安全过滤方案 16分钟 · 80分
  8. 浅读 标准对抗训练方法 26分钟 · 80分
  9. 浅读 对抗鲁棒性评估方法 20分钟 · 80分
  10. 浅读 预训练对抗微调方案 20分钟 · 80分
  11. 浅读 多扰动对抗训练方法 22分钟 · 80分
  12. 浅读 Lipschitz常数与对抗鲁棒性分析 23分钟 · 80分
  13. 浅读 对抗防御中的区间界限传播IBP方法 23分钟 · 80分
  14. 浅读 认证半径计算方法 19分钟 · 80分
  15. 浅读 对抗T恤物理攻击 21分钟 · 80分
  16. 浅读 对抗Patch贴片设计 24分钟 · 80分
  17. 浅读 打印拍照鲁棒性分析 21分钟 · 80分
模型安全11 节
  1. 浅读 模型提取检测方法 23分钟 · 80分
  2. 浅读 查询预算优化策略 24分钟 · 80分
  3. 浅读 AI模型提取攻击主动防御 15分钟 · 80分
  4. 浅读 梯度投毒攻击 21分钟 · 80分
  5. 浅读 Clean-label攻击：隐蔽数据投毒 24分钟 · 80分
  6. 浅读 投毒检测算法 19分钟 · 80分
  7. 浅读 后门触发器设计 21分钟 · 80分
  8. 浅读 BadNet后门攻击：原理与防御方案 19分钟 · 80分
  9. 浅读 隐蔽后门攻击 15分钟 · 80分
  10. 浅读 模型指纹技术 20分钟 · 80分
  11. 浅读 模型版权保护机制 21分钟 · 80分
隐私保护技术9 节
  1. 浅读 Opacus：PyTorch差分隐私训练框架 17分钟 · 80分
  2. 浅读 DP精度损失分析：理论与实践 16分钟 · 80分
  3. 浅读 联邦学习安全聚合 16分钟 · 80分
  4. 理解 成员推断攻击原理与防范 22分钟 · 120分
  5. 理解 拜占庭容错原理与应用 21分钟 · 120分
  6. 理解 联邦学习恶意客户端检测 22分钟 · 120分
  7. 理解 成员推断攻击模型 29分钟 · 120分
  8. 理解 DP防御MIA：成员推断攻击防护 28分钟 · 120分
  9. 理解 成员推断攻击与隐私法规的合规挑战 19分钟 · 120分
AI红队测试12 节
  1. 理解 AI安全影响评估方法 25分钟 · 120分
  2. 理解 CVSS影响评估在AI中的应用 21分钟 · 120分
  3. 理解 AI红队成熟度评估模型 22分钟 · 120分
  4. 理解 多轮Prompt注入攻击技术 23分钟 · 120分
  5. 理解 间接注入攻击技术 22分钟 · 120分
  6. 理解 Prompt注入检测模型 23分钟 · 120分
  7. 理解 LLM越狱编码绕过技术 20分钟 · 120分
  8. 理解 Base64编码越狱技术 20分钟 · 120分
  9. 理解 LLM越狱评估基准 21分钟 · 120分
  10. 理解 红队Agent自动化攻防 25分钟 · 120分
  11. 理解 AI自动化攻击生成技术 22分钟 · 120分
  12. 理解 AI安全影响评估方法 25分钟 · 120分
AI法规与合规12 节
  1. 理解 EU AI Act禁止类AI应用 26分钟 · 120分
  2. 理解 EU AI Act风险分级体系 19分钟 · 120分
  3. 理解 EU AI Act合规义务时间表 21分钟 · 120分
  4. 理解 中国生成式AI管理办法解读 21分钟 · 120分
  5. 理解 数据安全法合规要点 22分钟 · 120分
  6. 理解 算法备案制度 22分钟 · 120分
  7. 理解 NIST Govern功能：AI治理框架 21分钟 · 120分
  8. 理解 NIST AI RMF组织治理 20分钟 · 120分
  9. 理解 NIST AI风险管理之Manage职能 23分钟 · 120分
  10. 理解 NIST AI RMF持续监控改进 20分钟 · 120分
  11. 理解 算法影响评估AIA 22分钟 · 120分
  12. 理解 AI审计工具链全览 20分钟 · 120分
AI伦理与社会影响11 节
  1. 理解 AI去偏见方法全览：算法公平性实战 23分钟 · 120分
  2. 理解 去偏见预处理：数据层面的公平清洗 20分钟 · 120分
  3. 理解 算法公平性的多维度冲突：鱼与熊掌不可兼得 29分钟 · 120分
  4. 理解 AI治理审计机制设计 18分钟 · 120分
  5. 理解 AI治理成熟度模型：你的企业在哪个段位 13分钟 · 120分
  6. 理解 AI时代的技能重塑 20分钟 · 120分
  7. 理解 AI自动化替代效应分析 22分钟 · 120分
  8. 理解 AI时代全民基本收入UBI之争 19分钟 · 120分
  9. 理解 AI军控博弈：国际社会如何约束AI军事化 26分钟 · 120分
  10. 理解 全球AI治理中美欧模式对比 22分钟 · 120分
  11. 理解 开源AI治理实践 17分钟 · 120分
提示词安全与越狱攻防9 节
  1. 理解 直接Prompt注入指令覆盖 21分钟 · 120分
  2. 理解 多语言翻译如何绕过AI内容审查 31分钟 · 120分
  3. 理解 RAG系统文档污染攻击与防护 20分钟 · 120分
  4. 理解 输入侧关键词与正则过滤实战 19分钟 · 120分
  5. 理解 PPL Guard困惑度越狱检测轻量方案 23分钟 · 120分
  6. 理解 Llama Guard安全分类器与越狱防御 22分钟 · 120分
  7. 理解 AI红队测试实战流程指南 24分钟 · 120分
  8. 理解 越狱攻防核心指标ASR与FPR 17分钟 · 120分
  9. 理解 OWASP LLM Top 10：大模型应用安全风险清单 21分钟 · 120分
AI内容安全与审核7 节
  1. 理解 AC自动机与双数组Trie敏感词检测 22分钟 · 120分
  2. 理解 变体文本检测：谐音拼音拆字表情识别 24分钟 · 120分
  3. 理解 涉黄涉暴涉政图像检测实战 28分钟 · 120分
  4. 理解 对抗样本防御与审核绕过防护 25分钟 · 120分
  5. 理解 AI生成内容检测：怎么识别AI做的假 21分钟 · 120分
  6. 理解 AI内容审核平台架构设计实战 22分钟 · 120分
  7. 理解 审核质量评估三维度指标 22分钟 · 120分
AI治理与法规合规8 节
  1. 理解 生成式AI服务管理办法解读 24分钟 · 120分
  2. 理解 AI法案实施时间表：2026年8月关键节点 20分钟 · 120分
  3. 理解 AI产品合规检查清单与法规应对指南 18分钟 · 120分
  4. 理解 AI偏见检测与缓解：让模型决策更公平 22分钟 · 120分
  5. 理解 AI治理中的利益相关者参与机制设计 18分钟 · 120分
  6. 理解 RLHF人类反馈强化学习的安全与对齐意义 23分钟 · 120分
  7. 理解 AI红队测试主动发现模型安全漏洞 23分钟 · 120分
  8. 理解 AI安全社区与生态：谁在推动安全研究 19分钟 · 120分
AI可解释性与机制解释8 节
  1. 理解 模型蒸馏驱动的可解释性 33分钟 · 120分
  2. 理解 Transformer Circuits：机制可解释性研究 25分钟 · 120分
  3. 理解 Anthropic机制解释：AI安全研究 17分钟 · 120分
  4. 理解 机制解释性赋能AI安全 21分钟 · 120分
  5. 理解 Activation Steering：激活引导控制模型 18分钟 · 120分
  6. 理解 偏好学习详解：让AI理解并遵循人类价值取向 17分钟 · 120分
  7. 理解 AI对齐数据集构建方法论 20分钟 · 120分
  8. 理解 AI对齐研究前沿：让AI听懂人类价值观 17分钟 · 120分
第4篇数据科学与数据工程篇
隐私计算1 节
  1. 浅读 DP-SGD：差分隐私随机梯度下降 19分钟 · 80分
合成数据生成1 节
  1. 理解 表格合成数据好不好？评估指标全盘点 19分钟 · 120分
第5篇因果推理与可解释AI篇
可解释AI(XAI)1 节
  1. 理解 积分梯度：深度模型特征归因原理 21分钟 · 120分
第6篇多模态与音视频AI篇
音频AI12 节
  1. 理解 Whisper架构拆解：Transformer做多任务ASR 10分钟 · 120分
  2. 理解 Conformer：卷积+Transformer声学模型 21分钟 · 120分
  3. 理解 ASR评估：WER/CER与实时率指标 20分钟 · 120分
  4. 理解 语音合成老路：拼接与参数TTS 24分钟 · 120分
  5. 理解 VITS端到端语音合成：变分推断让TTS更自然 17分钟 · 120分
  6. 理解 TTS风格控制：情感与语速 18分钟 · 120分
  7. 理解 符号音乐生成MIDI与ABC 23分钟 · 120分
  8. 理解 Suno音乐生成架构与流程拆解 22分钟 · 120分
  9. 理解 音乐风格迁移与Remix技术 22分钟 · 120分
  10. 理解 环境声音分类ESC-50实战 28分钟 · 120分
  11. 理解 音频Captioning自动描述生成 20分钟 · 120分
  12. 理解 音频质量评估PESQ与STOI 21分钟 · 120分
视频AI13 节
  1. 理解 Two-Stream双流网络视频动作识别 20分钟 · 120分
  2. 理解 时序卷积TCN与膨胀卷积 1分钟 · 120分
  3. 理解 视频文本预训练Clip4Clip 26分钟 · 120分
  4. 精通 工业视频分析安防体育制造 25分钟 · 180分
  5. 精通 视频扩散模型基础原理 25分钟 · 180分
  6. 精通 可灵Kling：国产视频生成模型实测 18分钟 · 180分
  7. 精通 视频生成评估FVD与IS 22分钟 · 180分
  8. 精通 视频风格迁移AdaIN方法 23分钟 · 180分
  9. 精通 视频深度估计与3D视觉效果 34分钟 · 180分
  10. 精通 智能字幕生成与多语言翻译 19分钟 · 180分
  11. 精通 Wav2Lip等算法如何驱动2D数字人嘴型同步 18分钟 · 180分
  12. 精通 身体姿态SMPL骨架驱动 18分钟 · 180分
  13. 精通 数字人直播平台架构设计 22分钟 · 180分
多模态融合13 节
  1. 精通 对比学习InfoNCE温度系数 19分钟 · 180分
  2. 精通 CLIP微调与Prompt Learning实践 17分钟 · 180分
  3. 精通 跨模态检索相似度计算方法 25分钟 · 180分
  4. 精通 视觉语言预训练的前沿进展 19分钟 · 180分
  5. 精通 LLaVA视觉指令微调的训练实战 22分钟 · 180分
  6. 精通 Qwen-VL领衔国产多模态大模型盘点 23分钟 · 180分
  7. 精通 多模态Agent工具使用能力 26分钟 · 180分
  8. 精通 室内VLN导航R2R数据集 19分钟 · 180分
  9. 精通 视觉语言导航：记忆回溯 29分钟 · 180分
  10. 精通 VLN导航评测：SPL/NE/SDTW指标 24分钟 · 180分
  11. 精通 多模态感知输入处理机制 20分钟 · 180分
  12. 精通 视觉Agent Web操作界面理解 28分钟 · 180分
  13. 精通 多模态Agent安全可控性 23分钟 · 180分
实时交互12 节
  1. 精通 语音对话系统Pipeline架构 24分钟 · 180分
  2. 精通 NLU自然语言理解意图识别 26分钟 · 180分
  3. 精通 噪声鲁棒与远场语音处理 26分钟 · 180分
  4. 精通 机器翻译发展演进全历程 25分钟 · 180分
  5. 精通 同声传译中的wait-k策略 26分钟 · 180分
  6. 精通 ASR错误对翻译质量影响 22分钟 · 180分
  7. 精通 情感计算的维度模型与定义框架 25分钟 · 180分
  8. 精通 多模态情感融合策略 22分钟 · 180分
  9. 精通 情感大模型与上下文感知技术 22分钟 · 180分
  10. 精通 什么是具身智能？定义范式与发展脉络 22分钟 · 180分
  11. 精通 模仿学习与行为克隆方法 26分钟 · 180分
  12. 精通 触觉反馈与力控交互技术 26分钟 · 180分
AIQZ.CC · 内容审核员岗位说明书 · 返回星图选择岗位 · 2026