老陈在小区门口开了家面馆,开业第一天汤头正、面条筋道,客人排起长队。可三个月后,老客们开始嘀咕“汤变咸了”“面不弹了”。是厨师手艺退步了吗?不是——是小区搬来了一群新邻居,口味偏好悄然变了。面馆若想长红,光靠开业的激情远远不够,得每天观察客流、每周调整汤底、每月更新菜单。AI 模型也是一样。无论训练时多么优秀,一旦上线,它就像一家刚开张的面馆,面对的顾客(数据)永远在变。持续模型迭代,就是把“模型上线=交付完成”的一次性思维,转变成“模型上线=经营开始”的长期主义。本文会用面馆经营这条线,带你看懂模型监控、漂移检测、迭代策略和成本控制,让 AI 系统像一家老字号面馆一样,越经营越红火。

岗位关联

掌握持续模型迭代,是 AI 运维工程师和项目经理的必修课。它让你的模型不只是“跑起来”,而是“活得久”——在真实商业环境中持续稳定地创造价值,这正是 AI 交付从“做完”走向“做好”的分水岭。

目录
  1. 可视化演示
  2. 迭代概念理解
  3. 监控体系搭建
  4. 数据漂移检测
  5. 迭代触发判断
  6. 迭代策略实施
  7. 成本优化控制
  8. 版本回滚管理
  9. AI 应用场景
  10. Python 演示
  11. 常见误区
  12. 面试题

可视化演示

展示AI系统持续模型迭代的三大环节:模型监控模式演示线上指标漂移检测与告警;迭代策略模式展示数据收集到评估到重训练到部署的闭环;成本控制模式展示推理成本与准确率的权衡优化。

本节配有交互动效(进入视口后自动加载,约 3KB)。

模型监控 线上指标监控与漂移检测 drift 实时跟踪模型表现并触发告警

迭代概念理解

老陈在小区门口开了家面馆,开业第一天汤头正、客流旺,可三个月后老客们开始抱怨“汤变咸了”“面不弹了”。是厨师手艺退步了吗?不是——是小区搬来新邻居,大家的口味悄悄变了。面馆若想长红,光靠开业的激情远远不够,必须每天观察、每周调汤、每月换菜单。AI 模型也是一样,上线那一刻不是终点,而是一场持续经营的开始。

机器学习模型基于历史数据训练,而真实世界的数据分布永远在流动。用户习惯在变、市场环境在变、季节周期在变,模型效果自然会随之下滑。持续模型迭代,就是建立一套“监控→分析→决策→更新→验证→再监控”的闭环机制,让模型像老陈的面馆一样,始终贴合顾客当前的胃口。

这个闭环可以抽象为一个更新公式:新模型 = 旧模型 + 新数据 + 监督信号的函数。每一次迭代都不是推倒重来,而是在原有基础上持续进化。

老陈每月底和厨师开一次“食谱复盘会”,把营业数据摆上桌,决定下个月往哪个方向调整。模型团队同样需要固定的迭代复盘节奏——把监控数据当作营业台账,用数据说话,而不是凭感觉拍脑袋。

Mt+1=U(Mt,  Dnew,  St)\displaystyle M_{t+1} = \mathcal{U}\big(M_t,\; D_{\text{new}},\; S_t\big)
这个公式说明:下一版模型由三样东西共同决定——当前线上模型、最新采集的数据、以及监控产生的信号。
  1. 旧模型当前正在线上服务的模型版本,相当于面馆正在使用的老配方汤底。
    MtM_t
  2. 新数据线上新产生的真实数据,相当于每天客人对咸淡、软硬的真实反馈。
    DnewD_{\text{new}}
  3. 监控信号准确率、漂移指数、告警事件等评估信息,相当于老板每天的营业复盘表。
    StS_t
  4. 更新算子对模型执行重训、微调或回滚的动作,就是根据复盘结果调整汤底的工序。
    U(Mt,  Dnew,  St)\mathcal{U}\big(M_t,\; D_{\text{new}},\; S_t\big)

监控体系搭建

老陈每天打烊后必做三件事:数一遍营业额、翻一遍差评本、瞄一眼剩菜桶。营业额掉了他知道是客流问题,差评多了他知道是口味问题,剩菜多了他知道是菜单和顾客需求不匹配。没有这些台账,他根本不知道面馆哪里出了问题。

模型监控就是 AI 系统的“营业台账”。它分为三个层面:业务指标——像转化率、点击率、客单价,对应面馆的营业额和翻台率;数据指标——像特征分布、缺失率、取值异常,对应食材的新鲜度和用量;系统指标——像推理延迟、错误率、吞吐量,对应出餐速度和厨房效率。

监控的核心是定义 SLO(服务目标)并测量 SLI(实际表现)。把错误率和延迟钳进一个综合健康度公式,一眼就能看出服务是否达标:

面馆的食安登记表每天都要填,模型监控也要形成固定仪表盘。监控不是做给领导看的汇报材料,而是迭代决策的耳目——没有监控,后面的漂移检测、触发判断全是空中楼阁。

SLI=(1−EerrEall)×(1−Lp99Lgoal)×100%\displaystyle \text{SLI} = \Big(1 - \frac{E_{\text{err}}}{E_{\text{all}}}\Big) \times \Big(1 - \frac{L_{p99}}{L_{\text{goal}}}\Big) \times 100\%
把“出错的比例”和“最慢请求的延迟”都转换成“健康部分”,乘积越接近 100%,服务越稳。
  1. 错误请求占比出错的请求占全部请求的比例,相当于当天做糊的面占卖出总碗数的比例。
    EerrEall\frac{E_{\text{err}}}{E_{\text{all}}}
  2. 成功部分用 1 减去错误占比,得到“没出问题”的部分,相当于面馆里没有收到差评的碗数。
    (1−EerrEall)\Big(1 - \frac{E_{\text{err}}}{E_{\text{all}}}\Big)
  3. 最慢延迟比p99 延迟与目标延迟的比值,相当于高峰期让客人等得最久的那几桌的等待时间。
    Lp99Lgoal\frac{L_{p99}}{L_{\text{goal}}}
  4. 综合健康度把两个维度的健康比例相乘,得到服务整体状态,好比同时考核“味道分”和“速度分”。
    (1−EerrEall)×(1−Lp99Lgoal)×100%\Big(1 - \frac{E_{\text{err}}}{E_{\text{all}}}\Big) \times \Big(1 - \frac{L_{p99}}{L_{\text{goal}}}\Big) \times 100\%

数据漂移检测

这一天,老陈发现三条差评都说“面不咸了”。他尝了一口,盐量明明没变。仔细一问才知道,小区新搬来的邻居口味偏清淡——不是汤变淡了,而是客人的舌头变了。在 AI 的世界里,这叫“数据漂移”:线上数据的分布悄悄偏离了训练时的分布。

数据漂移分两种:特征漂移是输入特征本身的分布变了,相当于顾客群体变了;概念漂移是“输入到输出”的关系变了,相当于顾客的味觉标准变了——过去觉得刚好,现在觉得太咸。两者的应对方式不同,所以必须先分清是哪一种。

量化漂移程度最常用的工具是 PSI(Population Stability Index,群体稳定性指数),它对比“线上实际分布”与“训练基线分布”在每个分段上的差异:

PSI 就像老陈每天打烊前的那一勺“尝汤”——不靠猜,用舌头把关。有了它,数据漂移不再是模糊的感觉,而是一个可以设定阈值、触发告警的明确数字。

PSI=∑i=1n(PiA−PiE)×ln⁡PiAPiE\displaystyle \text{PSI} = \sum_{i=1}^{n}\big(P_i^{A} - P_i^{E}\big) \times \ln\frac{P_i^{A}}{P_i^{E}}
PSI 越大,说明线上数据偏离训练基线越远。经验上 PSI < 0.1 表示分布稳定,0.1~0.25 需要关注,超过 0.25 就应干预。
  1. 实际占比线上数据中第 i 个区间的样本占比,相当于今天点辣口味的客人的比例。
    PiAP_i^{A}
  2. 基线占比训练数据中第 i 个区间的样本占比,相当于开业时统计的口味偏好比例。
    PiEP_i^{E}
  3. 差值实际与基线的占比差,乘以对数比,放大了小幅偏差带来的影响。
    (PiA−PiE)×ln⁡PiAPiE\big(P_i^{A} - P_i^{E}\big) \times \ln\frac{P_i^{A}}{P_i^{E}}
  4. 求和把所有区间的偏移量累加起来,得到一个整体漂移分数,就像把所有菜品的辣度偏差汇总成一张雷达图。
    ∑i=1n(PiA−PiE)×ln⁡PiAPiE\sum_{i=1}^{n}\big(P_i^{A} - P_i^{E}\big) \times \ln\frac{P_i^{A}}{P_i^{E}}

迭代触发判断

老陈每天都在反思同一个问题:什么时候该调整配方?他的答案是三句话——每天尝一口(日常巡检),差评超三条(异常告警),客流连续一周下滑(业务信号)。三条里只要中一条,就该行动了。模型迭代的触发逻辑也完全一样。

先设定阈值:PSI 超过 0.25 是“差评超三条”,SLO 低于约定值是“客流下滑”,模型团队设定的告警是“厨房起火警报”。但这些信号往往不是单个出现,而是组合出现的——PSI 上升的同时转化率可能也在跌。所以触发判断要用“或”逻辑把多条证据链串起来:

触发规则要像老陈的“三看”口诀一样清晰透明,团队才知道什么情况下该动、什么情况下该等。告警不是越多越好——满屏红点会让团队麻木,真正该做的,是把阈值调准,让每一次告警都值得被认真对待。

Decision=I(PSI>θ)  ∨  I(KPI<τ)  ∨  Alert\displaystyle \text{Decision} = \mathbb{I}\big(\text{PSI} > \theta\big) \;\lor\; \mathbb{I}\big(\text{KPI} < \tau\big) \;\lor\; \text{Alert}
只要“漂移超标”或“业务指标跌破底线”或“收到告警”任一成立,就触发一次迭代动作,避免单一信号造成误判。
  1. PSI 超标判断当漂移指数超过阈值 θ 时输出 1,相当于差评数超过三条。
    I(PSI>θ)\mathbb{I}\big(\text{PSI} > \theta\big)
  2. KPI 跌破判断当业务指标低于底线 τ 时输出 1,相当于营业额连续一周下滑。
    I(KPI<τ)\mathbb{I}\big(\text{KPI} < \tau\big)
  3. 告警信号来自监控体系的主动告警,相当于厨师喊“灶台着火了”。
    Alert\text{Alert}
  4. 或运算组合任一条件满足就触发迭代,防止漏报,但也要靠阈值设置避免狼来了。
    Decision=I(PSI>θ)  ∨  I(KPI<τ)  ∨  Alert\text{Decision} = \mathbb{I}\big(\text{PSI} > \theta\big) \;\lor\; \mathbb{I}\big(\text{KPI} < \tau\big) \;\lor\; \text{Alert}

迭代策略实施

老陈想上一道新菜——藤椒拌面。他没有直接换菜单,而是先做了三件事:限量试吃三天、请老客投票、满意率超过七成才考虑全量上线。AI 迭代也得这样小步快走,而不是一夜之间推翻重来。

迭代策略有几种常见路径:数据更新与全量重训(用最新数据重新训练整个模型)、模型微调(在旧模型基础上用新数据做小步调整)。微调的代价小,但有“灾难性遗忘”的风险——模型学会了新知识,却忘了老知识。所以损失函数要把“学新”和“不忘旧”一起考虑:

新模型训练出来后,先跑 A/B 实验小流量验证,再走灰度发布逐步放量——先给 1% 的用户试,没问题再扩到 10%、50%。就像老陈的试吃,先让几个熟客尝,点头了才敢写上正式菜单。

min⁡θ  Lnew(Dnew;θ)+λ⋅Lold(Dold;θ)\displaystyle \min_{\theta}\; \mathcal{L}_{\text{new}}\big(D_{\text{new}};\theta\big) + \lambda \cdot \mathcal{L}_{\text{old}}\big(D_{\text{old}};\theta\big)
新数据上的损失要小,旧数据上的损失也不能大。λ 就像跷跷板上的调节钮,控制“学新”和“守旧”的平衡。
  1. 最小化目标寻找一组参数,让右侧整体损失最小,相当于找出最平衡的配方。
    min⁡θ\min_{\theta}
  2. 新数据损失模型在新数据上的表现要足够好,对应新菜要能征服新客人的舌头。
    Lnew(Dnew;θ)\mathcal{L}_{\text{new}}\big(D_{\text{new}};\theta\big)
  3. 旧数据损失模型在旧数据上不能大幅退步,对应老客人不能觉得“面不是那个味了”。
    Lold(Dold;θ)\mathcal{L}_{\text{old}}\big(D_{\text{old}};\theta\big)
  4. 权衡系数λ 控制新旧知识的权重,λ 大则更保守,λ 小则更激进。
    λ⋅Lold(Dold;θ)\lambda \cdot \mathcal{L}_{\text{old}}\big(D_{\text{old}};\theta\big)

成本优化控制

老陈算过一笔账:一碗面卖 15 块,面粉、牛肉、煤气、房租人工加起来成本 10 块,利润只有 5 块。如果为了口碑无限加料,一碗面成本涨到 14 块,卖得越多亏得越多。AI 推理成本也是同理——GPU 算力、带宽、存储,每一分钱都要精打细算。

推理成本的构成主要有三块:算力(GPU 按小时计费)、带宽(数据传输)、存储(模型和特征数据)。优化的常规手段有三板斧:缓存高频请求——把常被问到的结果存起来,像老陈把高汤提前熬好备着;模型蒸馏与量化——用更小的模型逼近大模型的效果,像用浓缩汤料替代耗时熬制;资源弹性伸缩——高峰期扩容、低谷期缩容,像面馆忙时加雇钟点工、闲时只留核心班底。

单次推理的性价比可以用一个公式衡量——总成本除以“推理次数 × 质量”:

面馆的每一碗面都要算利润,AI 的每一次推理也要算成本。成本优化不是抠门,而是让有限的资源产生最大的业务价值——在预算不变的情况下,能服务更多用户,跑得更久。

Cunit=CtotalNinference×Quality\displaystyle C_{\text{unit}} = \frac{C_{\text{total}}}{N_{\text{inference}} \times \text{Quality}}
分母越大,单位成本越低。要么多做几次推理,要么提升每次推理的质量,都能摊薄成本。
  1. 总成本GPU、带宽、存储等费用的总和,相当于面馆一个月的所有开销。
    CtotalC_{\text{total}}
  2. 推理次数服务处理的请求总数,相当于面馆卖出的总碗数。
    NinferenceN_{\text{inference}}
  3. 质量因子模型的服务质量,可以用准确率或用户满意度代表,相当于面的好吃程度。
    Quality\text{Quality}
  4. 二者相乘分母越大,单位成本越低——多卖面、卖好面,成本自然摊薄。
    Ninference×QualityN_{\text{inference}} \times \text{Quality}

版本回滚管理

新菜单上线第二天,老陈就发现不对——藤椒拌面的差评率飙升,还有两个客人吃出了肠胃不适。他二话不说,撕掉新菜单,从冰箱里拿出备份的老配方,半小时内恢复原样。老陈早就立了规矩:任何新配方都必须留一份“老方备份”在冰箱里。

模型版本管理也一样。每次发布新模型前,旧版本必须完整留痕——模型文件、配置、特征版本、训练数据快照,全部记录在案。回滚触发条件要明确:新版本错误率显著高于旧版本、业务 KPI 明显下滑、或出现严重线上事故,任一条件满足就立刻回滚,不犹豫、不“再观察一下”。

回滚本质上是一个风险控制的判断:

有备份的店才敢大胆试新菜;有回滚能力的团队才敢快速迭代。回滚不是失败,而是应急预案的一部分——它让团队在创新时没有后顾之忧。持续优化的闭环,靠的就是这套“进可攻、退可守”的底气。

Rollback=I(Errnew−Errold>δ)\displaystyle \text{Rollback} = \mathbb{I}\big(\text{Err}_{\text{new}} - \text{Err}_{\text{old}} > \delta\big)
新版本的错误率比旧版本高出一截(超过容忍度 δ)时,回滚信号输出 1,立刻切回旧版本。
  1. 新版本错误率新模型在线上实际产生的错误比例,相当于新菜单的差评率。
    Errnew\text{Err}_{\text{new}}
  2. 旧版本错误率旧模型同期的错误比例,相当于老菜单的差评率基准。
    Errold\text{Err}_{\text{old}}
  3. 容忍阈值允许新版本略差一点的余量,相当于“偶尔一两个差评可以忍,超过三条必须撤”。
    δ\delta
  4. 指示函数不等式成立则取 1(回滚),否则取 0(继续观察),相当于“撕菜单”的开关。
    I(Errnew−Errold>δ)\mathbb{I}\big(\text{Err}_{\text{new}} - \text{Err}_{\text{old}} > \delta\big)

AI 应用场景

电商推荐系统的持续运营

阶段:模型上线运营监控与迭代

解决的问题:传统做法是模型上线后隔几个月才人工重训一次,数据分布悄然变化,点击率持续下滑却没人发现,白白损失大量 GMV。持续监控与自动触发机制能把“事后补救”变成“实时响应”。

具体案例:某电商平台每天产生数亿次推荐请求,算法团队在模型服务旁部署监控面板,实时跟踪 CTR、收藏率。某月 PSI 突破 0.25,系统自动触发重训流水线,并在灰度验证后发布新模型,CTR 回升 12%。整个过程像面馆根据客流变化及时调整菜单,一点都不耽误生意。

银行风控模型的概念漂移应对

阶段:数据漂移检测与触发判断

解决的问题:信贷风控模型面对的是不断变化的借款人群体。经济下行时,同样收入特征的人群违约率会上升,这就是概念漂移——特征没变,但特征与结果的关系变了。没有漂移检测,坏账率会悄悄攀升。

具体案例:某银行消费金融部门部署了 PSI 和违约率双指标监控。当检测到青年客群的特征分布漂移超过阈值,同时逾期率抬头,系统判定需要迭代,团队随即用近三个月数据微调模型,坏账率回落至安全线。这就像老陈发现新邻居口味偏淡,及时调整了盐量。

大模型 API 的推理成本优化

阶段:成本优化控制

解决的问题:大语言模型 API 的 GPU 成本极高,同样的请求重复计算浪费严重。不做成本优化,业务量越大亏损越狠。

具体案例:某企业内部知识库问答系统接入大模型后,发现 40% 的请求是重复的员工高频问题。团队引入语义缓存层,命中缓存直接返回结果;同时在非工作时间自动缩容 GPU 实例。一个月后推理成本下降 60%,响应速度反而更快。这正是面馆“高峰期加人手、低谷期关灶台”的算账智慧。

Python 演示

python46 行
import mathimport random  def make_dist(mean, std, count, seed):    """Generate a binned distribution by normal sampling."""    random.seed(seed)    bins = {}    for _ in range(count):        value = int(random.gauss(mean, std))        value = max(0, min(19, value))        bins[value] = bins.get(value, 0) + 1    total = sum(bins.values())    return {key: val / float(total) for key, val in bins.items()}  def compute_psi(base, current, bins=20):    """Compute Population Stability Index between base and current."""    eps = 1e-6    psi = 0.0    for index in range(bins):        p = base.get(index, 0.0) + eps        q = current.get(index, 0.0) + eps        psi += (q - p) * math.log(q / p)    return round(psi, 4)  def simulate_one_month():    baseline = make_dist(10.0, 3.0, 1000, seed=1)    threshold = 0.25    for day in range(1, 31):        if day <= 15:            mean = 10.0        else:            mean = 10.0 + (day - 15) * 0.15        current = make_dist(mean, 3.0, 800, seed=day + 100)        psi = compute_psi(baseline, current)        if psi > threshold:            baseline = current            print('day=%-2d psi=%.4f action=retrain' % (day, psi))        else:            print('day=%-2d psi=%.4f action=keep' % (day, psi))  if __name__ == '__main__':    simulate_one_month()
目的:模拟一个月的线上推理数据,第 16 天起数据均值开始漂移,每次计算 PSI 与阈值比较,超标则触发重训并刷新基线——这就是持续模型迭代的最小闭环。
  1. baseline = make_dist(10.0, 3.0, 1000, seed=1)建立训练基线分布,相当于开业时统计的顾客口味基线。
  2. mean = 10.0 + (day - 15) * 0.15第 16 天后均值逐步增大,模拟线上数据漂移,像新邻居逐渐改变了客流。
  3. psi += (q - p) * math.log(q / p)PSI 的核心算式,把两个分布的偏差累加为单一分数。
  4. if psi > threshold:漂移超标的触发判断,相当于“差评超过三条”。
  5. baseline = current重训后的模型以最新数据为新基线,就像老陈把新口味确认为新常态。

常见误区

误区很多刚入行的同学觉得,模型训练完、部署上线、验收通过,项目就结束了,后面的事都与我无关。

正解上线只是持续迭代的起点,不是终点。真实世界的数据分布不断变化,模型效果会随时间衰减。就像面馆开业只是开始,后续每天的客流变化、口味调整才是决定能否长红的关键。没有监控和迭代机制,模型再强也会慢慢失灵。

为何常见:因为在学习阶段,大家接触的多是“训练→评估”的静态流程,很少有人强调“上线后”的漫长生命周期,误解自然产生。

误区离线测试集上准确率 95%,就以为线上效果一定好,不用再看别的指标了。

正解离线准确率是“考试分数”,线上表现才是“真实业绩”。训练数据分布和线上实时分布往往有偏差,离线高分不等于线上好用。必须同时监控延迟、错误率、业务转化率等线上指标,就像面馆的菜谱评分再高,也要看客人的实际差评和翻台率。

为何常见:离线指标看得见、摸得着,评估流程规范,容易让人产生“这一步做完就稳了”的错觉。

误区只要线上有点风吹草动,就立刻重训模型,总觉得重训越勤快,模型就越贴近最新数据。

正解重训有成本,也可能引入波动。频繁重训不仅消耗 GPU 算力,还可能让模型在数据噪声上反复震荡,今天这个版本、明天那个版本,业务方无所适从。正确做法是让漂移指标和告警信号说话,达到阈值再迭代,像老陈是“差评超三条才调配方”,而不是每天改一遍。

为何常见:“勤能补拙”的惯性思维,加上对数据变化过度焦虑,导致大家把重训当成万能药。

误区新版本上线后出了问题,如果执行回滚,就说明这次迭代白做了,团队很丢人。

正解回滚是兜底预案,是专业团队的常规操作。快速发现并回滚,能把损失降到最小,反而体现了系统的成熟度。就像老陈发现新菜单有问题,撕掉菜单换回老配方,客人不会觉得面馆失败了,反而觉得这家店靠谱、有担当。

为何常见:把“发布新版本”和“成功”绑定在一起,忽略了发布本身就是一次有风险的实验,而实验天然有失败的可能。

面试题

Q1. 持续模型迭代的核心驱动力是什么?

单选题 · easy

  • A.线上数据环境持续变化← 正确答案
  • B.模型代码需要定期重构
  • C.服务器需要日常维护
  • D.算法团队需要绩效输出

答案:A。模型效果衰减的根本原因是线上数据分布发生了漂移,就像面馆的客人换了口味。代码重构、服务器维护、绩效输出都只是辅助因素,不是持续迭代的核心驱动力。

Q2. 衡量线上效果与业务目标挂钩的实测指标是?

单选题 · easy

  • A.SLO服务目标指标
  • B.SLI服务实测指标← 正确答案
  • C.SLA服务协议条文
  • D.PSI漂移分布指数

答案:B。SLO 是“我们承诺达到的目标”,SLI 是“实际测量到的表现”。面馆的 SLO 是“出餐不超过 10 分钟”,SLI 是“今天平均出餐 8 分钟”。PSI 是漂移指数,SLA 是协议文书,都不是实测指标。

Q3. PSI 值超过哪个经验阈值通常表示分布显著漂移?

单选题 · easy

  • A.超过0.05
  • B.超过0.10
  • C.超过0.25← 正确答案
  • D.超过0.50

答案:C。行业经验是 PSI 小于 0.1 分布稳定,0.1 到 0.25 需要关注,大于 0.25 表示显著漂移、必须干预。0.05 太敏感,0.5 已经严重到难以弥补了。

Q4. 下列哪些属于线上模型监控的典型对象?

多选题 · mid

  • A.特征分布是否发生变化← 正确答案
  • B.推理延迟是否持续上升← 正确答案
  • C.预测错误率是否攀升← 正确答案
  • D.代码仓库分支的数量

答案:ABC。监控对象包括数据层(特征分布)、系统层(延迟错误率)。代码仓库分支数量属于工程管理,不属于模型线上监控指标。就像面馆看的是客流、差评、出餐速度,而不是后厨用了几个炒锅。

Q5. 特征漂移与概念漂移的本质区别是什么?

单选题 · mid

  • A.输入分布变化对比输入输出映射变化← 正确答案
  • B.模型结构变化对比数据分布变化
  • C.概念变化对比模型参数变化
  • D.两者本质上完全相同无区别

答案:A。特征漂移是自变量(输入)分布变了,概念漂移是因变量关系(输入到输出的映射)变了。好比新客人口味淡是特征漂移,客人对“咸”的标准变了是概念漂移,二者应对策略不同。

Q6. 增量训练相比全量重训的主要风险是什么?

单选题 · mid

  • A.灾难性遗忘旧知识← 正确答案
  • B.训练时间大幅缩减
  • C.推理成本直接下降
  • D.特征数据自动增多

答案:A。增量训练只在新数据上微调,容易让模型学新忘旧、丢掉旧分布上的能力,即灾难性遗忘。训练时间缩短和成本下降是增量训练的优势而非风险,正如只学新菜谱的面馆会忘了老客人的口味。

Q7. 灰度发布相比全量发布的核心优势是什么?

单选题 · mid

  • A.小流量验证降低风险← 正确答案
  • B.自动消除数据漂移
  • C.无需任何线上监控
  • D.训练速度大幅提升

答案:A。灰度发布让新模型先在 1% 流量上接受考验,出问题影响面小、回滚快。它不能消除漂移,也不替代监控,更与训练速度无关。就像新菜先让几个熟客试吃,而不是直接换掉整本菜单。

Q8. 新版本上线后,哪一项信号应当触发立即回滚?

单选题 · hard

  • A.错误率比旧版本高出两倍← 正确答案
  • B.新版本延迟略微下降
  • C.请求量出现小幅上升
  • D.特征分布保持稳定

答案:A。错误率显著恶化意味着新模型质量不行,必须立刻切回旧版止损,这是回滚触发信号。延迟下降是好事,请求量上升与模型质量无关,特征分布稳定说明环境没变,都构不成回滚理由,就像新菜单没有差评反而更受欢迎时,没必要撤回。

Q9. 下列哪些属于推理成本优化的有效手段?

多选题 · hard

  • A.对高频请求结果做缓存← 正确答案
  • B.对模型进行量化与蒸馏← 正确答案
  • C.每个请求都全量重新计算
  • D.低谷期自动缩容GPU资源← 正确答案

答案:ABD。缓存避免重复计算,量化和蒸馏降低单次推断开销,弹性缩容让低谷期不烧钱。全量重算是高开销行为,属于成本优化的反面、不是手段。面馆省钱的做法是备好高汤、精简工序、闲时关掉多余的灶,而不是每碗面都从头熬。

Q10. “错误预算”在 SLO 监控中的核心含义是什么?

单选题 · extreme

  • A.允许服务偏离SLO的剩余时间← 正确答案
  • B.运维团队每月的金钱预算
  • C.模型可接受的损失阈值
  • D.团队每月分配的测试时长

答案:A。错误预算 = 100% 减去 SLO 目标后允许失败的时间窗口。比如 SLO 是 99.9%,错误预算就是每月 43 分钟,只要实际失败没花完预算,团队就可以放心发布新版本。“预算”在这里是时间而非金钱,它给迭代创新留出了安全空间。