成本优化与FinOps：Spot与Preemptible实例策略

可视化演示

演示Spot/Preemptible实例的成本节省、中断风险与检查点恢复机制，展示以性价比换取中断容忍的取舍。

实例概念认知

厨师逛海鲜市场，先得明白“正价鱼”和“特价鱼”的区别。正价鱼三十块一斤，摊主保证供应、随到随买；特价鱼十块一斤，唯一的代价是：只要有正价顾客来，摊主就把你手里的鱼收走。这就是把“保证供应”四个字从合同里删掉换来的折扣。

云厂商每天也有大量“没卖完的鱼”——闲置的 GPU 和 CPU 算力。机器空转照样耗电、折旧，不如低价卖掉。于是 AWS 的 Spot、Google Cloud 的 Preemptible、Azure 的 Spot VM 相继出现：它们以按需价格的一到五折售卖，随时可能被厂商回收。在 AI 训练和推理场景中，容错性强的离线批处理任务、带检查点的大模型训练，天然适合这类“特价算力”。

折扣到底有多大？一个公式就能看清：

理解了“特价鱼的规矩”，你就明白它不便宜得莫名其妙：便宜的代价，是放弃了“永不收走”的承诺。后面几节，全是厨师应对这个承诺缺失的招数。

获取策略设计

特价鱼便宜，但你不能闭着眼睛冲进去就买。有经验的厨师会先定一个心理价位：这条鱼超过多少钱我就不买了？心理价位就是 Spot 的出价上限（bid）。摊主喊价，市场价低于或等于你的心理价位，成交；超过，你就收手等下一波。

出价怎么定？很多人误以为“出价越高越稳”，实际上成交后按市场价计费，而不是按你的出价——出高价不会让摊主高看你一眼，更不会减少收鱼概率，只会白花冤枉钱。实践中，出价上限一般设置为接近但不超过按需价格，因为市场价很少超过按需价；同时要在多个可用区（不同摊位）之间分散询价，有些摊位鱼多价低，容量池更大，命中率更高。

取实例的成交规则用公式表达：

心理价位定在“不会亏本”的水平，摊主喊价超过了就收手。淘鱼也是有纪律的，盲目加价既买不来稳定，也换不来便宜。

检查点机制

流水席上最怕什么？鱼被收走了，你处理到一半的食材也一起没了。聪明的厨师会在处理到某个节点时，把半成品整个塞进冰箱冷冻起来——这就是检查点（checkpoint）。就算鱼被收走，你损失的无非是最后一次入冰箱之后那点功夫，冰箱里的半成品随时能解冻继续。

在 AI 训练里，检查点就是周期性把模型权重、优化器状态、当前训练步数等快照保存到持久存储。中断发生后，新实例从最近的检查点恢复，而不是从头训练。这里有个关键权衡：检查点周期太短，频繁写存储拖慢训练、增加成本；周期太长，中断时回退损失就大。生产实践通常把周期设在 5-15 分钟，刚好覆盖平均中断恢复时间。

中断带来的期望回退工作量，等于检查点周期的一半：

冰箱是厨师的安全网。有了它，“被收走”从灾难变成了小插曲——代价只是偶尔从半格之前重新下锅。

中断预测

如果摊主收鱼前愿意喊一嗓子：“这条鱼要收回了，你准备一下！”你会不会从容很多？云厂商深谙此道：GCP 在抢占前约 30 秒发出通知，AWS 提供最长 2 分钟的中断预告，Azure 同样有 30 秒警告，AWS 甚至提供提前 15 分钟的 Spot 中断预测，命中率高达九成以上。

收到预告后的动作是标准流程：立即把最新模型状态写入检查点、优雅地退出进程、通知调度器“这里要塌了，去别处续跑”。这一套组合拳，把“被动挨打”变成“主动让位”。所谓主动让位，就是在厂商真正回收之前自己先退——反正近一分钟的进度已经保住了，与其被强杀，不如体面离场。

从预告到完成保存，计算一下有效准备时间：

摊主喊“收鱼啦”，第一动作永远是开冰箱门。预告窗口把不确定性变成了可规划的流程，这是 Spot 能在生产环境大规模落地的前提。

迁移方案

鱼被收走了，宴席不能停。厨师的办法是：这家摊不行，隔壁摊还有鱼。在云上，“隔壁摊”就是另一个可用区或另一个实例组。当你把 Spot 实例部署成多可用区的实例组，一台被回收，调度器立刻在另一个可用区拉起新实例，作业自动重投。

想让迁移足够快，前提是“数据不入锅”——把训练数据放在共享存储（如 EFS、Ceph）上，新实例启动时直接挂载，不必把几百 GB 数据集重新搬一次。模型权重通过检查点同步，优化器状态同理。这样整个切换可以做到分钟级甚至秒级，对上层作业几乎透明。

N 个“摊位”互相兜底，整体可用性如何？一组公式：

好厨师不怕收摊，怕的是没有备选摊位。迁移方案的意义，就是把“单点赌运气”变成“多点拼概率”。

成本量化评估

收摊了，账本摆上桌。特价鱼便宜是事实，但今晚到底省了多少？不能只看单价：你付钱买回来的鱼，有一部分在被收走时扔掉了；冰箱的冷冻费、跑隔壁摊的交通费，都是隐性开销。算总账，才是 FinOps 精神。

对应到云账单：表面上 Spot 打了三折，但实际成本还要加上——中断回退浪费掉的算力费（已经付钱的运行时间）、检查点存储费、重试和迁移的额外资源费。业界经验是“5% 的中断率吃掉约 15% 的表面折扣”，务必用真实账单做对照实验，而不是盯着标价激动。

净节省的公式把每一笔都摆上台面：

省下的 vs 浪费的，账本说了算。成本量化的意义，就是让“好像省了”变成“确实省了”，并持续用数据驱动后续的出价和检查点调优。

风险管控实践

再老练的厨师，也不敢把五十桌宴席全押在特价鱼上。稳妥的做法是：七成鱼买特价的，手里始终屯一条正价鱼在关键时刻救急。这就是混合实例池——大部分工作负载跑 Spot 享受折扣，关键的在线服务或最高优先级任务用按需实例兜底。

落地的工程实践包括：Kubernetes 节点池按 spot 与 on-demand 混合配置，配合 Pod 优先级与弹性伸缩；先在非核心业务灰度验证中断表现，再逐步扩大 Spot 占比；建立告警与审计，跟踪中断频率、节省率 SLO 与账单变化。这套方案已在多个大规模生产环境中验证，训练集群在 10% 以内中断率下稳定跑完数月。

混合池的期望成本，取决于“鱼被收走”的概率和恢复代价：

特价鱼为主、正价鱼兜底，这是所有大规模生产实践的共识。风险管控不是拒绝便宜，而是用机制把“可能被收走”变成“收走也没关系”。

AI 应用场景

Python 演示

import math  def price_at(t):    wave = 0.52 + 0.16 * math.sin(t * 0.31)    wave += 0.10 * math.sin(t * 0.09 + 1.8)    phase = t % 42    spike = 0.0    if phase > 38:        spike = 0.55 * math.exp(-(phase - 40) ** 2 / 1.8)    return min(wave + spike, 1.45)  class SpotWorker:    def __init__(self, bid, on_demand_price, ckpt_interval, ckpt_cost):        self.bid = bid        self.on_demand_price = on_demand_price        self.ckpt_interval = ckpt_interval        self.ckpt_cost = ckpt_cost        self.progress = 0.0        self.last_ckpt = 0.0        self.ckpt_count = 0        self.interrupt_count = 0        self.run_cost = 0.0        self.running = False     def tick(self, t, price):        if price <= self.bid:            if not self.running:                self.running = True            self.progress += 1.0            self.run_cost += price * self.on_demand_price            if self.progress - self.last_ckpt >= self.ckpt_interval:                self.last_ckpt = self.progress                self.ckpt_count += 1                self.run_cost += self.ckpt_cost        else:            if self.running:                self.running = False                self.interrupt_count += 1                self.progress = self.last_ckpt     def summary(self, target):        done = self.progress >= target        return {            "done": done,            "progress": int(self.progress),            "cost": round(self.run_cost, 2),            "interrupts": self.interrupt_count,            "checkpoints": self.ckpt_count,        }  def main():    worker = SpotWorker(bid=0.72, on_demand_price=1.0,                        ckpt_interval=8, ckpt_cost=1.0)    for t in range(500):        worker.tick(t, price_at(t))        if worker.progress >= 100:            break    stats = worker.summary(target=100)    on_demand_total = 100.0 * worker.on_demand_price    print("stats:", stats)    print("on-demand cost:", on_demand_total)    print("spot net cost:", stats["cost"])    if stats["done"]:        saved = (1 - stats["cost"] / on_demand_total) * 100        print("saved: %.1f%%" % saved)    else:        print("job not finished, need more retry")  if __name__ == "__main__":    main()

1. wave = 0.52 + 0.16 * math.sin(t * 0.31)用正弦波叠加模拟市场价格的自然波动
2. if phase > 38: spike = ...周期性尖峰模拟“正价顾客来了”导致的价格暴涨
3. if price <= self.bid:成交条件：市场价低于出价才能继续运行
4. self.run_cost += price * self.on_demand_price只要在跑就要付钱，被回滚的进度同样计费
5. if self.progress - self.last_ckpt >= self.ckpt_interval:每跑满一个检查点周期就“入冰箱”一次
6. self.progress = self.last_ckpt中断时回退到最近检查点，这是损失的核心来源
7. saved = (1 - stats["cost"] / on_demand_total) * 100用总账算实际节省率，而非表面折扣

常见误区

面试题