贝叶斯优化深入：采集函数设计

可视化演示

展示贝叶斯优化中采集函数如何平衡探索与利用，对比EI、PI和UCB三种策略的采样决策差异。

优化问题本质：看不见的矿脉

金叔站在荒原边缘，手里只有一张地形图，图上没有任何矿脉信息。他知道的是：这片荒原地下一定藏着含金量高的富矿，但位置未知。每打一个钻孔需要十万元，预算只够三十次。更麻烦的是，他没法从地表特征推断地下情况——这正是黑盒函数的写照：你输入一个坐标 x，得到该点的含金量 f(x)，但函数内部机制完全不可见，没有梯度，没有解析式。

在机器学习里，很多调优问题同样如此。比如大语言模型的微调：一组超参数（学习率、批大小、层数）就是坐标 x，训练一次模型就是打一个钻孔，而验证集准确率就是含金量。一次训练动辄花费数万美元，相当于一个昂贵的钻孔。这类问题的共同特征是：评估一次 f(x) 代价极高，且函数形态未知，我们只能通过有限的采样来猜测全局最优在哪里。

于是，金叔的目标可以用一句数学语言表达：找到让含金量最高的那个坐标。

金叔的策略很朴素：先用几个钻孔摸清大致情况，再逐步加密。但问题来了——钻孔该打在哪儿？凭什么判断？这就引出了他的第二件装备：经验地图。

高斯过程代理：会发光的经验地图

金叔请来一位地质统计学家，帮他画一张“经验地图”。这张地图上不仅有每个位置预测的含金量（均值），还会用不同深浅的灰色标注“拿不准的程度”（方差）。已经钻过的地方，灰色很浅；离钻孔很远的地方，灰色浓得像雾。这张会随数据更新的经验地图，就是贝叶斯优化里的高斯过程代理模型。

高斯过程（GP）不直接回答“函数是多少”，而是回答“函数在每个点可能服从什么分布”。它给出的是对目标函数整体的概率描述：任何一个点 x 处的函数值 f(x)，在给定观测数据 D 后，都服从一个正态分布。钻孔越多，地图上的雾就越淡，预测就越有底气。

有了这张经验地图，金叔每次看到地图，都能立刻知道“哪里大概富、哪里说不准”。但地图只会描述现状，不会告诉他下一钻该打哪儿。真正做决定的是采集函数。

探索利用平衡：三台钻机的派兵布阵

金叔手里还有一张王牌：无论地图怎么画，最终决定钻孔位置的是一把“下钻决策尺”，也就是采集函数 α(x)。这把尺子给地图上每个候选位置打一个分数，分数最高的点就是下一个钻孔位。它必须回答一个两难问题：是去已知富矿附近加密钻孔（利用），还是去地图上灰雾最浓的未知区域碰运气（探索）？

如果纯利用，金叔会在第一个小富矿周围反复钻孔，永远错过远处可能更大的金矿——对应着陷入局部最优。如果纯探索，预算很快就会在毫无收获的荒地上耗尽——对应着评估次数浪费。采集函数的作用，就是把这两股力量拧成一股绳。

不同的采集函数，就是对“探索与利用怎么配比”给出了不同答案。接下来我们看金叔工具箱里最经典的三把尺子。

EI采集函数：算期望收益的老派稳健派

金叔的第一把尺子叫 EI（Expected Improvement，期望提升）。它的思考方式很像一个精明的商人：对每个候选点，先问两件事——“这里比现在最富的矿脉能多出多少收益？”以及“多出这么多收益的概率有多大？”两者相乘，就是这个点的期望收益。

设当前已知的最优含金量为 f*。在某点 x 处，改进量 I(x) 定义为“超出 f* 的部分”，没超出就记 0。EI 就是对这个改进量求期望：考虑了均值 μ(x) 提供的收益预测，也考虑了方差 σ(x) 带来的翻盘可能——方差大的地方虽然均值不高，但万一挖到富矿呢？这正是探索性的来源。

EI 因此是风险中性的：它既奖励均值高的富矿带（利用），也奖励方差大的未知区（探索），但两者都要折算成“期望收益”。金叔用这把尺子时，心态最稳。

PI与UCB采集：概率派与乐观派的对决

金叔的第二把尺子叫 PI（Probability of Improvement，提升概率）。它的逻辑简单粗暴：只问一个问题——“这个点比当前最优值更好的概率有多大？”它不看提升多少，只看有没有概率。设定一个最小可接受阈值 ε 后，凡是超过当前最优值的概率越高，分数就越高。

$$PI(x) = \Phi\left(\frac{\mu(x) - f^{*} - \varepsilon}{\sigma(x)}\right)$$

1. f\* + ε：设定的目标门槛，只有超过它才算“成功”。

$$f^{*} + \varepsilon$$

2. ε：阈值参数，调大它等于提高目标，间接鼓励去更有可能大幅提升的点。

$$\varepsilon$$

3. Φ(……)：正态累积分布函数，把标准化分数转换成概率值。

$$\Phi(\cdot)$$

第三把尺子叫 UCB（Upper Confidence Bound，置信上界）。金叔说，这尺子像队伍里的乐观小伙子：永远盯着“最乐观的情形”。每个点的分数 = 均值的估计 + κ 倍的方差。κ 越大，越相信方差大的灰雾区里藏着惊喜。

$$UCB(x) = \mu(x) + \kappa \cdot \sigma(x)$$

1. μ(x)：经验地图对该点含金量的预测值。

$$\mu(x)$$

2. σ(x)：该点的标准差，不确定性越大值越大。

$$\sigma(x)$$

3. κ：探索系数，κ=0 时只看均值（纯利用），κ 越大越偏向不确定性高的区域（纯探索）。

$$\kappa$$

PI 简单、计算快，但对“提升幅度”不敏感——可能不断挑选只比当前好一点点但概率最高的点。UCB 则天生乐观，只需调节 κ 就能控制探索幅度。两位选手各有脾气，金叔把它们一起放进工具箱。

采集函数对比：三把尺子怎么选

金叔的箱子里现在有三把尺子：EI 稳重、PI 直接、UCB 乐观。面对一片新荒原，该用哪一把？其实三把尺子有一个统一的出身：它们都是在代理模型的后验分布上，对某个“效用函数”求期望。不同的效用函数，造就了不同的决策风格。

EI 用的效用是“改进量本身”，所以它权衡了概率和幅度，最均衡；PI 用的效用是“是否超过阈值”的 0/1 判断，所以它只关心概率、不关心幅度；UCB 用的效用是“均值加 κ 倍标准差”的乐观估计，所以它天然爱吃“不确定性红利”。

实操中，预算少且噪声大时，EI 最稳；想快速迭代且能接受偶尔“扑空”时，PI 够快；对探索需求强烈、且能调好 κ 时，UCB 很顺手。没有绝对的最好，只有匹配地形和预算的最佳选择。金叔的经验是：先用均匀的初始钻孔摸清地形，再选一把尺子持续用下去。

并行优化实战：三台钻机同时开工

荒原太大，时间紧迫，金叔不能每次只等一个钻孔结果再决定下一个。他有三台钻机，想同时打三个孔。但问题来了：采集函数是基于现有地图算出来的，如果三个孔都选分数最高的位置，它们会挤在同一个山头——这相当于三台钻机打同一个洞，白白浪费。

解决思路是什么？金叔的做法是“分批决策、用幻觉占位”：先选第一个点，然后假设它的结果已知（用地图均值当作临时结果填入），更新地图后再选第二个点，以此类推。同时，对已经选入本批的点施加“惩罚”，降低它们附近的采集分数，让三个孔自动分散到不同区域。

这种方法在贝叶斯优化库中叫 q-EI 或 q-UCB 的近似实现，配合核函数惩罚项，可以在一次并行评估中覆盖多个有潜力的区域。金叔有了三台钻机后，勘探速度直接翻倍，而每一钻依然花在刀刃上。

AI 应用场景

Python 演示

import numpy as npfrom sklearn.gaussian_process import GaussianProcessRegressorfrom sklearn.gaussian_process.kernels import ConstantKernel, RBFfrom scipy.stats import norm def target(x):    return np.sin(3.0 * x) + 0.5 * x x_obs = np.array([-1.8, -0.9, 0.3, 1.2]).reshape(-1, 1)y_obs = target(x_obs)kernel = ConstantKernel(1.0) * RBF(length_scale=1.0)gp = GaussianProcessRegressor(kernel=kernel, alpha=1e-4, normalize_y=True) def acq_ei(x, xi=0.01):    mu, sigma = gp.predict(x, return_std=True)    y_best = np.max(y_obs)    diff = mu - y_best - xi    with np.errstate(divide='ignore'):        z = diff / sigma    return diff * norm.cdf(z) + sigma * norm.pdf(z) def acq_ucb(x, beta=1.5):    mu, sigma = gp.predict(x, return_std=True)    return mu + beta * sigma for step in range(8):    gp.fit(x_obs, y_obs)    x_cand = np.linspace(-2.0, 2.0, 401).reshape(-1, 1)    score = acq_ei(x_cand)   # 换成 acq_ucb(x_cand) 可对比 UCB 策略    x_next = x_cand[np.argmax(score)]    y_next = target(x_next)    print("step=%d | x_next=%.3f | y_next=%.3f | best=%.3f" % (step, x_next[0], y_next, np.max(y_obs)))    x_obs = np.vstack([x_obs, x_next])    y_obs = np.append(y_obs, y_next)

1. gp = GaussianProcessRegressor(kernel=kernel, alpha=1e-4, normalize_y=True)创建高斯过程代理模型，相当于金叔那张会更新的经验地图。
2. def acq_ei(x, xi=0.01):定义 EI 采集函数，xi 控制探索余量。
3. mu, sigma = gp.predict(x, return_std=True)从代理模型获取每个候选点的均值与标准差，同时读取地图上的预测和雾区浓度。
4. diff = mu - y_best - xi计算相对当前最优的预期超出量。
5. return diff * norm.cdf(z) + sigma * norm.pdf(z)完整的 EI 公式：概率与幅度的乘积之和。
6. gp.fit(x_obs, y_obs)用全部钻孔数据更新经验地图。
7. score = acq_ei(x_cand) # 换成 acq_ucb(x_cand) 可对比 UCB 策略对 401 个候选点逐一打分。把这一行替换成 acq_ucb，就能体验乐观派的勘探风格。
8. x_next = x_cand[np.argmax(score)]取分数最高的坐标作为下一次评估点，即金叔的下一钻。
9. x_obs = np.vstack([x_obs, x_next])把新钻孔加入历史数据，地图将在下一轮更新。

常见误区

面试题