联邦学习收敛改进算法

可视化演示

三步展示联邦学习异构优化：FedAvg客户端漂移问题、FedProx近端项约束更新、SCAFFOLD控制变量梯度校正与收敛加速对比。

联邦学习背景：数据不出门的协作训练

老周第一次组织「手册碰头会」时信心满满：把初稿分给各店，让大家改完寄回来，自己取个平均不就行了？结果大跌眼镜——成都店把「微辣」改成「特辣」，无锡店把「重油」删得干干净净，广州店甚至加了一整章「炖汤指南」。50 份修改稿寄回来，老周根本拼不出一本像样的手册。更麻烦的是，这些修改稿每份都有几十页纸，来回寄送快递费贵得吓人，时间也拖不起。这就是联邦学习遇到的两座大山：数据异构与通信瓶颈。

在 AI 世界里，联邦学习（Federated Learning）正是为了「数据不出本地，却能协作训练模型」而生的框架。最经典的基线算法叫 FedAvg（联邦平均），流程和老周的碰头会一模一样：每轮通信，中央服务器把当前模型发给参与客户端；各客户端用本地数据训练若干轮；再把新模型传回服务器；服务器把所有模型做加权平均，得到新的全局模型。这套流程看似完美，但问题恰恰出在「加权平均」上。

FedAvg 的聚合公式非常朴素：

但老周很快意识到，投票机制本身没问题，问题出在「嗓门大、口味极端的店」会带偏节奏。当各店数据分布差异巨大时，每家店都在朝自己偏好的方向改稿，汇总时方向互相拉扯，手册越改越四不像。这正是 non-IID（非独立同分布）数据下 FedAvg 收敛慢的根本原因。要解决它，要么限制各店「别改太野」（FedProx 的思路），要么纠正各店的「方向偏差」（SCAFFOLD 的思路）。

FedProx 原理：一根拉住模型的橡皮筋

老周发现，最让他头疼的是那几家「叛逆分店」——它们不仅提意见，还恨不得把整本手册重写一遍。于是他想：能不能在派发初稿时附一条规矩——「你们的修改不能离初稿太远，远到离谱的改动会被打回重做」？这条规矩，正是 FedProx（Proximal FedAvg，带近端项的联邦平均）的核心思想。

FedProx 由何世明等人于 2020 年提出，解决的核心问题叫「客户端漂移」（client drift）：在 non-IID 数据下，每个客户端在本地优化时，会不知不觉朝着自己数据分布特有的方向越走越远，就像被本店的口味「带偏」了。FedProx 的做法很简单——在本地目标函数里加一个「近端项」（proximal term），实时测量本地参数与全局参数的差距，并施加惩罚：

这根橡皮筋的妙处在于：它不阻止本地学习新知识，只是不允许「走火入魔」。当某家分店想往极端方向暴改时，橡皮筋会把它轻轻拉回来；而当它只做小幅微调时，橡皮筋几乎不产生阻力。这样一来，即使各店口味差异巨大，彼此的修改建议也不会互相撕扯得太厉害，全局模型就能更平稳地迭代。

FedProx 实现：允许「八成满意」就交卷

规矩定好了，老周又面临一个新问题：有些分店动作特别慢，非要把建议改到「完美」才肯寄回来。可每次开会都是有时间限制的——等所有店都磨蹭完，黄花菜都凉了。老周灵机一动：何必要求满分？能改到八成满意，方向对得上，就可以交卷了。这个「八成满意」的思想，在 FedProx 里叫做「γ-不精确解」。

γ-不精确解（γ-inexact solution）的数学条件是：当本地优化器的梯度足够小时，就可以提前停止，不必等它真正收敛到局部最优。形式上，本地优化停止点 $w^*$ 需要满足：

配合近端项，FedProx 的实现流程很清爽：每一轮，服务器下发全局模型 $w^t$；每个客户端用带近端项的目标函数做本地优化，允许用 γ-不精确解提前停止；然后把本地模型传回服务器；服务器照常做加权平均。超参数方面，μ 控制「拉回力度」，γ 控制「交卷门槛」。当 μ=0 且 γ=0 时，FedProx 就退化成 FedAvg——所以 FedAvg 只是 FedProx 的一个特例。在实践中，μ 通常取 0.01～0.1，γ 取 0.1～0.5 就能在异构数据上看到明显改善。这份灵活的工作考核标准，让团队整体效率反而更高了。

SCAFFOLD 原理：带上差异清单来开会

老周的「橡皮筋」方案初见成效，但他总觉得还有改进空间——橡皮筋只是「限制」各店乱改，能不能更积极一点，直接「纠正」各店的方向偏差呢？这一次，他要求每家店来开会时，必须带一份「自家与总部的差异清单」：你家口味偏甜多少？偏辣多少？把这份清单量化出来，总部综合时就能知道该往哪个方向纠偏。这套思路，就是 SCAFFOLD（Stochastic Controlled Averaging for Federated Learning，随机控制变量联邦平均）。

SCAFFOLD 由 Karimireddy 等人于 2020 年提出。它让每个客户端维护一个控制变量 $c_i$（客户端控制变量），服务器维护一个全局控制变量 $c$。控制变量的作用，是估计客户端数据分布与全局分布之间的「系统性偏差」。本地更新时，用 $c_i - c$ 对梯度做实时校正：

有了控制变量的校正，SCAFFOLD 不再像 FedAvg 那样「各写各的再硬拼」，而是「边写边对表」，保证大家的修改方向始终一致。它本质上做的是方差缩减（variance reduction）——把由数据异构引起的梯度方差大幅压缩，从而在极端 non-IID 场景下也能快速、稳定地收敛。就好比每辆车上都装了导航仪，即使出发地天南海北，也能同时抵达目标。

SCAFFOLD 实现：清单也要持续更新

老周很快发现一个新麻烦：各店的「差异清单」并不是一成不变的。成都店的口味可能随着新顾客涌入而变化，清单如果几个月不更新，就会失真。同样，SCAFFOLD 的控制变量必须在每轮训练后同步更新。更新规则是：

每轮结束后，服务器把所有客户端的新控制变量取平均，更新全局 $c$，再连同新全局模型一起广播下去。这样一来，差异清单就永远是热乎的。代价方面，SCAFFOLD 每轮除了上传模型，还要上传一份控制变量（和模型同维度），通信量比 FedAvg 略大——好比每家店开会要多带一张清单纸。但换来的收益是在 non-IID 下收敛轮次大幅减少，总通信成本反而更低。从收敛性理论上看，SCAFFOLD 在极端异构下能获得线性加速比，这是 FedAvg 和 FedProx 都做不到的。

实验对比：异构江湖里的实战检验

两种方案都设计好了，老周决定搞一次「实战演练」：把 50 家分店按口味差异分成几组，一组用 FedAvg，一组用 FedProx，一组用 SCAFFOLD，看看哪组能在最短时间内产出一本让各地区顾客都满意的手册。模拟实验的设定和我们可视化演示里的曲线一致：横轴是通信轮次，纵轴是训练损失。

实验结果显示，三种方法的差距在 non-IID 程度加剧时迅速拉大。在中等异构程度下，FedProx 就能提供足够帮助——它只需要在 FedAvg 的代码上多加一个近端项，改动极小，收敛曲线比 FedAvg 平滑不少，而且对 μ 的取值不算敏感。但在极端异构（比如每个客户端只拥有一种类别的数据）下，FedProx 的「橡皮筋」就有些力不从心了，它会拖慢对真实知识的吸收速度；此时 SCAFFOLD 的优势尽显——控制变量的方向校正让损失曲线近乎平滑地直线下降，通常只需 FedAvg 一半左右的通信轮次就能达到相同精度。

所以选型策略很清晰：如果系统改动成本敏感、异构程度中等，FedProx 是低风险高性价比的升级；如果数据分布极端失衡、通信预算紧张，SCAFFOLD 的多传一份控制变量是值得的投资。类比到老周的日常：FedProx 像给分店加一条「别跑太远」的橡皮筋，简单粗暴但有效；SCAFFOLD 像给每家店配一个实时更新的导航仪，装备重一点，但再偏远的分店也能准时抵达会场。两条路线不是竞争关系，而是在不同「异构江湖」里的互补选择。

AI 应用场景

Python 演示

import numpy as np def make_data(num_clients=4, n=80, dim=8, seed=42):    """生成 non-IID 数据: 每个客户端偏向不同的类别"""    rng = np.random.default_rng(seed)    data = []    for i in range(num_clients):        X = rng.normal(0, 1, (n, dim))        w_true = np.zeros(dim)        w_true[i] = 2.0        w_true[(i + 1) % dim] = 1.5        logit = X @ w_true        y = (1 / (1 + np.exp(-logit)) > 0.5).astype(int)        data.append((X, y))    return data  def logistic_grad(X, y, w):    """逻辑回归的梯度"""    p = 1 / (1 + np.exp(-X @ w))    return X.T @ (p - y) / len(y)  def local_train(X, y, w0, lr, steps, mu, w_ref, c_local, c_global):    """本地训练: FedAvg(mu=0) / FedProx(mu>0) / SCAFFOLD(c!=0)"""    w = w0.copy()    for _ in range(steps):        grad = logistic_grad(X, y, w)        if c_local is not None:            grad = grad - c_local + c_global        if mu > 0:            grad = grad + mu * (w - w_ref)        w = w - lr * grad    return w  def run(method, rounds=20, lr=0.3, local_steps=5, mu=0.1):    """执行指定联邦学习算法并返回测试准确率"""    data = make_data()    dim = data[0][0].shape[1]    w_g = np.zeros(dim)    c_g = np.zeros(dim)    cs = [np.zeros(dim) for _ in data]    for _ in range(rounds):        ws, c_new = [], []        for i, (X, y) in enumerate(data):            if method == 'scaffold':                w_l = local_train(X, y, w_g, lr, local_steps, 0, None, cs[i], c_g)            else:                w_l = local_train(X, y, w_g, lr, local_steps,                                  mu if method == 'fedprox' else 0, w_g, None, None)            ws.append(w_l)            if method == 'scaffold':                c_new.append(cs[i] - c_g + (w_l - w_g) / (local_steps * lr))        w_g = np.mean(ws, axis=0)        if method == 'scaffold':            c_g = np.mean(c_new, axis=0)            cs = c_new    acc = np.mean([np.mean((1 / (1 + np.exp(-X @ w_g)) > 0.5) == y) for X, y in data])    return acc  if __name__ == '__main__':    for name in ['fedavg', 'fedprox', 'scaffold']:        print(name + ': 测试准确率 = %.4f' % run(name))

1. w_true[i] = 2.0给每个客户端分配独有的「偏好类别」，制造数据分布差异，模拟真实世界的 non-IID。
2. logistic_grad(X, y, w)计算逻辑回归的梯度，这是所有联邦算法共用的「本地学习引擎」。
3. grad = grad - c_local + c_globalSCAFFOLD 的核心：用控制变量校正本地梯度方向，消除客户端漂移。
4. grad = grad + mu * (w - w_ref)FedProx 的核心：近端项把本地参数拉回全局模型附近。
5. w_g = np.mean(ws, axis=0)联邦聚合：把所有客户端的模型参数做简单平均，得到新全局模型。
6. acc = np.mean(...)在全部客户端数据上评估全局模型准确率，检验「跨店泛化能力」。

常见误区

面试题