GAN对抗训练：博弈中的生成艺术

可视化演示

对抗博弈目标

造假师小G和鉴定师老D签的合同写得很清楚：老D每收到一幅画，都要给出“这是真迹”的概率；小G每次从草稿本z里随手抽一张速写，把它“润色”成大师风格。老D的目标是让真画得高分、假画得低分；小G的目标恰好相反，他盼着老D对假画也给出高分。两人盯着同一张分数表，却朝两个相反方向用力，这就是零和博弈。

这张分数表在GAN里叫价值函数V(D,G)。它由两部分组成：对真实样本x，老D判真的概率是D(x)，越接近1越好；对生成样本G(z)，老D判真的概率是D(G(z))，老D希望它接近0，小G却希望它接近1。于是，训练目标被写成minimax（极小极大）博弈：生成器想压低结果，判别器想抬高结果。

回到老街：合同上只有一句“老D负责挑错，小G负责圆谎”，但正是这个看似简单的零和结构，让两个网络在对抗中互相打磨。注意，这一阶段还没有涉及具体梯度，只定义了“胜负”。

损失函数设计

有了对赌合同，双方还要各拿一本记分册。老D的记分册很直观：真画判真得分，假画判真扣分。用损失函数写出来，就是把价值函数加上负号，让“越准越小”。小G的记分册则有个陷阱：如果按原始合同原样抄，G要最小化\(\mathbb{E}[\log(1-D(G(z)))]\)。当老D已经一眼看穿假画时，D(G(z))接近0，\(\log(1-0)=0\)，小G的记分册上永远是个平滑的“0”，梯度也趋近于0。造假师收到的反馈太少，完全不知道该改哪里。

为了让小G在“被识破”时也得到强烈信号，实践里改用非饱和损失：让G最大化\(\log D(G(z))\)，等价于最小化\(-\log D(G(z))\)。当老D识破假画时，D(G(z))很小，\(-\log\)会给出一个很大的数，小G就知道必须立刻调整构图。

回到造假师视角：老鉴定师越冷漠地说“一眼假”，新损失函数反而像考试卷上的红叉，越刺激造假师重新提笔。这就是非饱和损失能救训练的核心原因。

梯度更新策略

定义好胜负和记分册，接下来是“怎么练”。真实训练采用交替更新：一次迭代里，先抽一批真画，再抽一批噪声让小G画一批假画，用这批混合样本更新老D；随后重新抽噪声，让小G去骗刚更新过的老D，再用这次结果更新小G。这相当于两人轮流出招：鉴定师先盯紧摊位，造假师再研究鉴定师的新习惯。

原始论文里，训练通常每更新k步判别器再更新1步生成器，实践中最常用k=1。梯度方向也分成两半：老D沿着让价值函数增大的方向走，小G沿着让“骗过项”增大的方向走。这里对生成器使用非饱和形式的梯度上升，和上一节的损失函数保持一致。

老街上的两人不是同时出招，而是回合制。这让每一方都能观察对手的最新习惯并做出反应。交替更新是GAN最基础、也最容易被忽视的节奏。

训练动态分析

轮流练几十轮之后，老街出现新问题：天平会左右乱摆。如果老D练得太强，一眼看穿所有假画，小G拿到的梯度几乎为零，直接罢工；如果小G进步太快，老D变成瞎猜，假画全都蒙混过关，老D也不再提供有效监督。理想的动态是两者始终处在“追平—再超越”的拉锯中。

从数学上看，当生成分布固定时，判别器有一个最优解：对任意样本x，它判真的概率等于真实分布密度在x处的占比。若生成分布和真实分布完全重合，这个占比就是0.5，老D只能抛硬币。

造假师最擅长的偷懒，就是反复临摹同一张《蒙娜丽莎》：既然鉴定师对这幅画偶尔走神，那就把整个画廊都挂满它。这种“生成样本单一重复”的现象叫模式崩溃，是训练动态中必须盯住的红色警报。

收敛性讨论

如果两人都按理论最优行动，最后会停在什么位置？博弈论里叫纳什均衡：小G以\(p_g=p_{\text{data}}\)的分布画画，老D以0.5的概率猜真伪，任何一方单方面改变策略都不会让自己更赚。原始GAN证明，当老D取到最优时，小G的目标等价于最小化真实分布与生成分布之间的JS散度。

但理论很丰满，现实很骨感。两个用神经网络参数化的玩家玩的是高维非凸博弈，交替梯度上升下降并不保证收敛。你常看到的loss上下乱跳，正是“纸上均衡”与“真实地形”之间的落差。

缓解方法

既然对局容易失控，实战经验就诞生了一批“防暴装置”。第一个是标签平滑：不要用硬标签1去给真画打分，而是用0.9之类的软标签，意思是“鉴定师别把话说死，留一点反应空间，否则造假师又被噎死”。第二个是特征匹配：让小G不再只看老D的最终判词，还要匹配老D中间层对真画和假画的“印象”，相当于要求造假师连鉴定师脑中的构图习惯也一起模仿。

此外还有谱归一化：把判别器每一层权重的谱范数限制住，让D作为函数不会变化过猛，梯度更平稳；小批量判别则让老D不再只看单幅画，而是抽查整批画——如果一批假画长得太像，就集体扣分，这专门对付模式崩溃。

这些方法本质上都是给两个对手加规则：要么让鉴定师语气柔和，要么让造假师模仿内部特征，要么让裁判看整批画而不是单幅画。规则越合理，老街上的军备竞赛才不至于打成一团乱麻。

调参经验

最后是老师傅们的实操口诀。第一，优化器选Adam，学习率常用2e-4，beta1调成0.5；学习率太大，两边会像喝醉了酒一样互相追尾，太小则几百轮不见长进。第二，别让D和G的“体能”差距过大：D可以用LeakyReLU，G常用ReLU加BatchNorm，但参数量要大致匹配。第三，不要只看loss曲线判断收敛，要同时看样本质量和FID指标。FID把真实与生成图片的特征分布拿到统计距离上比较，数字越小越接近。

最后，把每次实验的G/D loss曲线、FID曲线和样本截图存档。造假师和鉴定师的对局没有标准答案，但完整实验日志能让你在下一次训练翻车时，迅速锁定是节奏失衡、D太强还是G崩了。

AI 应用场景

Python 演示

import mathimport torchimport torch.nn as nn torch.manual_seed(0)  class Generator(nn.Module):    def __init__(self):        super().__init__()        self.net = nn.Sequential(            nn.Linear(2, 16),            nn.ReLU(),            nn.Linear(16, 2)        )     def forward(self, z):        return self.net(z)  class Discriminator(nn.Module):    def __init__(self):        super().__init__()        self.net = nn.Sequential(            nn.Linear(2, 16),            nn.ReLU(),            nn.Linear(16, 1),            nn.Sigmoid()        )     def forward(self, x):        return self.net(x)  def sample_real(batch):    theta = torch.rand(batch) * 2 * math.pi    circle = torch.stack([torch.cos(theta), torch.sin(theta)], dim=1)    return circle + 0.08 * torch.randn(batch, 2)  def train():    G = Generator()    D = Discriminator()    opt_G = torch.optim.Adam(G.parameters(), lr=1e-3)    opt_D = torch.optim.Adam(D.parameters(), lr=1e-3)    loss = nn.BCELoss()     for step in range(2000):        # 训练判别器：真画判真，假画判假        real = sample_real(64)        z = torch.randn(64, 2)        fake = G(z).detach()        d_real = loss(D(real), torch.ones(64, 1))        d_fake = loss(D(fake), torch.zeros(64, 1))        d_loss = d_real + d_fake         opt_D.zero_grad()        d_loss.backward()        opt_D.step()         # 训练生成器：让判别器对假画判真        z = torch.randn(64, 2)        fake = G(z)        g_loss = loss(D(fake), torch.ones(64, 1))         opt_G.zero_grad()        g_loss.backward()        opt_G.step()         if step % 400 == 0:            print(step, 'D', round(d_loss.item(), 3), 'G', round(g_loss.item(), 3))  if __name__ == '__main__':    train()

1. fake = G(z).detach()训练判别器时断开生成器梯度，避免反向传播误伤小G。
2. d_loss = d_real + d_fake老D同时学习“真画判真”和“假画判假”。
3. g_loss = loss(D(fake), torch.ones(64, 1))小G使用非饱和损失，目标是让老D对假画判真。
4. opt_D.step()先更新鉴定师，让老D先变强一点点。
5. opt_G.step()再更新造假师，让小G根据老D的最新反应重新调笔。

常见误区

面试题