学习曲线诊断模型问题

可视化演示

曲线图解读

把自己想象成林小雨。第一次拿到练习册，她规定自己每天刷 20 题，然后画一张坐标图：横轴写“累计刷题数”，纵轴写“正确率”。她同时记两笔账：一笔是练习册的对错（训练分），一笔是每周模拟考的成绩（验证分）。学习曲线就是这么一张图——训练分数是“平时作业成绩”，验证分数是“模考成绩”，两者成对出现，才构成完整的画像。

机器学习里的学习曲线（learning curve）画的正是这件事：横轴是训练样本量 n（相当于刷题数），纵轴是模型得分（相当于正确率），图上永远有两条线——训练集得分（练习册成绩）和验证集得分（模考成绩）。为什么非要两条线？因为只看练习册，你根本看不出自己是真懂了还是背答案；只有两条线对照，才能暴露训练表现和真实能力的落差。验证得分随样本量增加的经验曲线通常可写成：

c 是理解整张曲线的钥匙。如果 c 低（比如 0.65），说明这条“刷题路线”（模型结构）本身有天花板，数据再多也不顶用；如果 c 高但验证分远低于 c，说明模型有能力，只是“题量”没喂够。再配合两条线的距离，就能判断模型到底“笨”还是“飘”。

对林小雨来说，曲线图就是“练习册成绩 vs 模考成绩”的对比图。横轴是刷题量，纵轴是成绩，蓝线飘在上面、红线趴在下边，必有故事。

过拟合识别

林小雨刷到第 200 题时，练习册正确率 98%，模考却只有 71%。她翻看错题，发现模拟考题目稍换说法她就懵。这不是练得不够，而是太熟——她把每道题的“脸”记住了，答案背得滚瓜烂熟，却没掌握背后的解题套路。

在机器学习里，这种“对练过的题过分精通、对没见过的题抓瞎”的状态叫高方差（high variance），俗称过拟合（overfitting）。学习曲线上的表现非常直白：训练曲线高高在上（98%），验证曲线趴在地上（71%），两条线之间的 Gap（差距）又宽又稳。Gap 随样本量的变化可以用下式刻画：

识别过拟合，重点看两件事：一是绝对差距大不大（训练 95% 对验证 70%，Gap 约 25 个百分点）；二是差距是否随样本增加明显缩小。过拟合的典型图像是：蓝线在高位几乎不降，红线缓慢爬升却久久追不上，两条线像楚河汉界一样互不汇合。看到这种“鸿沟”，基本可以判定：加数据有效，但治标不治本，根子在模型偷偷背了答案。

林小雨的 Gap 从第 100 题的 22 个百分点缩到第 500 题的 24 个点，几乎没变化——加题量无效，必须换策略。老师说的“背答案”，在曲线上就是这么无情地显现。

欠拟合识别

同寝室的阿强是另一种惨：刷到 400 题，练习册 62%，模考 60%。他不是不努力，是基础概念根本没搞懂，练习册和模考“双双扑街”。这种情况在机器学习里叫高偏差（high bias），也就是欠拟合（underfitting）。

学习曲线的形态与过拟合恰好相反：两条线都很低，而且从样本量很小时就开始“贴贴”——蓝线降一点，红线升一点，两线快速汇合成一条低位平稳线。这说明问题不在“题刷得不够”，而在“模型太笨”，结构性地学不会。误差的来源可以用偏差-方差分解来解释：

识别欠拟合也看两件事：两条曲线是否快速汇合、汇合的平台是否够高。如果两线在样本量只有 100 时就贴在一起，且平台停在 0.6，那无论增到 5000 还是 50000 条数据，分数都纹丝不动。此时增数据等于给阿强加练习册——他连基础都不会，刷一万题还是 60 分。正确做法是加大模型容量：换更强的算法、加特征、减少约束。

林小雨对阿强的诊断单上只有一句话：高偏差——底子没打好，刷题无效，回去重修线性模型和特征工程。

收敛判断法

林小雨终于明白刷题不是越多越好。那问题来了：刷到多少题才算“够”？她的判断很简单——如果一周内新增 50 题，练习册和模考成绩几乎不动，那就是“收敛”了。

机器学习里的收敛判断同理：随着样本量 n 增大，曲线逐渐变平，得分不再因数据增加而上涨。判断是否收敛，不是看曲线是否绝对水平，而是看“分数对样本量的敏感度”（斜率）是否小于某个阈值：

注意收敛分两个层次：一是验证曲线本身斜率趋近 0（加数据没收益），二是 Gap 收敛到稳定值（该稳定的稳定了，该顽固的持续顽固）。如果验证曲线平了但 Gap 还很大，说明模型已经“吃不下”更多数据——最优解是把模型调对而不是继续投喂数据。反之，若验证曲线还在明显爬升，说明数据量尚处“红利甜区”，加数据立竿见影。

林小雨在笔记本上画了条“止损线”：每周新增 50 题提分不到 0.5 个百分点，就停刷，转去整理错题本。学习曲线教她及时止损，也教模型调优者在平台期节省算力和预算。

诊断行动指南

诊断是为了开药方。林小雨现在会画自己的学习曲线，但最想知道的是：下一步干什么？她总结出一套规则：先看 Gap，再看两条曲线的平均高度。

机器学习的诊断同样有套路。把两条曲线的关键信息提炼成两个数：平均得分水平 $\bar{S}$（训练和验证的平均）和差距 $G$（训练减验证），用它们组合出偏差-方差状态：

开药方的两条主线：高方差 → 增加训练数据、加正则化（约束模型别记太细）、降低模型复杂度（决策树剪枝、神经网络减宽度）；高偏差 → 增加特征、换更强模型（线性→决策树→神经网络）、减少正则化约束。别一上来就加数据：若高偏差，加数据等于给阿强加练习册，他连基础都不会，刷一万题还是 60 分。

林小雨按方抓药：自己属高方差，停刷题、精简笔记，少记答案多归纳套路（正则化）；阿强属高偏差，先回去补理论、换系统教材（换模型结构）。一条学习曲线，两份个性化处方。

工具与绘制

纸上画曲线太累，林小雨想用代码画。她发现调包一行 sklearn 就能算好。scikit-learn 提供了 sklearn.model_selection.learning_curve 函数：给定模型、特征 X、标签 y、交叉验证折数 cv、样本量序列 train_sizes，它返回每个样本量下的训练得分和验证得分。

验证得分默认走交叉验证——把当前样本量下的训练数据拆成 K 份，轮流留 1 份当验证、其余 K-1 份训练，最后取平均。这么做比单次随机划分稳定得多，曲线不会因为某次运气好坏剧烈抖动：

绘制工作流四步走：定模型 → 定 train_sizes（如从 10% 到 100% 取 8 个点）→ 调 learning_curve 得到三维数组（样本量 × 折数 × 分数）→ 对折数轴取均值和标准差，用 matplotlib 画出两条均值线和标准差阴影带。阴影带很有用：带子宽说明模型对数据切分敏感（不稳定），带子窄说明表现稳健。

林小雨花十分钟画好了自己的“刷题曲线”：蓝色训练线、红色验证线、半透明阴影带。她说自己终于从“瞎猜”进化到“看图说话”。

实战应用场景

学习曲线不是课堂玩具。林小雨实习时，组里的模型线上准确率下滑，Leader 第一句话就是：“先画个学习曲线，看看是数据不够还是模型坏了。”实战中学习曲线最重要的用途是预估增数据的收益。假设当前样本量是 $n_1$，想评估是否值得花几万块购买标注数据到 $n_2$，只需看曲线在 $n_1$ 附近的斜率：

三个常见实战动作：模型上线前体检——用全量数据的子集画曲线，若存在严重高方差，先解决数据再谈上线；数据预算申请——向老板汇报“当前曲线斜率 0.15/千样本，买 5 万条预计提升 7 个点”，有理有据；模型迭代评审——对比两个模型的曲线，看谁在相同数据下 Gap 更小、平台更高。

林小雨把学习曲线比喻成体检报告上的“体重曲线”：不检不知道，一检吓一跳。每次训练完模型都顺手画一张，已经成为她的职业肌肉记忆。

AI 应用场景

Python 演示

import numpy as npimport matplotlib.pyplot as pltfrom sklearn.datasets import load_digitsfrom sklearn.ensemble import RandomForestClassifierfrom sklearn.model_selection import learning_curvefrom sklearn.tree import DecisionTreeClassifier  def plot_curve(model, pos, title):    X, y = load_digits(return_X_y=True)    sizes, train_scores, val_scores = learning_curve(        model, X, y, cv=5,        train_sizes=np.linspace(0.1, 1.0, 8),        scoring='accuracy'    )    train_mean = train_scores.mean(axis=1)    val_mean = val_scores.mean(axis=1)    train_std = train_scores.std(axis=1)    val_std = val_scores.std(axis=1)     ax = plt.subplot(1, 2, pos)    ax.fill_between(sizes, train_mean - train_std,                    train_mean + train_std, alpha=0.3, color='#818CF8')    ax.fill_between(sizes, val_mean - val_std,                    val_mean + val_std, alpha=0.3, color='#F43F5E')    ax.plot(sizes, train_mean, 'o-', color='#818CF8', label='train')    ax.plot(sizes, val_mean, 's-', color='#F43F5E', label='validation')    ax.set_title(title)    ax.set_xlabel('training samples')    ax.set_ylabel('accuracy')    ax.legend()    ax.grid(True)  plt.figure(figsize=(10, 4))plot_curve(DecisionTreeClassifier(random_state=42), 1, 'Decision Tree')plot_curve(RandomForestClassifier(n_estimators=100, random_state=42), 2, 'Random Forest')plt.tight_layout()plt.show()

1. learning_curve(model, X, y, cv=5, train_sizes=np.linspace(0.1, 1.0, 8))一次性算出 8 个样本量下、5 折交叉验证的训练/验证得分，返回三维数组。
2. train_scores.mean(axis=1)对交叉验证的 5 折取平均，得到每个样本量下的稳定得分，避免切分运气影响。
3. train_std / val_std标准差用于画阴影带，带子宽度反映模型对数据划分的稳定性。
4. ax.fill_between(...)在均值线周围填充透明度 0.3 的色带，一图看出波动范围。
5. train_sizes=np.linspace(0.1, 1.0, 8)从 10% 到 100% 均匀取 8 个训练集规模，曲线采样点密且均匀。

常见误区

面试题