自指令与Evol-Instruct：从五道拿手菜到满汉全席

可视化演示

展示Self-Instruct从种子指令滚雪球扩展和Evol-Instruct进化增强两种数据构建方法的核心流程与对比。

指令数据概览

开餐厅首先要解决“菜谱从哪来”。同理，想让大模型学会听懂人话并漂亮地完成任务，监督微调（SFT）需要大量“指令—回答”对。指令是顾客的点单，回答是后厨端出的菜。没有足够菜单，后厨再厉害也应付不了千奇百怪的需求。

现实中人工标注指令数据非常昂贵：请一位专业标注员写 100 条高质量指令要好几小时，还难免带有个人风格、覆盖不全。这就像你主厨一个人把几百道菜都写出来，既慢又单调。于是业界开始寻求自动化：让模型自己生产训练材料，人工只做“质检”。

不过，自动构建不是瞎编。它需要一个清晰的数据结构来承载。指令数据集可以形式化定义为：

所以，SFT 的第一步就是造一个 D。Self-Instruct 和 Evol-Instruct 正是两条自动化造 D 的道路。方向清楚了，我们先进第一扇门：Self-Instruct。

Self-Instruct原理

Self-Instruct 的核心思路是“让模型当厨师，照着老菜谱做新菜”。你不需要手写几百条指令，只需要准备几十条高质量的种子指令，再把它们作为示例喂给大模型，让模型模仿新写一批指令、输入和输出。这就像让新厨师先尝五道招牌菜，然后说“照着这个风格，再创作十道”。

具体流程是：先建一个种子指令池，每条指令配上输入/输出；然后构造一个生成提示，让 LLM 批量产出候选新指令；接着对新指令做一轮过滤去重，剔除不合格项；最后把幸存者放回池子，作为下一轮生成的参考。如此反复多轮，池子就会像滚雪球一样膨胀。每一轮迭代可以被写成一个简洁的递推公式：

Self-Instruct 的关键在于生成提示中必须给出不同任务的示例，这能引导模型覆盖丰富领域。否则厨师只会围着烤鸭打转，菜单越翻越像同一道菜。所以，种子指令的多样性直接决定了扩展方向的广度。

数据质量控制

菜单厚了，但质量也得把关。你可以想象品控团队每天的工作：第一，新菜不能和菜单上已有菜太像；第二，卖相口味要达标；第三，菜品种类要覆盖不同顾客群体。对应到数据构建，就是去重、质量打分和多样性采样。

相似度去重非常关键。如果两条指令只是换了个说法，语义几乎一致，模型在训练时就会反复学习同一种模式，导致泛化能力差。工程上常用 ROUGE-L 或句向量余弦相似度衡量两条指令的接近程度。质量打分则依赖规则或小型评分模型：太短、无意义、包含敏感词、回答不完整都会被标记为坏菜。综合起来，一条候选指令是否保留可以写成如下判断：

多样性的另一个重要手段是采样：当一批新指令同时涌入时，优先选择与现有池相似度最低的那些，这样能够用更少的数据覆盖更广的任务类型。质量控制不是一次性的，而是每一轮 Self-Instruct 都要跑的例行检查。

Evol-Instruct原理

Self-Instruct 解决了“宽度”问题，但很多高难度任务不能靠简单指令覆盖。就像顾客想吃“分子料理”时，普通炒蛋就不够看了。Evol-Instruct 的思路是：让 LLM 把已有指令往深处演化——加约束、加步骤、具体化场景、要求逐步推理，从而制造出复杂度更高的训练样本。

演化方向通常分两类：深度演化（Deep Evolve）和广度演化（Breadth Evolve）。深度演化让指令更难，比如把“解释水循环”升级为“用初中生能听懂的语言，分四个步骤解释水循环，并各举一个城市洪涝的例子”。广度演化则把指令迁移到新场景，比如把“写邮件”升级为“写一封给客户的售后道歉邮件，语气要诚恳且不推卸责任”。演化之后，还需要一个复杂度评估步骤，防止模型把指令改得模棱两可甚至退化。它的核心约束可以写成：

Evol-Instruct 的产出和 Self-Instruct 可以合流。先让 Self 把数据量扩上来，再从中挑一批基础指令做深度演化，就能得到一个既有广度又有深度的 SFT 数据集。

方法对比取舍

开餐厅选择多条腿走路时，要清楚每条路擅长什么。Self-Instruct 是“开分店”：靠模板和迭代迅速增加菜品覆盖面，成本低、速度快，但容易出现大量相似指令，复杂推理能力偏弱。Evol-Instruct 是“做招牌”：专注把菜做精做深，产出高难度指令，对提升模型推理有帮助，但演化过程消耗更多算力，且指令过难可能让模型学不动。

实际选型要看业务目标。如果你的模型主要做文案写作、日常问答，Self-Instruct 的广覆盖更划算；如果模型要处理数学推理、代码生成、复杂决策，Evol-Instruct 的价值更大。两者不是竞争关系，而是前后脚关系：数据量不足时先用 Self-Instruct 补量，基础量够了再用 Evol-Instruct 精选提质。

从成本维度看，Self-Instruct 一轮生成可能只要一次普通推理，Evol-Instruct 则要多次尝试演化并筛选，成本更高。因此不少团队采用“双速”策略：80% 预算走 Self 扩量，20% 预算走 Evol 提质。这就像后厨既保留大锅菜满足翻台率，又设一个创意料理台打造口碑菜。

落地实践指南

把理论变成后厨标准流程，最直接的方式是复用开源工具。早期的 Stanford Alpaca 项目公开了 Self-Instruct 的数据生成脚本，你可以准备种子数据、调用大模型 API，一键生成数万条指令。WizardLM 则开源了 Evol-Instruct 的实现，可以配置深度/广度演化的轮数。这些工具像现成的锅铲，不需要从零造。

落地时先算总账。指令数据集通常由三部分组成：人工种子、Self 扩展、Evol 升级。总规模可以表达为：

实际操作中，建议先跑一个小规模试吃：用 100 条种子生成 2000 条数据，人工抽检 50 条，看质量和重复度。满意后再放大到十万级。同时别忘了把高质量种子和最终数据集一起喂给 SFT 训练，让模型既见多识广又精通难题。

AI 应用场景

Python 演示

# Simplified Self-Instruct-like data generation demoimport randomimport re SEEDS = [    "用一句话解释什么是机器学习",    "把下列句子翻译成英文：今天天气很好",    "写一首关于春天的五言绝句",    "总结这篇文章的三个要点",] TEMPLATES = [    "请用通俗语言解释{concept}",    "给{audience}写一封关于{event}的邮件",    "列出{count}个关于{topic}的建议",    "将文本改写成更正式的版本：{text}",] CONCEPTS = ["区块链", "量子计算", "递归神经网络", "数据增强"]AUDIENCES = ["客户", "老板", "小学生", "新人同事"]EVENTS = ["项目延期", "产品发布", "团队扩展", "预算调整"]TOPICS = ["时间管理", "代码规范", "团队协作", "自我提升"]TEXTS = ["这个功能下周上线", "预算需要再审批一次", "模型效果不错但有点慢"] def replace_placeholders(inst):    for c in CONCEPTS:        inst = inst.replace("概念", c)    for a in AUDIENCES:        inst = inst.replace("某人", a)    return inst def generate_new(seed_num=10):    dataset = []    seen = set()    for seed in SEEDS:        if seed not in seen:            dataset.append(seed)            seen.add(seed)    for _ in range(seed_num):        template = random.choice(TEMPLATES)        inst = template.format(            concept=random.choice(CONCEPTS),            audience=random.choice(AUDIENCES),            event=random.choice(EVENTS),            count=random.randint(2, 5),            topic=random.choice(TOPICS),            text=random.choice(TEXTS),        )        if inst not in seen:            dataset.append(inst)            seen.add(inst)    return dataset def simple_filter(items):    result = []    for item in items:        if len(item) < 5:            continue        if re.search(r"失败|错误", item):            continue        result.append(item)    return result def dedup_simple(items):    return list(dict.fromkeys(items)) if __name__ == "__main__":    random.seed(42)    data = generate_new(seed_num=12)    data = simple_filter(data)    data = dedup_simple(data)    print("Generated instruction dataset:")    for i, inst in enumerate(data, 1):        print(f"{i}. {inst}")    print(f"Total: {len(data)}")

1. SEEDS = [...]人工编写的种子指令，对应餐厅的招牌菜底本。
2. TEMPLATES可变指令模板，模仿“模型生成新指令”的提示模板。
3. random.choice(TEMPLATES)随机选择一种指令模板，模拟模型从任务示例中创作。
4. if inst not in seen完全一致的去重，防止相同指令重复进池。
5. simple_filter规则过滤：太短或含敏感词的指令被淘汰。
6. dedup_simple再跑一遍保序去重，确保最终数据干净。
7. datasets.append(seed)先把种子加入数据池，保证扩展从可靠基础出发。

常见误区

面试题