Self-Instruct：让大模型自己给自己出题

可视化演示

展示从种子指令自举生成指令数据的完整流水线、ROUGE-L多样性去重相似度矩阵，以及合成数据与人工标注数据的性能对比。

为什么需要：练习册不能全靠手抄

老教师的办公室堆着厚厚一沓空白练习册，学生下个月就要考试，可编写新题的速度远远跟不上需求。如果每道题都请一位专家人工出题，成本高得离谱；如果直接拿旧题目应付，学生只会机械重复，能力提升有限。人工标注指令数据的困境正是如此：一条高质量指令、输入和输出，往往需要标注员反复推敲，算上质检和返工，成本可能接近数美元一条。要凑齐上万条指令来微调一个大模型，预算会迅速失控。

于是研究者想到一个反直觉的问题：既然大模型已经读过海量文本，也见过不少“提问-回答”的语料，能不能让它自己模仿种子题出题？这就是 Self-Instruct 的出发点。它不靠更多人工，而是靠模型自身的生成能力，把几十条种子指令扩展成几万条指令数据。和请专家逐条写题相比，这种“让模型自产数据”的方式能大幅降低数据构建的成本。

当然，免费的东西往往需要付出其他代价。模型生成的数据不一定准确，不一定符合人类偏好，还可能大量重复。因此 Self-Instruct 不是简单的“生成就完事”，而是一套“生成—过滤—去重—再训练”的闭环流程。它像一位勤快但粗心的老师，先出题，再自己审题，最后才把好题放进练习册。

从这个角度看，Self-Instruct 的关键不是“让模型会出题”，而是“如何低成本地出好题”。它用一小把高质量种子，换来一本可用的练习册，这正是它在数据工程中最迷人的地方。

种子指令：起点的几道好题

老教师很清楚，如果样例题本身很烂，后面的新题也会烂。所以他格外珍视手里的五道样例题，每道都覆盖不同的题型：有选择题、有简答题、有应用题。Self-Instruct 也一样，第一步需要人工准备一组种子指令，这些指令数量不用多，但必须覆盖不同的任务类型。

在原始论文中，研究者只用了 175 条人工编写的种子任务。这些任务涵盖了写作、改写、分类、问答、头脑风暴等多种指令类型，每条指令往往还配有一个或几个“输入-输出”实例。这些种子就像是老教师手里的“好题模板”，决定了大模型后续自举的方向和边界。如果种子只覆盖翻译，生成的数据就会偏向翻译；如果种子覆盖足够广，生成的数据才可能具备通用性。

种子指令的另一个作用，是让生成过程有迹可循。大模型并不是凭空变出新题，而是在提示词里看到若干条种子指令后，模仿它们的句式、格式和语气去续写新指令。这就像老师给学生看范文，学生照着范文的骨架写新作文。没有范文，写作容易跑题；有了几篇高质量范文，写作才可能稳定发挥。

所以种子指令是整个 Self-Instruct 流程的“起点”。它不需要多到堆满仓库，但需要精挑细选、分布合理。用一句话概括：花少量人工成本，买一个高质量的方向感。

自举生成：让模型模仿样题出题

有了种子指令后，老教师让助教对着五道样例题开始“仿写”。助教每看五道题，就尝试写出一道新题；接着再为新题配一个“题干背景”和“标准答案”；然后继续用这些新题作为样例，去生成下一道更新的题。这个过程是循环的，像滚雪球一样越滚越大。

Self-Instruct 的自举生成也是如此。它会构造一个提示词模板，把若干条种子指令和对应的输入输出放进模板，然后让大模型补全最后一条“新指令”。模型按词元逐个生成，每一步都根据已经生成的前缀来决定下一个词。形式上可以写成：

生成新指令只是第一步。模型还需要为每条新指令生成一个输入（可选）和期望输出。Self-Instruct 会设计“先生成输入再生成输出”和“先生成输出再生成输入”两种路线，并把它们都作为候选数据，从而增加样本的多样性。整个过程会反复迭代：一批新题通过后，又可以作为下一轮提示词里的样例，让雪球继续滚下去。

用老教师的比喻来说，自举生成就是“用已写出的好题当作新范文，继续仿写更多题”。大模型在这个过程中不断拿自己的产出喂给自己，这也是“自举”二字的含义。

质量过滤：把错题和废题挑出来

助教很勤奋，但也很粗心。他会写出“请描述图片内容”这种让纯文本模型无法完成的题，也会写出“输出为空”的题，甚至会把“输入”和“输出”混在一起。老教师知道，如果不把这些废题挑出来，练习册会被大量垃圾题污染。于是 Self-Instruct 设置了多道质量过滤规则。

第一道是无关词过滤。模型可能生成需要看图片、听音频、看图表的多模态指令，而当时的基座模型只能处理文本，所以凡是包含图片、图形、视频等敏感词的指令，都会被直接丢弃。第二道是检查输入输出是否完整、是否对应。如果指令要求“请回答”，却没有输入上下文，或输出为空，就会被判定为低质样本。第三道是让模型自己当“质检员”：用语言模型判断新任务是否合理、是否像一条可执行的指令。

这些过滤规则听起来朴素，却非常关键。没有它们，Self-Instruct 生成的数据里可能混入大量“看着像题、实际没法做”的废题。就像老教师不能把助教交上来的草稿直接装订成册，必须一道题一道题地审，宁可少收，不能收错。

经过质量过滤，数据集从“数量大”变成了“质量可用”。不过过滤之后还有一个隐藏问题：剩下的题可能彼此高度相似，这时就需要多样性去重登场了。

多样性去重：同一道题不要抄十遍

老教师发现，助教出题时有个偷懒习惯：把“帮我写一封信”改成“帮我写一封邮件”，就当作一道新题。表面上看题目数量很多，实际上只是同一道题的换皮。如果练习册里塞满这种近亲题目，学生刷十遍也学不到新东西。

Self-Instruct 也面临同样的问题。大模型生成的指令很容易在句式上高度雷同。为了解决这个问题，论文使用了基于 ROUGE-L 的相似度指标：比较两条指令文本的最长公共子序列，占较长文本的比例。如果比例超过阈值，就认为它们是重复的，只保留其中一条。

去重不仅能减少冗余，还能保护数据集的多样性。Self-Instruct 希望最终题库里的指令覆盖尽可能多的表达方式，而不是被少数几种句式垄断。多样性越强，模型在微调时见过的任务分布就越广，指令跟随能力也就越稳健。

回到老教师的练习册，去重就是“把同义反复的题目合并，只留最有代表性的一道”。这样一来，练习册页数少了，但训练价值反而更高。

效果评估：合成练习册用起来怎么样

练习册编好后，到底有没有用，老教师心里也没底。他决定先让班里成绩中等的学生试做，再和名师单独出题的学生对比。Self-Instruct 的效果评估思路与此类似：用合成数据微调一个大模型，再在公开基准上测试它的指令跟随能力。

原始实验中最常被引用的结果是：只靠 175 条种子任务生成约 5.2 万条指令数据，用这些数据微调 GPT-3，在 SuperNI 等指令理解基准上取得了显著提升，相对提升幅度可达约 33%。这说明合成数据并非“没有营养的刷题”，它确实能让大模型更清楚“用户要我做什么”。

但和人工标注数据对比时，合成数据并不总能完胜。人工数据质量更稳定、噪音更少，在事实性、开放域对话等任务上仍有优势。Self-Instruct 的优势在于性价比：它可以用不到人工数据十分之一的成本，把模型能力拉到接近大型人工数据集的水平。对很多资源有限的团队来说，这已经是非常划算的选择。

此外，Self-Instruct 还有不错的领域泛化能力。只要换一组领域相关的种子指令，它就能为金融、医疗、法律等垂直领域快速生成指令数据。就像老教师只要拿到几道物理样例题，就能让助教为物理试卷批量出题。当然，出题质量依旧依赖种子质量和后续筛选。

局限与展望：练习册还不能完全替代名师

老教师很快发现了练习册的不足：助教出题时偶尔会把错误答案写得一本正经，学生刷题后反而把错误记牢了。Self-Instruct 也有类似问题——模型生成的数据中若混入错误或偏见，这些错误会被“自产自销”的过程放大。因为后续微调模型学到的正是这些生成数据，一旦数据有系统性偏差，模型也会继承偏差。

另一个局限是多样性受种子指令限制。如果种子指令只有几种固定句式，无论生成多少条，最终都只是在同一片小区域里打转。Self-Instruct 不可能凭空创造完全超出种子分布的新任务。它更像一个“扩写器”，而不是“创造者”。

正因如此，后来的研究者提出了一系列改进思路：先用更强模型生成数据再用弱模型训练，让多种模型互相出题，或者在生成过程中加入更严格的人类偏好对齐。这些方法都可以看作 Self-Instruct 的后续演进。它没有解决所有问题，但打开了一扇门：数据不一定只能靠人写，模型自己也完全可以参与创造训练材料。

对从业者来说，理解 Self-Instruct 的局限比记住它的成功更重要。它是一本便宜但需要审校的练习册，而不是包治百病的名师讲义。只有把生成、过滤、去重、人类质检串成一条流水线，这本练习册才能真正发挥价值。

AI 应用场景

Python 演示

from difflib import SequenceMatcher  class SelfInstructDemo:    def __init__(self, seed):        self.seed_instructions = seed        self.candidate_instructions = []        self.kept_instructions = []        self.final_instructions = []        self.mock_new_instructions = [            "把这段商品文案改成朋友圈风格",            "请把用户投诉翻译成正式英文",            "用一句话总结这篇客服记录",            "为这张图片写一句宣传语",            "请回答关于天气的问题"        ]     def generate_candidates(self):        # 用种子指令仿造出候选新指令        for seed in self.seed_instructions:            for i in range(2):                new_item = "请仿照" + seed + "设计一个新任务" + str(i)                self.candidate_instructions.append(new_item)        # 模拟大模型额外生成的一些候选        for item in self.mock_new_instructions:            self.candidate_instructions.append(item)     def quality_filter(self):        banned = ["图片", "天气", "无法回答", "?", "？"]        self.kept_instructions = []        for item in self.candidate_instructions:            if len(item) < 4:                continue            if any(word in item for word in banned):                continue            self.kept_instructions.append(item)     def deduplicate(self, threshold=0.85):        result = []        for item in self.kept_instructions:            duplicate = False            for old in result:                similarity = SequenceMatcher(None, item, old).ratio()                if similarity > threshold:                    duplicate = True                    break            if not duplicate:                result.append(item)        self.final_instructions = result     def run(self):        self.generate_candidates()        self.quality_filter()        self.deduplicate()        return self.final_instructions  if __name__ == "__main__":    demo = SelfInstructDemo(["写一首关于秋天的诗", "把菜谱翻译成英文"])    result = demo.run()    print("最终保留指令数量:", len(result))    for instruction in result:        print(instruction)

1. self.seed_instructions = seed保存少量人工种子指令，相当于老教师手里的样例题。
2. generate_candidates(self)模拟大模型根据种子指令生成候选新指令，实际项目中可替换为语言模型 API。
3. banned = ["图片", "天气", "无法回答", "?", "？"]定义质量过滤规则，把涉及多模态或含糊表达的候选题丢弃。
4. len(item) < 4过滤掉过短的无效指令，这类指令往往缺少足够信息。
5. SequenceMatcher(None, item, old).ratio()用字符级相似度模拟 ROUGE-L 去重，相似度超过阈值就视为重复。
6. self.final_instructions = result保存去重后的最终指令列表，作为微调模型的数据集。

常见误区

面试题