基础Prompt技术：Zero-shot直接推理

可视化演示

展示零样本提示流程（指令→模型→输出）、Zero-shot与Few-shot对比、直接推理置信链三种模式。

概念内涵

小零刚进公司，你让他写一份项目周报。你没有给他任何历史周报模板，只是说：“请把本周完成的进展整理成三条要点。”他略一思考，就写出了结构清晰的周报。这个场景在 Prompt 工程里，就叫作 Zero-shot 直接推理：提示词中不包含任何任务示例，模型仅凭指令和输入直接给出答案。

“零样本”并不是指模型一无所知。小零读过海量书籍和资料，只是没看过你公司的作业范例。大模型也是一样，它在预训练阶段已经掌握了大量语言模式、事实知识和推理能力。当你给出指令时，它只是把已有能力调用起来。与少样本相比，少样本会给你两三个例子让模型照着做，而零样本一个例子都不给。

从数学角度看，零样本直接推理可以理解成一个在候选答案中挑选概率最高的过程：

回到比喻：小零不是没有知识，他只是没见过你的工作模式。你的一句指令，能把他的知识储备“点亮”。零样本直接推理，就是这种“不给模板也能干活”的能力。

工作原理

为什么小零能直接干活？因为他入职前已经读过海量资料，脑中积累了丰富的知识。大模型也一样，它的“入职资料”就是预训练阶段的互联网文本。在这个阶段，模型学会了词语之间的关系、事实常识、对话方式，甚至一部分推理能力。

当你给它一段指令时，模型会先理解指令中的任务目标和输入内容，然后开始一个词一个词地生成答案。这种生成方式叫作“条件生成”：每一步都在已经生成的内容基础上，预测下一个最可能的词。整个输出句子的概率，就是每一步概率的连乘。

“预训练知识”就像是小零的底子，“指令理解”是任务单，“条件生成”则是他落笔的方式。三者合在一起，零样本直接推理才能成立。

指令设计

同样让小零写周报，任务单写得不同，结果可能完全不同。如果你只说“写个总结”，他会写得含糊；如果你说“用三条要点总结，并给出下一步计划”，他会写得清楚得多。在零样本直接推理中，指令就是任务单，设计质量直接影响输出质量。

指令设计有三件套：任务描述要说清楚“做什么”；角色设定可以让模型进入特定状态；输出约束则限制答案的格式。比如要求“用 JSON 返回”“不超过三句话”“只输出结果不解释”，都能让模型的输出更加可控。

引入格式约束后，模型的输出概率可以看作在原分布上做了一个过滤：

给小零一张清楚的任务单，他就不会在格式上自由发挥。指令设计的目的，就是让模型在正确的轨道上完成直接推理。

质量因素

不是所有任务交给小零都能一次成功。同样是一条分类任务，给小号模型做可能出错，给大号模型做可能轻松完成。这说明零样本直接推理的效果，不是一个固定值，而是一个受多种因素影响的结果。

第一个因素是模型能力：模型越大、预训练数据越丰富，零样本能力通常越强。第二个因素是任务难度：简单的情感倾向判断容易，复杂的多步推理就难。第三个因素是提示歧义：如果指令本身含糊，哪怕模型再强，也容易猜错方向。

要衡量这些因素，可以用成功率来评估模型在测试任务上的表现：

如果小零在一次任务上失败了，不要急着下结论。多换几条任务，计算成功率，才能判断到底是任务太难、模型太弱，还是指令没写清楚。

应用场景

小零能力不错，很快被派到客服部、档案室和会议室。在真实工程中，零样本直接推理最常见的场景有三类：文本分类、信息抽取和对话摘要。它们都有一个共同特点：任务目标明确，不需要复杂推理，正好发挥模型“读得多、会听话”的优势。

比如文本分类，你告诉模型“把这条评论分为正面或负面”，模型会根据语义直接给出标签。它本质上是在候选标签之间做一个概率比较，分数最高的标签胜出。这个比较过程可以用 softmax 来表示：

小零在客服部的第一步，就是先凭常识给工单打标签。等系统上线后，再用人工校验不断优化。零样本直接推理的价值，就是让 AI 系统能以最快速度“先跑起来”。

局限对策

小零也有短板。遇到他完全没读过的行业黑话，他会靠猜；你让他必须输出 JSON，他偶尔会多一句废话；遇到需要多步计算的复杂问题，他更是容易翻车。这就是零样本直接推理的局限：知识偏差、格式不稳、复杂任务失效。

知识偏差来自训练数据的不平衡，模型更偏好常见的答案。格式不稳是因为模型天然喜欢自然语言，而不是严格的代码结构。复杂任务失效则是因为没有示例时，模型缺少模仿的依据。这时候最直接的对策，就是“增加示例”——从零样本切换到少样本。

增加示例是否值得，可以用准确率提升幅度来判断：

不要让小零硬撑。当他明显搞不定时，给他一两个高质量示例，让他照着学，往往比反复修改指令更有效。

评估优化

想要让小零越用越顺手，就需要一套评估和优化流程。第一步是构建测试集：收集一批具有代表性的输入和标准答案。第二步是多次采样：因为模型生成有随机性，同一条指令可能得到不同结果。第三步是迭代调优：根据错误案例不断修改指令。

评估时不能只看“准确率”，还要关注模型会不会把不该当作正类的样本也归为正类。这时就需要综合精确率和召回率，计算 F1 值：

评估不是为了让小零“考试”，而是为了找到他最容易出错的地方。用数据代替感觉，用反馈代替猜测，零样本提示词才能越来越稳定。

AI 应用场景

Python 演示

from transformers import pipeline  def main():    # 加载一个支持多语言的零样本分类模型    classifier = pipeline(        "zero-shot-classification",        model="MoritzLaurer/mDeBERTa-v3-base-mnli-xnli-multilingual-90m"    )     # 给模型一条待分类的输入文本    text = "今天发布的新旗舰手机，续航大幅提升。"     # 告诉模型只能从这三个候选标签里选    candidates = ["科技", "生活", "娱乐"]     # 零样本直接推理：不给任何示例    result = classifier(text, candidate_labels=candidates)     # 打印每个候选标签对应的置信度    for label, score in zip(result["labels"], result["scores"]):        print(f"{label}: {score:.2f}")  if __name__ == "__main__":    main()

1. classifier = pipeline("zero-shot-classification", ...)加载一个现成的零样本分类模型，相当于把小零这个实习生招进来。
2. text = "今天发布的新旗舰手机，续航大幅提升。"这是待分类的业务输入，也就是任务中的 x。
3. candidates = ["科技", "生活", "娱乐"]这行代码告诉模型候选答案只能从这三项里选。
4. result = classifier(text, candidate_labels=candidates)核心调用，不给示例，只给输入和标签集合，模型直接推理。
5. for label, score in zip(...)遍历输出结果，把标签与置信度打印出来，方便我们判断模型的把握有多大。

常见误区

面试题