想象一座藏书十亿册的巨型图书馆，管理员“老博”能记得每一本书的内容。你问他“李白和杜甫谁的作品流传更广？”，他不会去翻目录卡片，而是站在书架前，嘴里念念有词，一个词一个词地把答案“念”出来——“李白的……更有名……因为……”。他不是在搜索答案，而是在根据你的问题，不断猜测“下一个词最可能是什么”。这座图书馆就是大模型，馆藏是训练语料，老博的念念有词就是自回归生成，而他脑中快速锁定相关书籍的直觉，就是注意力机制。本文用“超能图书管理员”这条故事线，把大模型问答的八个核心考点串起来：从定义、Transformer 骨架、注意力、上下文学习，到微调对齐、提示工程、RAG 与面试实战。读完你会明白：面试官问的每一个“为什么”，本质都是在问“管理员是怎么找到答案的”。

岗位关联

对 AI 从业者而言，这不仅是背八股，而是建立“输入—模型—决策—评估”的系统直觉。面试中能讲出类比、能画流程、能谈权衡，是最有区分度的能力。

目录
  1. 可视化演示
  2. 一、核心概念——大模型问答是什么
  3. 二、基础架构——Transformer 骨架
  4. 三、注意力机制——缩放点积与多头
  5. 四、上下文学习——现学现卖
  6. 五、微调对齐——上岗培训
  7. 六、提示工程——问话的艺术
  8. 七、检索增强——知识保鲜
  9. 八、面试实战——答辩考核
  10. AI 应用场景
  11. Python 演示
  12. 常见误区
  13. 面试题

可视化演示

动态演示大模型问答精讲的核心机制，通过采集/分析/决策/反馈四种模式展示关键概念与交互流程。

本节配有交互动效（进入视口后自动加载，约 3KB）。

大模型问答精讲：Tran Transformer架构与自 预训练与微调范式 核心机制可视化 大模型问答精讲整体架构与关键组件

一、核心概念——大模型问答是什么

老博念答案的样子很特别：他不是背书，而是每次只蹦出一个字。你说“李白是”，他就接口“唐代的”；你说“唐代的”，他又接“浪漫主义诗人”。一句话就是无数个“下一个词”的预测拼接而成。这就是大模型问答的底层直觉——逐字预测。

形式化看，大模型本质是一个条件概率分布：已知问题 x 和已经生成的前缀 y_<t，预测下一个词 y_t。整个回答的概率等于每一步概率的连乘。训练时，模型在海量语料上最大化这个概率；推理时，按概率采样或贪心选词，把“猜”出来的词一个一个拼成完整答案。

老博每次只“猜”一个字，靠的是被十亿本书训练出来的语感；大模型也一样，训练语料决定了它的“语感”。面试中一问“什么是自回归”，你回答“逐词预测、条件于前缀”，再补一句“等价于管理员念答案”，印象分立刻不同。

P(y∣x)=∏t=1TP(yt∣y<t,x)P(\mathbf{y}|\mathbf{x}) = \prod_{t=1}^{T} P(y_t | \mathbf{y}_{<t}, \mathbf{x})
整个回答 y 在给定问题 x 下的概率，等于一个词一个词“猜对”的概率连乘。
  1. 条件概率符号P(y|x) 表示在问题 x 已知的前提下，回答 y 出现的概率
    P(y∣x)P(\mathbf{y}|\mathbf{x})
  2. 连乘符号∏ 表示把从第 1 到第 T 个词的概率全部乘起来
    ∏t=1T\prod_{t=1}^{T}
  3. 每个词的条件第 t 个词的概率，取决于问题 x 和已经生成的 t−1 个前缀词 y_<t
    P(yt∣y<t,x)P(y_t | \mathbf{y}_{<t}, \mathbf{x})

二、基础架构——Transformer 骨架

老博能快速定位，靠的是脑海中的巨量索引。这套索引对应 Transformer 骨架：词嵌入、多头自注意力、前馈网络、残差连接与层归一化，层层堆叠几十层。输入先被映射成向量，再经过编码器处理，最后输出下一个词的概率。

自注意力的核心操作是给每个词构造三个向量：Query（我在找什么）、Key（书脊标签）、Value（书的内容）。一个词的 Q 与所有词的 K 做相似度打分，分数归一化成权重，再对所有 V 加权求和。公式是：

老博翻书的“直觉”其实是索引在起作用。Transformer 给了模型一套可训练的“索引规则”，预训练阶段通过“预测下一个词”这种自监督信号，把索引规则打磨得越来越好。

Attention⁡(Q,K,V)=softmax⁡(QK⊤dk)V\operatorname{Attention}(Q,K,V) = \operatorname{softmax}\left(\frac{Q K^{\top}}{\sqrt{d_k}}\right) V
Q 是“我要找的关键词”，K 是“每本书的标签”，打分后把每本书的“内容”按相关度加权混合，形成这个词的上下文表示。
  1. 点积打分Q 与所有 K 做内积，得到每个位置的“相关度”分数
    QK⊤Q K^{\top}
  2. 缩放因子除以 √d_k 稳定分数尺度，避免 softmax 进入饱和区
    QK⊤dk\frac{Q K^{\top}}{\sqrt{d_k}}
  3. softmax 归一化把分数变成和为 1 的注意力权重
    softmax⁡(⋅)\operatorname{softmax}(\cdot)
  4. 加权求和用归一化后的权重去乘 V，得到最终输出
    softmax⁡(⋅)V\operatorname{softmax}(\cdot) V

三、注意力机制——缩放点积与多头

老博检索时不是平均用力，而是聚焦最相关的几本书。面试官常问：softmax 注意力里为什么要除以 √d_k？因为 Q 和 K 的每个分量近似独立，内积后的方差与维度 d_k 成正比；d_k 越大，分数越分散，softmax 越容易饱和，梯度不稳定。除以 √d_k 让方差回到 1 的量级。

score = z 的 softmax 定义为：

多头注意力相当于多个“检索员”同时工作，一个盯语法、一个盯实体、一个盯逻辑，最后把各头结果拼起来。复杂度是 O(n²)，所以输入越长，计算代价增长越快。老博“扫一眼书架就锁定三本书”，就是缩放点积注意力的功劳；头数越多，他同时关注的维度就越丰富。

softmax(z)i=ezi∑j=1nezj,z=QK⊤dk\mathrm{softmax}(z)_i = \frac{e^{z_i}}{\sum_{j=1}^{n} e^{z_j}},\quad z=\frac{Q K^{\top}}{\sqrt{d_k}}
softmax 把任意大小的分数压成 0~1 且总和为 1 的概率分布；缩放步骤保证这些分数“有区分度”。
  1. 指数函数e^{z_i} 把正数更大、负数更小，拉开分数差距
    ezie^{z_i}
  2. 归一化分母所有指数项求和，保证输出和为 1
    ∑j=1nezj\sum_{j=1}^{n} e^{z_j}
  3. 缩放后的 logitsz 是除以 √d_k 后的相似度分数
    z=QK⊤dkz=\frac{Q K^{\top}}{\sqrt{d_k}}

四、上下文学习——现学现卖

你给老博举个样例：“看到'翻译：你好'就输出'hello'”。他马上照葫芦画瓢，给“翻译：世界”接上"world"。这个过程没更新任何参数，只是把示例拼进了输入。这就是上下文学习（In-Context Learning, ICL）——模型从示例中临场归纳规则。

零样本（Zero-shot）不给示例直接下指令；少样本（Few-shot）给 3~8 个示例；思维链（CoT）则让模型先输出“因为……所以……”的中间推理，再给结论。条件概率变成：

老博“现学现卖”并没有重读新书，而是用已有知识模仿你的说话方式。这就是 ICL 的神奇之处——参数不动，能力却随示例变化，也是大模型“涌现能力”的体现。

P(y∣x,D)=∏t=1TP(yt∣y<t,x,D)P(\mathbf{y}|\mathbf{x},\mathcal{D}) = \prod_{t=1}^{T} P(y_t | \mathbf{y}_{<t}, \mathbf{x}, \mathcal{D})
把示例集合 D 也拼进输入，模型在生成时模仿 D 中的“问题→回答”模式。
  1. 示例集合D 是 k 个手工构造的问答对，作为“示范答案”放在 prompt 里
    D={(xi,yi)}i=1k\mathcal{D}=\{(x_i,y_i)\}_{i=1}^{k}
  2. 拼接条件示例 D 和当前问题 x 一起作为生成条件
    x,D\mathbf{x}, \mathcal{D}
  3. 逐词仿写每个位置的词概率都受示例模式影响
    P(yt∣y<t,x,D)P(y_t | \mathbf{y}_{<t}, \mathbf{x}, \mathcal{D})

五、微调对齐——上岗培训

预训练模型像通读群书但不懂礼貌的学者：什么都懂，但回答格式混乱、立场不稳。于是要做“上岗培训”——监督微调（SFT）。管理员拿着精美的标准答案集，学着把回答写得规范、得体。

全参微调成本太高，LoRA 冻结原权重 W，只训练低秩矩阵 BA，更新量是 W' = W + α·BA，参数量减少几个数量级。RLHF 则再进一步：先训练一个奖励模型给回答打分，再用强化学习 PPO 让生成策略最大化奖励。SFT 阶段的训练目标是交叉熵：

培训（SFT）让老博懂礼貌，奖金考核（RLHF）让他更懂得察言观色、按人类偏好作答。面试时提到“先 SFT 再 RLHF”，面试官就知道你区分得清“能力”与“对齐”两件事。

LSFT=−1∣Y∣∑y∈Ylog⁡P(y∣x)\mathcal{L}_{\mathrm{SFT}} = -\frac{1}{|\mathcal{Y}|} \sum_{y\in\mathcal{Y}} \log P(y | x)
让模型给“标准答案”分配更高的概率，本质是教他“模仿好回答的样子”。
  1. 负对数概率最小化 −log P，等价于最大化标准答案的条件概率
    −log⁡P(y∣x)- \log P(y|x)
  2. 对所有样本平均对所有标准答案的损失取平均，避免被长样本支配
    1∣Y∣∑y∈Y\frac{1}{|\mathcal{Y}|}\sum_{y\in\mathcal{Y}}
  3. 对数运算log 把连乘变连加，数值更稳定，也方便梯度计算
    log⁡P(y∣x)\log P(y|x)

六、提示工程——问话的艺术

同样问“介绍李白”，你说“你是一位唐代文学专家，请用三句话介绍李白，先给结论再举例”，老博的答案会明显更结构化。提示工程研究的就是“如何把意图表达清楚”——会提问的客户，总能拿到更满意的答案。

常用技巧包括：角色设定、结构化模板、思维链引导、少样本示例、输出格式约束。其中“温度”参数 τ 直接控制生成的随机性——τ 小则保守，τ 大则发散。温度采样的公式是：

提示工程不是“魔法咒语”，而是通过结构化信息把模型已有的能力引导出来。面试中能说出“提示是推理时对条件分布的隐式约束”，就是加分项。

P(yt)=exp⁡(zt/τ)∑iexp⁡(zi/τ)P(y_t) = \frac{\exp(z_t / \tau)}{\sum_{i} \exp(z_i / \tau)}
τ 很大时各词的差距被抹平，回答更天马行空；τ 很小则几乎总是选最高分的词。
  1. 除以温度把每个词的 logits 先除以 τ，再进入 softmax
    zt/τz_t / \tau
  2. 指数与归一化与普通 softmax 相同的指数与分母
    exp⁡(zt/τ),∑iexp⁡(zi/τ)\exp(z_t / \tau), \quad \sum_i \exp(z_i / \tau)
  3. 极限行为τ→0 退化为贪心取最大概率，τ→∞ 退化为均匀随机
    lim⁡τ→0P(yt)=1[zt=max⁡izi]\lim_{\tau\to 0}P(y_t)=\mathbb{1}[z_t=\max_i z_i]

七、检索增强——知识保鲜

老博的知识停留在“入职考核”那天（训练数据截止）。用户问 2026 年的事，他只能编。RAG 的解法是给老博配一个小书车：最新资料切块、向量化存进向量库；收到提问时，先检索最相关的 Top-k 块，把它们和问题拼进 prompt，再让老博基于材料回答。

检索质量决定了答案上限，所以 RAG 的瓶颈常在“没检索到”而非“模型不会答”。工程上常用混合检索（BM25 + 向量）、重排序、引文回源来提升。形式化一点：

给老博配一个小书车，需要时翻开参考书再开口——RAG 让大模型“知识保鲜”。实际落地时，客户最满意的功能往往不是模型变聪明，而是回答能“引用出处”。

P(y∣x)≈∑z∈Topk(q(x))P(y∣x,z) P(z∣x)P(\mathbf{y}|\mathbf{x}) \approx \sum_{z \in \mathrm{Topk}(q(\mathbf{x}))} P(\mathbf{y}|\mathbf{x}, z)\, P(z|\mathbf{x})
先按相关性挑出若干资料片段 z，再基于片段和问题生成答案；选不中片段，答案就容易掉链子。
  1. Top-k 检索从向量库中取出与问题 x 最相似的 k 个片段
    Topk(q(x))\mathrm{Topk}(q(\mathbf{x}))
  2. 边缘化求和把每个片段的贡献按检索概率加权求和（简化实现常只取 top 片段）
    ∑z∈Topk(⋅)\sum_{z \in \mathrm{Topk}(\cdot)}
  3. 生成条件答案的生成同时依赖原始问题和检索到的片段
    P(y∣x,z)P(\mathbf{y}|\mathbf{x}, z)

八、面试实战——答辩考核

面试官的问题总围绕着几个主题：幻觉怎么办、用什么指标看好坏、从原理到落地你的完整思路是什么。这要求你形成一套有层次、可迁移的回答框架。

我的建议是“四步框架”：第一步“定问题”——这是生成问题、检索问题还是对齐问题？第二步“讲原理”——用条件概率、注意力、loss 说明根因；第三步“给方案”——事实类用 RAG、风格类用 LoRA 微调、推理类用 CoT 提示；第四步“评指标”——用困惑度（PPL）看语言建模质量，用人工评估看真实效果。PPL 的公式是：

面试就是一次“管理员考核”：原理讲得清、工程想得全、取舍说得明，才是面试官要的人。记住框架，比死记硬背一百道八股更管用。

PPL=exp⁡(−1N∑i=1Nlog⁡P(wi∣w<i))\mathrm{PPL} = \exp\left(-\frac{1}{N}\sum_{i=1}^{N}\log P(w_i | w_{<i})\right)
模型给真实文本分配的概率越高，PPL 越低，说明它对语言的“惊讶程度”越小。
  1. 平均负对数概率每个词的对数概率取负、求和、再平均
    −1N∑i=1Nlog⁡P(wi∣w<i)-\frac{1}{N}\sum_{i=1}^{N}\log P(w_i|w_{<i})
  2. 指数还原把平均负对数似然变成“等价的均匀分支数”
    exp⁡(⋅)\exp(\cdot)
  3. 词级条件第 i 个词在历史前缀条件下的概率
    P(wi∣w<i)P(w_i | w_{<i})

AI 应用场景

场景一：企业智能客服的“外挂知识库”

阶段：应用落地与推理部署

解决的问题：传统 FAQ 客服只能命中关键词，遇到长尾问题就“对不起，没有理解”；直接用大模型回答又容易一本正经地胡说。RAG 把企业文档切片向量化，检索到答案片段后让大模型改写润色并附引文，兼顾“知识保鲜”与“忠实可查”。

具体案例：某银行把 3000 份产品说明打入向量库，客户问“跨行转账手续费怎么收”，系统先检索到对应条款，再由大模型生成简洁回复，并在末尾标注引用文档编号，投诉率下降 40%。

场景二：代码助手的“示例驱动补全”

阶段：上下文学习与提示工程

解决的问题：传统 IDE 补全只做语法级匹配，无法理解“用户想排序还是去重”。基于大模型的代码助手把光标前的代码、注释、函数签名当作“示例上下文”，通过 In-Context Learning 自动推断意图，补出符合风格的代码。

具体案例：Copilot 在用户写下“# 去重并按价格降序”后，直接生成 sorted(set(items), key=lambda x: x.price, reverse=True)。它没有重新训练，只是利用了示例和注释构成的上下文。

场景三：内容平台的风控与质量把关

阶段：对齐与评测

解决的问题：每天百万条 UGC，纯规则模型误杀率高，人工审核成本大。通过 SFT 微调轻量审核模型、用 RLHF 对齐平台规范，再配合 PPL 与概率阈值做实时监控，实现“机器初审 + 人工抽检”。

具体案例：某社区用微调后的 7B 模型对文本做风险分级，PPL 异常高的内容进入人工队列，既控制了误杀，又让人工只处理最有价值的部分。

Python 演示

python62 行
"""极简 bigram 语言模型：演示大模型问答的 next-token 思想"""import mathimport refrom collections import Counter, defaultdict  class BigramLM:    def __init__(self):        self.bigram_counts = defaultdict(Counter)  # 前词 -> {后词: 次数}        self.total_counts = defaultdict(int)       # 前词 -> 总次数     def train(self, texts):        for text in texts:            words = re.findall(r"\S+", text)            for prev, nxt in zip(words, words[1:]):                self.bigram_counts[prev][nxt] += 1                self.total_counts[prev] += 1     def next_probs(self, prev_word):        counter = self.bigram_counts[prev_word]        total = self.total_counts[prev_word]        if total == 0:            return None        return {word: cnt / total for word, cnt in counter.items()}     def generate(self, prefix_word, n_tokens=6):        cur_word = prefix_word        out = [cur_word]        for _ in range(n_tokens):            probs = self.next_probs(cur_word)            if not probs:                break            cur_word = max(probs, key=probs.get)  # 简化: 贪心取最可能词            out.append(cur_word)        return " ".join(out)     def perplexity(self, texts):        log_prob, n = 0.0, 0        for text in texts:            words = re.findall(r"\S+", text)            for prev, nxt in zip(words, words[1:]):                probs = self.next_probs(prev)                log_prob += math.log(probs.get(nxt, 1e-12))                n += 1        return math.exp(-log_prob / n)  def main():    corpus = [        "大模型 问答 是 面试 高频 考点",        "注意力 机制 是 大模型 的 核心",        "训练 大模型 需要 大量 数据",        "检索 增强 生成 可以 降低 幻觉",    ]    lm = BigramLM()    lm.train(corpus)    print("生成结果:", lm.generate("大模型", 6))    print("困惑度:", round(lm.perplexity(corpus), 4))  if __name__ == "__main__":    main()
目的：用 bigram 统计语言模型模拟“逐词预测”的问答过程，并计算困惑度 PPL，帮小白直观理解大模型问答的最简原理。
  1. self.bigram_counts = defaultdict(Counter)用嵌套字典记录“前词→后词→次数”，模拟模型的记忆。
  2. for prev, nxt in zip(words, words[1:])滑窗取相邻词对，把句子拆成一个个“前词→后词”的转移样本。
  3. cnt / total用频率估计转移概率，等价于极大似然估计。
  4. max(probs, key=probs.get)贪心选取概率最大的下一个词，这是真实采样的一种简化。
  5. math.exp(-log_prob / n)按 PPL 公式把平均负对数似然换算成困惑度。

常见误区

误区“大模型不就该记住我的名字和上次聊的话题吗？每次打开新对话它忘了，肯定是产品做得烂。”

正解大模型本身是“无状态”的。它没有记忆存储，只在当前上下文窗口里看到你拼接的文本。聊天产品让你感觉“有记忆”，是因为系统把历史消息重新塞进了 prompt。就像老博只在手边有小纸条时才知道你叫什么，纸条一丢他就忘了。

为何常见：人脑的对话记忆是天然自带的，用户容易把“智能”等同于“记得我”，忽略了上下文窗口机制的存在。

误区“模型胡编乱造，肯定是训练数据不够或者训练步数不够，多加些数据多训几轮就好了。”

正解幻觉源于解码机制本身——模型本质是最大化概率的“接话者”，它没有事实数据库做校验。训练只能提升语感，无法解决“知识截止”与“事实判定”问题。工程上更有效的手段是 RAG（外部证据）、工具调用（查 API）和对齐约束（让模型说“不知道”）。

为何常见：人们把“生成文本的流畅度”和“事实正确性”混为一谈，以为训练得越好就越接近百科全书。

误区“把模型上下文从 4K 扩到 128K，长文理解问题就全解决了。”

正解上下文窗口是“能装多少”，不是“能理解多少”。注意力是加权混合，内容越长，中间部分越容易被头尾稀释（Lost in the Middle）。实际长文本任务常配合分块、检索、摘要降维使用。老博的桌面堆了一万本书时，他一样会找不到想要的那本。

为何常见：厂商宣传“超长上下文”时，用户自然把它等同于“超强理解”，忽略了注意力的瓶颈。

误区“我把公司文档几万条一股脑喂给模型继续训练，不就是微调了吗？”

正解微调有明确的范式：数据要配对（instruction + response）、任务要聚焦、超参要谨慎，还要防止灾难性遗忘。直接拿原始文档做续训，模型可能学到的只是“背文档”，而不是“按规范回答”。LoRA 之所以流行，就是因为它用低秩增量在“学会新任务”与“保留旧能力”之间做权衡。

为何常见：“训练”这个词在大众语境里太宽泛，很多人不知道预训练、SFT、RLHF 是三种目的完全不同的阶段。

面试题

Q1. 大模型自回归生成时，每一步在做什么？

单选题 · easy

  • A.从词表选出概率最高的下一个词← 正确答案
  • B.从数据库检索最相似的答案
  • C.对整个回答重新规划后输出
  • D.调用外部搜索引擎获取结果

答案：A。自回归生成的核心是逐词预测：每一步只生成下一个词，且条件于问题与已生成前缀。B/C/D 都对应检索或规划式架构，不符合自回归的“下一个词”思想。就像老博念答案，一个字一个字地“猜”。

Q2. softmax 注意力中除以 √d_k 的主要目的是什么？

单选题 · easy

  • A.稳定点积方差，避免梯度异常← 正确答案
  • B.让注意力分数变为整数
  • C.提高矩阵乘法的并行效率
  • D.让训练时更不容易过拟合

答案：A。Q 和 K 的内积方差随维度 d_k 增大而增大，softmax 容易进入饱和区导致梯度过小。除以 √d_k 让方差回到 1 量级，训练更稳定。这就像老博打分时先统一量纲再看排名。

Q3. 下列哪种方法最直接缓解大模型的幻觉问题？

单选题 · mid

  • A.增大上下文窗口的长度
  • B.接入检索增强生成 RAG← 正确答案
  • C.提高温度采样参数大小
  • D.增大训练时的批大小

答案：B。幻觉根因是模型在“编概率高的词”而非“查事实”。RAG 通过检索外部证据约束生成，直接把答案建立在引文上，是工程上最直接的手段。增大窗口或温度反而可能加剧问题。

Q4. LoRA 微调的核心训练方式是什么？

单选题 · mid

  • A.全量更新模型所有参数
  • B.冻结原权重训练低秩矩阵← 正确答案
  • C.只更新嵌入层的词向量
  • D.用强化学习重训整个底座

答案：B。LoRA 冻结预训练权重 W，只训练低秩增量 BA，推理时叠加为 W+BA。参数量缩小几个数量级，显存与训练成本大幅下降。这相当于给老博戴一副“新眼镜”，而不是让他重新读书。

Q5. 思维链（CoT）提示为什么能提升复杂推理能力？

单选题 · hard

  • A.显式分解多步推理过程← 正确答案
  • B.减少模型对数据的依赖
  • C.融合多个模型的输出投票
  • D.用外部工具校验每一步结果

答案：A。CoT 让模型先输出中间推理步骤，把“从 A 到 D 的一步跳跃”拆成"A→B→C→D"的多步生成，每一步的推理负担变小，也减少了中间信息丢失。它不是多模型投票，也不需要外部工具。

Q6. RLHF 完整的三阶段顺序是什么？

单选题 · extreme

  • A.训练奖励模型、监督微调、PPO 优化
  • B.监督微调、训练奖励模型、PPO 优化← 正确答案
  • C.PPO 优化、监督微调、训练奖励模型
  • D.监督微调、PPO 优化、训练奖励模型

答案：B。顺序必须是先 SFT 让模型具备基本对话能力，再训练奖励模型打分（数据来自人类偏好），最后用 PPO 让策略最大化奖励。颠倒顺序会“没有可优化策略”或“没有奖励信号”。像先培训再定绩效再发奖金。

Q7. 困惑度（PPL）越低，说明模型在验证集上表现怎样？

单选题 · hard

  • A.模型对数据的概率建模越好← 正确答案
  • B.模型生成的文本长度越短
  • C.模型参数量缩减得越小
  • D.模型训练样本数更少

答案：A。PPL 是平均负对数似然的指数，模型给真实文本分配的概率越高，PPL 越低，表示它对数据的“惊讶程度”越小、建模越好。它衡量概率质量，与文本长度、参数量、样本量无直接关系。

Q8. 以下哪个参数对生成结果的随机性影响最大？

单选题 · easy

  • A.采样温度参数取值← 正确答案
  • B.训练时学习率大小
  • C.优化器权重衰减值
  • D.神经元随机失活率

答案：A。温度 τ 在推理时调节 softmax 分布的平滑度，τ 越大输出越多样，越小越保守。学习率、权重衰减、Dropout 都是训练阶段的超参，不直接影响推理随机性。

Q9. 以下哪些属于提示工程（Prompt Engineering）的常用技巧？

多选题 · mid

  • A.为模型设定角色身份← 正确答案
  • B.提供少样本参考示例← 正确答案
  • C.要求输出 JSON 结构← 正确答案
  • D.换一块更高端的显卡

答案：ABC。角色设定、少样本示例、输出格式约束都是通过改写输入来引导模型行为的提示技巧。D 是基础设施优化，不属于提示工程。提示工程不改变模型权重，只改变“问法”。

Q10. 大模型问答系统的常见评测维度有哪些？

多选题 · mid

  • A.回答准确性与忠实度← 正确答案
  • B.回答多样性与创造力← 正确答案
  • C.推理延迟与成本开销← 正确答案
  • D.精确匹配训练样本量

答案：ABC。系统性评测既要看答案是否正确、是否忠于检索证据，也要看生成风格是否多样、以及部署时的延迟与成本。D 是训练阶段的数据指标，不是问答效果评测维度。