想象你常去的那家老字号餐厅,忽然挂出了“旗舰店开业”的招牌。新店的后厨从两三个人扩张成一支分工明确的大团队,菜单从单一菜系变成涵盖冷菜、热菜、甜品、汤品的全感官盛宴,连领班都拥有了惊人的记忆力,能记住每位熟客的忌口与偏好。这就是 GPT-5 系列给人的第一印象——OpenAI 新一代旗舰模型,在模型规模、推理能力、多模态理解、长上下文处理等多个维度同时完成了一次系统性升级。 不过,旗舰店并不是“一切推倒重来”。它保留了老店的经典菜单(就像 GPT-5 与 GPT-4 的延续关系),也把招牌菜做成了外卖档口(对应小语言模型与端侧 AI 生态)。这篇文章会带你把 GPT-5 的六大亮点逐一看懂:后厨有多豪华、烹饪有多讲究、体验有多立体、包间有多大、比老店强在哪,以及它如何反哺小模型生态。全程不用公式堆砌,只用“开餐厅”的常识带你走进大模型的世界。

岗位关联

掌握 GPT-5 的能力图谱与应用边界,能帮你在模型选型、Prompt 设计、端侧部署等真实决策中少走弯路,把前沿模型的势能转化为业务价值。

目录
  1. 可视化演示
  2. 模型规模:星厨后厨的豪华团队
  3. 推理增强:从“家常快炒”到“米其林仪式烹饪”
  4. 多模态支持:从“只做菜”到“全感官用餐体验”
  5. 上下文窗口:包间容量与服务记忆
  6. 对比GPT-4:老店与新旗舰的正面较量
  7. 小模型生态:招牌菜的外卖档口
  8. AI 应用场景
  9. Python 演示
  10. 常见误区
  11. 面试题

可视化演示

展示GPT-5相比GPT-4的全方位能力提升:六维雷达对比模型规模、推理、多模态等核心指标,以及MoE混合专家架构升级。

本节配有交互动效(进入视口后自动加载,约 3KB)。

GPT-5 vs GPT-4能力雷达 GPT-5:规模/推理/多模态全面提升 GPT-4:作为基线对比基准 GPT-5在推理增强(o3引擎)和多模态统一架构上实现跨越式提升。

模型规模:星厨后厨的豪华团队

想象一家即将开业的星厨餐厅旗舰店。后厨不再是一两位大厨包打天下,而是分成冷菜组、热菜组、甜品组、汤品组,每组都配有数名顶尖厨师。餐厅的“总编制”十分庞大,但真正端出一道菜时,只有对应分组的几位大师傅在忙活。这就是 GPT-5 系列在“模型规模”上的核心思路——总实力惊人,却不必每次推理都全员上场。

模型规模最直观的指标是参数量(Parameters),它大致决定了模型“知识的容量”。GPT-5 的总参数量相比 GPT-4 又上了一个台阶,但它并没有简单地把所有参数堆在一起,而是采用了 MoE(Mixture-of-Experts,专家混合)架构,让整体像一家分工明确的后厨:共享的基础参数加上若干个可以按需调用的“专家模块”。

GPT-5 在训练时投入了海量 GPU 算力,把“总编制”与“单次上菜速度”一并优化;推理时,路由机制只激活与当前问题最相关的少数专家,从而在总参数巨大的情况下依然保持可用的响应速度。这正是旗舰店后厨的精髓:厨师名单很长,但同一时刻掌勺的只有几位,其余人备料待命。规模带来实力,分工带来效率——两者兼得,才配得上“新一代旗舰”的名号。

Ptotal=Pshared+E×Pexpert\displaystyle P_{\text{total}} = P_{\text{shared}} + E \times P_{\text{expert}}
这个公式说的是:MoE 模型的总参数量 = 所有输入都会用到的公共参数 + 专家模块数 × 每个专家自己的参数。形象理解就是“总厨师名单长度 = 公共备料区人数 + 菜系组数 × 每组厨师数”。
  1. 总参数量 \(P_{\text{total}}\)模型最终拥有的全部参数之和,决定知识的“总容量”,好比后厨整体的厨师名单长度。
    Ptotal=Pshared+E×PexpertP_{\text{total}} = P_{\text{shared}} + E \times P_{\text{expert}}
  2. 共享参数 \(P_{\text{shared}}\)所有输入 token 都会经过的公共层参数,像餐厅的基础备料区,每道菜都得用。
    PsharedP_{\text{shared}}
  3. 专家模块数 \(E\)模型被切分成 \(E\) 个专项专家模块的数目,对应后厨的菜系分组数量;GPT-5 通过增大 \(E\) 来扩展能力边界。
    EE
  4. 单个专家参数量 \(P_{\text{expert}}\)每个专家模块自带的参数规模,相当于每个菜系小组的厨师配置。
    PexpertP_{\text{expert}}

推理增强:从“家常快炒”到“米其林仪式烹饪”

老字号饭店炒菜讲究锅气,大厨凭手感一锅出,快则快矣,偶尔失手也不奇怪。而米其林式旗舰店则不同:每道菜都有固定流程——先备料,再煎制,装盘前试味,不满意立即重做。GPT-5 的推理增强,正是把这种“仪式感流程”内化进了模型。

以往的模型面对复杂数学题常常“跳步”:从问题直接蹦到答案,中间出错也没人发现。GPT-5 引入更强的思维链(Chain-of-Thought)机制,要求模型先把问题拆成多个可检验的小步骤,再逐步推演。如果把每一步写对的概率相乘,就能看出分步推理的价值:

每一步的成功率可能都在 90% 以上,三步连乘后仍有约 73%;但若直接“跳步”一次成功率只有 60%,效果立刻拉开差距。GPT-5 还加入了自我修正机制,在推演到一半时回头检查“上一步结论是否合理”,发现矛盾就重推,这让它在数学竞赛、代码调试等场景下的表现远超 GPT-4。好比大厨在出锅前一定要试味、摆盘前一定要检查装盘是否端正,步骤化加上自我检查,让复杂推理不再是一场“凭运气的快炒”。

P(answer)=∏i=1nP(si∣question,s1,s2,…,si−1)\displaystyle P(\text{answer}) = \prod_{i=1}^{n} P(s_i \mid \text{question}, s_1, s_2, \dots, s_{i-1})
这个公式说明:最终答案的正确率等于所有中间步骤成功率的连乘。每一步正确率高一些,最终结果就会稳很多;反过来,只要某一步“翻车”,整体结论就会跟着崩。
  1. 答案概率 \(P(\text{answer})\)模型最终推理出正确答案的总概率,是每一步都成功后的“乘积红利”。
    P(answer)P(\text{answer})
  2. 连乘号 \(\prod\)表示把每一步推理的单独成功率相乘,任何一步失败都会连带拉低最终结果。
    ∏i=1n\prod_{i=1}^{n}
  3. 第 \(i\) 步推理 \(s_i\)中间推理步骤,例如“列出方程”“求解未知数”等可独立检验的小结论。
    sis_i
  4. 历史条件 \(s_1, s_2, \dots, s_{i-1}\)当前步骤依赖之前所有步骤产生的前提,像炖汤时前面放的料都会影响后面的味道。
    s1,s2,…,si−1s_1, s_2, \dots, s_{i-1}

多模态支持:从“只做菜”到“全感官用餐体验”

老餐厅只负责把菜做好,客人看不见锅里的火苗,也听不见食材下锅的滋滋声。旗舰店则完全不同:环境音乐、开放式厨房、精致的摆盘、上菜时的讲解……用餐变成了一场全感官体验。GPT-5 的多模态支持,正是把“感官”维度全面打开。

早期的多模态模型常常是“拼接式”的:一个文本模型加一个图像模型,各答各的。GPT-5 走的是“统一表示”路线:文本、图像、音频分别经过各自的编码器提取特征,然后在一个共享的语义空间里融合,让模型能跨模态地理解问题——例如一边看图一边听语音,就能判断场景是否安全。

简单说,模型为每一种模态分配“话语权”,再把它们压成一条统一的理解向量,后续推理都基于这条向量进行。这也是 GPT-5 能“看图写代码”“听语音做会议纪要”“看视频理解剧情”的技术底座。客人不需要分别找厨师、服务员、讲解员——一个模型就能完成全流程的沟通。这份全感官体验,是新一代旗舰区别于旧旗舰的重要标志。

hfused=f(Wtht+Wihi+Waha)\displaystyle h_{\text{fused}} = f\left( W_t h_t + W_i h_i + W_a h_a \right)
这个公式描述的是多模态融合的“配方”:文本、图像、音频三种特征向量先各自乘上权重,再相加,最后经过一层非线性变换,得到一条统一的理解向量。
  1. 融合表示 \(h_{\text{fused}}\)模型对多模态输入的统一表征,后续所有推理都基于这个“合并后的味觉记忆”。
    hfused=f(Wtht+Wihi+Waha)h_{\text{fused}} = f\left( W_t h_t + W_i h_i + W_a h_a \right)
  2. 文本特征 \(h_t\)文字内容经编码器提取的向量表示,相当于菜品里“文字描述”这一味料。
    hth_t
  3. 图像特征 \(h_i\)图片内容经视觉编码器提取的向量表示,相当于“摆盘视觉”这一味料。
    hih_i
  4. 音频特征 \(h_a\)语音或声音经音频编码器提取的向量表示,相当于“环境音乐与锅气声”这一味料。
    hah_a
  5. 融合函数 \(f\) 与权重 \(W\)多层变换与可学习权重矩阵,决定每种模态的“话语权”。
    f(⋅),Wt,Wi,Waf(\cdot), \quad W_t, W_i, W_a

上下文窗口:包间容量与服务记忆

旗舰店的包间能摆下长桌,容下几十位宾客;更难得的是,领班能记住每位客人的忌口、偏好和上菜节奏,从开胃菜到甜点全程不出错。对模型来说,这对应的就是“上下文窗口”——一次能同时看到多少信息,记住了多少细节。

上下文窗口以 token 为单位,GPT-5 的窗口相比 GPT-4 大幅扩大,可以一口气读完一整本长篇报告。但窗口不是免费的午餐:自注意力机制的计算量随长度增长得非常快,堪称“包间加座的平方级账单”:

此外,超长输入还会引发“迷失在中间”效应:模型对开头和结尾记得牢,中段内容容易被忽略。因此工程实践中常配合检索增强(RAG)——先把长篇资料切成片段并检索出关键内容,再把精挑细选的“座上宾”请进窗口。聪明的餐厅不会一味把桌子加长,而是会安排领班提前了解客人、只把关键客人请进贵宾厅。GPT-5 的大窗口给了更多可能,但真正高效的使用方式,依然是“大窗口 + 聪明检索”的组合拳。

Ω=O(L2⋅d)\displaystyle \Omega = \mathcal{O}(L^2 \cdot d)
这个公式提醒我们:上下文窗口的长度 \(L\) 一旦翻倍,注意力计算量大约会变成原来的 4 倍。窗口越大,算力账单越惊人。
  1. 总计算量 \(\Omega\)模型在一次前向推理中处理上下文所需的计算量,等同于“包间同时服务长桌客人的成本”。
    Ω=O(L2⋅d)\Omega = \mathcal{O}(L^2 \cdot d)
  2. 序列长度 \(L\)上下文窗口能容纳的 token 总数,GPT-5 相比 GPT-4 大幅提升,好比包间能摆下的椅子数量。
    LL
  3. 特征维度 \(d\)每个 token 编码后的向量维度,相当于每位客人的“需求档案”厚度。
    dd
  4. 平方符号 \(L^2\)长度翻倍时,注意力计算量约翻四倍,这是超长窗口的主要开销来源,也是“包间加座”的代价。
    L2L^2

对比GPT-4:老店与新旗舰的正面较量

老店有老店的经典,但新旗舰店从菜单、后厨到服务都有代际差异。怎么公平地比较两店谁更强?最稳妥的办法,是请同一批评委吃同一批菜,按同一套标准打分。AI 界的“评委”就是各类基准测试集(Benchmark)。

GPT-5 在数学推理、代码生成、多语言理解等基准上普遍优于 GPT-4。为了直观表达进步幅度,研究者常计算相对提升率——以旧模型得分为基准,看新模型提升了百分之多少:

例如某项基准中 GPT-4 得 60 分、GPT-5 得 78 分,则相对提升率为 30%。值得注意的是,GPT-5 并非单纯“堆参数换分数”:它在单次推理激活参数基本可控的前提下实现了更强的性能,意味着单位算力的“性价比”更高。配合更聪明的调度策略,综合使用成本未必像传言那样高不可攀。老旗舰依然是优秀的“经典菜单”,但新旗舰在同样的成本约束下给出了更高的“翻台率”与更广的菜品覆盖。

R=SGPT-5−SGPT-4SGPT-4×100%\displaystyle R = \frac{S_{\text{GPT-5}} - S_{\text{GPT-4}}}{S_{\text{GPT-4}}} \times 100\%
这个公式说明:所谓“提升率”不是看绝对分数差,而是看相对旧模型涨了多少个百分点。旧模型得分越高,新模型想获得同样的提升率就越难。
  1. 提升率 \(R\)新旗舰相对老旗舰在同一基准上的进步百分比,是“同题同标准”下的公平较量。
    R=SGPT-5−SGPT-4SGPT-4×100%R = \frac{S_{\text{GPT-5}} - S_{\text{GPT-4}}}{S_{\text{GPT-4}}} \times 100\%
  2. GPT-5 得分 \(S_{\text{GPT-5}}\)新模型在某个评测基准(如数学竞赛、代码生成)上的分数。
    SGPT-5S_{\text{GPT-5}}
  3. GPT-4 得分 \(S_{\text{GPT-4}}\)老模型在同一基准上的分数,充当“对比的起点”。
    SGPT-4S_{\text{GPT-4}}
  4. 相对比值的含义分子是绝对增量,分母是基准分,两者相除再乘 100%,才得到“相对进步率”。
    SGPT-5−SGPT-4SGPT-4\frac{S_{\text{GPT-5}} - S_{\text{GPT-4}}}{S_{\text{GPT-4}}}

小模型生态:招牌菜的外卖档口

旗舰店再风光,也不可能开进每个社区、服务每顿快餐。于是星厨把招牌菜做成了标准化外卖,在社区开起小档口——这就是小语言模型(SLM)与端侧 AI 的生存空间。GPT-5 的旗舰能力,恰恰为这些小档口提供了“秘方”。

把大模型能力压缩进小模型的技术叫知识蒸馏(Knowledge Distillation)。GPT-5 扮演“教师”角色,让小模型(学生)在训练时同时学习两样东西:一是标准答案本身,二是教师模型的“思考方式”——即输出概率分布。训练的总损失由两部分加权构成:

蒸馏后的小模型能在手机、PC、智能家居等端侧设备上运行,用较低的参数量换取“够用”的智能,同时换来三个巨大优势:数据不出设备、响应无延迟、长期成本几乎为零。旗舰店与外卖档口不是替代关系,而是同一品牌在不同预算、不同场景下的互补。GPT-5 越是强大,蒸馏出来的 SLM 就越聪明;而 SLM 越普及,旗舰能力的价值就渗透得越广。

Ltotal=α⋅LCE+(1−α)⋅LKD\displaystyle \mathcal{L}_{\text{total}} = \alpha \cdot \mathcal{L}_{\text{CE}} + (1-\alpha) \cdot \mathcal{L}_{\text{KD}}
这个公式是说:学生模型每训练一次,要同时看两份“教材”——一份是标准答案(交叉熵损失),一份是老师的解题思路(蒸馏损失),\(\alpha\) 决定哪份更重要。
  1. 总损失 \(\mathcal{L}_{\text{total}}\)训练小模型时最终优化的目标函数,数值越低说明学生模型整体学得越好。
    Ltotal=α⋅LCE+(1−α)⋅LKD\mathcal{L}_{\text{total}} = \alpha \cdot \mathcal{L}_{\text{CE}} + (1-\alpha) \cdot \mathcal{L}_{\text{KD}}
  2. 交叉熵损失 \(\mathcal{L}_{\text{CE}}\)衡量学生模型预测与标准答案的差距,是“对照菜谱做菜”的纠错信号。
    LCE\mathcal{L}_{\text{CE}}
  3. 蒸馏损失 \(\mathcal{L}_{\text{KD}}\)衡量学生模型输出与教师模型(GPT-5)输出分布的差距,是“模仿老师手法”的信号。
    LKD\mathcal{L}_{\text{KD}}
  4. 权衡系数 \(\alpha\)控制两份“教材”的权重;\(\alpha\) 大则忠于标准答案,\((1-\alpha)\) 大则更像老师的思路。
    α∈[0,1]\alpha \in [0,1]

AI 应用场景

智能客服工单自动分级与深度解答

阶段:推理增强 + 长上下文理解

解决的问题:传统客服机器人只能做关键词匹配,遇到多层嵌套的售后问题(如“订单延迟导致优惠券过期想退款但需要审核”)常常答非所问。GPT-5 的思维链推理可以先把问题拆成“订单状态→优惠券规则→退款流程”三个小问题,再逐一解答,并基于长上下文把整个会话历史纳入考量。

具体案例:某电商平台接入 GPT-5 后,工单系统的“一次解决率”从 58% 提升到 81%。系统自动生成分步处理建议,客服只需确认即可,单均处理时长下降 40%。

多模态内容安全审核

阶段:多模态支持(文本 + 图像 + 音频统一理解)

解决的问题:传统审核方案需要分别部署文本过滤、图像识别、语音转写三套系统,且难以理解“图文声结合”的违规内容(如一段讽刺性配音搭配违规画面)。GPT-5 的统一语义空间能跨模态判断整体意图。

具体案例:某短视频平台使用 GPT-5 对“画面 + 字幕 + BGM”进行联合审核,违规内容召回率提升约 35%,误杀率下降一半,审核人力成本大幅下降。

端侧智能助手(小模型生态)

阶段:知识蒸馏 → SLM 端侧部署

解决的问题:旗舰模型再好,用户也不愿意把隐私数据传到云端,更无法接受在飞机上断网时助手“罢工”。通过蒸馏 GPT-5 得到的端侧小模型,能在手机上完成会议纪要、日程理解、健康建议等任务。

具体案例:某手机厂商把蒸馏后的 SLM 装入语音助手,离线状态下也能完成“帮我总结这周的运动数据并给出建议”,响应时间从云端方案的 1.2 秒降到 300 毫秒。

Python 演示

python36 行
"""GPT-5 推理增强演示:思维链提示词 vs 直接提问""" import osfrom openai import OpenAI # 初始化 GPT-5 客户端(需配置环境变量 OPENAI_API_KEY)client = OpenAI(api_key=os.getenv("OPENAI_API_KEY"))  def ask_gpt5(prompt, system="你是一个严谨的解题助手"):    """调用 GPT-5 模型并返回回答文本"""    response = client.chat.completions.create(        model="gpt-5",        messages=[            {"role": "system", "content": system},            {"role": "user", "content": prompt},        ],        temperature=0.3,    )    return response.choices[0].message.content  direct_prompt = "一个农场有鸡和兔共35个头、94只脚,问鸡和兔各几只?" cot_prompt = """一个农场有鸡和兔共35个头、94只脚,问鸡和兔各几只?请按以下步骤解决:1. 设鸡为 x 只,兔为 y 只2. 根据头数和脚数列出方程3. 解方程组4. 给出最终结论""" if __name__ == "__main__":    print("=== 普通提问 ===")    print(ask_gpt5(direct_prompt))    print("\n=== 思维链提问 ===")    print(ask_gpt5(cot_prompt))
目的:演示在同一个“鸡兔同笼”问题上,普通提问与思维链提示对 GPT-5 回答质量的影响,直观展示推理增强的实战用法。
  1. client = OpenAI(api_key=os.getenv("OPENAI_API_KEY"))创建可调用 GPT-5 的客户端;API Key 从环境变量读取,避免硬编码泄露。
  2. model="gpt-5"在请求中显式指定使用 GPT-5 模型,这是新版模型的标识。
  3. temperature=0.3温度参数调低,让模型输出更稳定、更聚焦于推理,而不是天马行空。
  4. messages=[...]按“系统角色 + 用户输入”的结构组织对话,系统提示词负责设定大厨的“职业素养”。
  5. cot_prompt = """..."""思维链提示词,要求模型先分步列出方程再求解,对应正文中的米其林上菜流程。
  6. response.choices[0].message.content从返回结构中提取模型生成的文本内容,即“端上桌的那道菜”。
  7. if __name__ == "__main__":让脚本可以直接从命令行运行,方便工程师快速验证两种提问的差异。

常见误区

误区以为 GPT-5 的成绩是“参数比 GPT-4 大十几倍”硬堆出来的,越大就一定越强。

正解新一代模型往往通过 MoE(专家混合)架构实现“总参数大、单次推理激活参数可控”,就像旗舰餐厅后厨庞大但每道菜只由几位主厨掌勺,并不需要全员上阵。参数量大是实力的基础,但架构效率同样关键,甚至更重要。

为何常见:人们习惯用“更大=更强”的直觉理解模型升级,而忽略了架构优化带来的杠杆效应。

误区GPT-5 的上下文窗口更大,那我把整个公司文档都一次性塞进去,它就能全部精确记住并回答。

正解窗口大不等于记忆力好。超长文本中,模型对早期信息的“注意力”可能衰减,出现“迷失在中间”效应;而且计算成本随长度平方增长。合理做法是结合检索增强,只把关键片段送入窗口,就像领班只把重要客人请进贵宾厅。

为何常见:窗口数字很直观,容易让人把它等同于“记忆力”,却忽略了注意力机制的实际行为。

误区GPT-5 支持多模态,就是把一个文本模型、一个图像模型、一个音频模型拼在一起卖。

正解多模态的关键在于“统一表示”——不同模态先各自编码,再在共享语义空间中融合,让模型能跨模态推理。这不是多个单模态模型各答各的问题,而是一个模型同时理解图文声像之间的关联,像一位全能的领班同时兼顾视觉、听觉与语言。

为何常见:用户看到“支持图像 + 文本 + 音频”就联想到“多个模型组合”,忽略了特征融合的本质。

误区只要在提示词里写“请一步步思考”,模型就自动获得超能力,什么难题都能解。

正解思维链提示之所以有效,是因为它唤起了模型在训练时学到的分步推理模式。对于模型知识边界之外的难题,分步并不能凭空创造知识。思维链更像“引导厨师按菜谱上菜”,而不是“凭空变出新食材”。

为何常见:网络上“加一句 let's think step by step 效果大增”的演示太有冲击力,让人误把引导当成了魔法。

误区GPT-5 这么强,小语言模型(SLM)和端侧 AI 都会被淘汰,大家只调用一个 API 就够了。

正解恰恰相反,GPT-5 的旗舰能力会通过蒸馏等技术下沉到小模型。端侧部署解决的是隐私、离线、低时延、低成本的真实需求,旗舰模型与 SLM 是“旗舰餐厅”与“外卖档口”的互补关系,而不是替代关系。

为何常见:看到旗舰模型能力惊人,容易低估工程化部署中的成本、延迟和合规约束。

面试题

Q1. GPT-5系列采用的MoE架构核心思想是什么?

单选题 · easy

  • A.所有输入都由全部参数处理
  • B.拆分为专家模块并按需激活← 正确答案
  • C.用多个小模型做集成投票
  • D.完全抛弃注意力机制层

答案:B。MoE(专家混合)将模型拆分为多个“专家”子网络,每个 token 只激活其中少数几个,像旗舰餐厅后厨按菜系分工,总参数量大但单次计算可控。A 是传统密集模型的做法,C 是模型集成,D 与事实不符。

Q2. 思维链(Chain-of-Thought)提示的主要作用是?

单选题 · easy

  • A.缩短模型的输出长度
  • B.分步推理从而减少中间错误← 正确答案
  • C.让模型记住更多历史对话
  • D.降低API的实际调用成本

答案:B。思维链通过引导模型把复杂问题拆解成若干可检验的小步骤,像按菜谱一步步做菜,显著提升多步推理题的正确率。它不改变模型记忆容量,也不直接降低费用,反而可能增加输出长度。

Q3. 以下关于GPT-5多模态能力的描述正确的是?

单选题 · mid

  • A.多模态模型是多个单模态模型的简单拼接
  • B.各模态特征在统一语义空间中进行融合← 正确答案
  • C.音频输入只能转成文字后再处理
  • D.图像理解与文本理解使用完全独立参数

答案:B。GPT-5 多模态的关键是统一表示:文本、图像、音频各自编码后在同一个语义空间融合,使模型能跨模态推理,例如“看图 + 听声音”判断场景。A、D 描述的是早期拼接式做法,C 忽略了原生音频理解能力。

Q4. GPT-5的上下文窗口扩大到超长文本后,最需要注意的计算瓶颈是?

单选题 · mid

  • A.单次输入文字量变小
  • B.自注意力开销随长度平方涨← 正确答案
  • C.模型无法理解短问句
  • D.输出长度被强制压缩

答案:B。自注意力的时间复杂度是 \(O(L^2)\),序列长度翻倍时计算量约翻四倍,这就是长上下文的“包间费”。所以长文本场景常配合检索增强,只加载关键片段。

Q5. 与GPT-4相比,GPT-5在推理增强上的核心改进是?

单选题 · mid

  • A.唯一变化是参数变少
  • B.分步推理与自我修正增强← 正确答案
  • C.完全放弃预训练阶段
  • D.只优化了界面交互体验

答案:B。GPT-5 在推理增强上的升级主要体现在更强的思维链生成、评估自身中间步骤并自我修正的能力,类似大厨在出锅前反复试味并调整。A 错误,C、D 明显不符合实际。

Q6. 知识蒸馏训练小模型时,权重系数 \(\alpha\) 的主要作用是?

单选题 · hard

  • A.让模型完全忽略真实标签
  • B.权衡标准答案与教师思路← 正确答案
  • C.控制模型的参数量大小
  • D.决定上下文窗口的长度

答案:B。蒸馏损失让小模型模仿大模型的输出分布(学“老师的解题思路”),交叉熵损失让它贴近真实答案,\(\alpha\) 决定两者权重。\(\alpha=1\) 时只看标准答案,\(\alpha=0\) 时完全模仿教师。

Q7. 超长上下文场景中,为什么“检索增强+短窗口”往往优于“全量塞入长窗口”?

单选题 · hard

  • A.短窗口一定比长窗口更精确
  • B.长窗口注意力分散且开销大← 正确答案
  • C.检索增强不需要模型参与
  • D.长窗口对中文支持差

答案:B。全量塞入长文本时,模型对早期内容的注意力可能衰减(“迷失在中间”效应),且计算成本按 \(O(L^2)\) 暴涨。检索增强先抽出最关键片段再送入模型,既省算力又提升回答精度。

Q8. GPT-5与GPT-4相比,可能的能力优势包括哪些?

多选题 · mid

  • A.更强的多步推理能力← 正确答案
  • B.更丰富统一的多模态理解← 正确答案
  • C.更大的上下文处理范围← 正确答案
  • D.免费向所有用户开放

答案:ABC。A、B、C 分别对应 GPT-5 宣传中的推理增强、多模态支持、长上下文三大亮点。D 属于商业化信息,不属于模型能力的对比范畴。

Q9. 以下哪些做法能帮助开发者更好地发挥GPT-5的推理能力?

多选题 · easy

  • A.在提示词中要求模型分步解答← 正确答案
  • B.让模型自我检查上一步结论← 正确答案
  • C.把问题描述得模糊笼统
  • D.为复杂任务提供清晰约束结构← 正确答案

答案:ABD。A 是思维链提示的核心做法,B 对应自我修正,D 让模型把注意力集中在关键约束上。C 恰恰相反,模糊输入会导致推理质量下降。

Q10. 关于GPT-5旗舰模型与小语言模型(SLM)生态的关系,下列说法正确的有?

多选题 · extreme

  • A.旗舰能力可通过蒸馏迁移给小模型← 正确答案
  • B.SLM专注端侧部署换取低时延隐私← 正确答案
  • C.GPT-5发布后SLM将没有存在价值
  • D.旗舰与SLM定位互补服务不同场景← 正确答案

答案:ABD。蒸馏让大模型“师傅带徒弟”把能力教给小模型(A 正确)。SLM 牺牲部分通用性,换取在端侧设备上的隐私保护、离线可用和低时延(B 正确)。C 过于绝对,D 准确描述了两者互补共存的关系。