小张想开发一个“智味小馆”小程序:用户拍一张菜品照片,AI 自动点评口味、给出改良建议。产品原型很惊艳,投资人也很满意,但临签字前问了一句:“你每个月要花多少钱养这个 AI?”小张愣住了——他不知道该用哪个模型、每天会有多少人用、每次调用消耗多少算力,更不知道这笔账要从哪里算起。 这就像准备开一家餐厅:菜谱再漂亮,也得先搞清每道菜要用多少食材、食材进价多少、预计每天来多少客人,才能做出采购预算。LLM 应用的成本估算,本质上就是给 AI 餐厅算一笔“食材账”。你不需要懂复杂的神经网络原理,只需要掌握四个数字:Token 消耗量(食材用量)、模型单价(食材进价)、调用频次(客流量)、缓冲比例(应急储备金)。把这四个数字放进一个简单算式,就能在项目启动前算清账本,避免上线后费用失控、预算超支的尴尬。

岗位关联

掌握成本估算能力,你就能在项目立项时拿出让人信服的预算方案,避免上线后费用失控,成为团队里“既懂技术、又懂经营”的关键角色。

目录
  1. 可视化演示
  2. Token 计算基础——后厨的计量单位
  3. 模型计费规则——备料与上菜两种价签
  4. 调用频次预估——算一算有多少客人
  5. 定价对比分析——四位主厨的报价单
  6. 预算编制方法——把账本填成预算表
  7. 成本优化闭环——精打细算的省钱之道
  8. AI 应用场景
  9. Python 演示
  10. 常见误区
  11. 面试题

可视化演示

展示LLM应用Token计费规则、DAU到日成本的调用频次预估链路,以及主流模型定价对比,帮助项目启动前算清使用成本。

本节配有交互动效(进入视口后自动加载,约 3KB)。

Token计算与模型计费规则 Token是模型处理文本的基本单位,约0.75个英文单词或0.5个中文字符 不同厂商计费规则差异大:input/output分别计价、缓存折扣、批量调用优惠 cost = (input_tok + output_tok) x price 理解计费规则是成本估算的第一步

Token 计算基础——后厨的计量单位

小张走进“智味小馆”的后厨,发现厨师长根本不按“克”买菜,而是把所有食材都切成标准大小的“丁儿”:胡萝卜切成一厘米见方的小块,土豆也切成一厘米见方的小块。每一块就是一个最小计量单位,后面的供应商就按“丁儿”的数量收钱。这就是 LLM 世界里的 Token——模型处理文本时的最小计量单位,所有计费都围绕它展开。

在 LLM 的计费逻辑中,一段文本不会被按“字数”计费,而是被切分成 Token 流。大语言模型本质上是一个“下一个 Token 预测器”,每生成一个字都需要在上一次的 Token 序列基础上继续预测。所以,Token 数量直接决定了计算的算力消耗。中文场景下,1 个汉字大约消耗 1~2 个 Token;英文场景下,大约 3~4 个字符(约 0.75 个单词)才消耗 1 个 Token。这意味着同样的内容,中英文的计费消耗差异巨大。

除了用户输入的正文本体,一次 API 调用往往还包含系统提示词(system prompt)、历史对话记录和函数定义等“隐形字符”。这些内容都会被计入 Token。比如,一个 500 字的系统提示词,用户每次提问都要重复计算一次,日积月累就是一笔不小的开销。

理解了 Token 的概念,小张终于明白:原来 AI 记账不是按“字”收钱,而是按“食材丁儿”收钱。切得越碎的文本,换算出的 Token 数就越多。这也是为什么产品在设计时要控制 system prompt 的长度——每多写一句废话,都在增加每笔订单的隐形“食材损耗”。

Token 总数≈汉字数×1.3+英文字符数3\text{Token 总数} \approx \text{汉字数} \times 1.3 + \frac{\text{英文字符数}}{3}
  1. 清点汉字数设一段文本中汉字的总量为 \(C_{\text{zh}}\)
    Czh=1000C_{\text{zh}} = 1000
  2. 统计英文字符数设字母、数字、英文符号总量为 \(C_{\text{en}}\)
    Cen=1500C_{\text{en}} = 1500
  3. 按比例折算并加总每个汉字约 1.3 个 Token,每 3 个英文字符约 1 个 Token
    Tokens≈1000×1.3+1500÷3=1800\text{Tokens} \approx 1000 \times 1.3 + 1500 \div 3 = 1800

模型计费规则——备料与上菜两种价签

小张在“智味小馆”翻看供应商的价目表时发现一个奇怪现象:同一道菜,备料和上菜是两种价格。后厨切配食材(输入)收一份钱,端上桌的成品菜(输出)要收另一份钱,而且上菜的价格往往更贵。LLM 的计费规则正是如此:输入 Token 和输出 Token 分开计价,通常输出单价比输入单价高出 2~3 倍。

这种差异源于技术本质。处理输入 Token 时,模型主要做“并行读取理解”,计算量相对可控;而生成输出 Token 时,模型要逐字逐句地做自回归预测,每生成一个 Token 都依赖之前所有的 Token,耗时和算力都呈指数级放大。因此,阿里的 Qwen-Max 输入 20 元/百万 Token、输出 60 元/百万 Token,OpenAI 的 GPT-4o 输入 36 元/百万 Token、输出 108 元/百万 Token,输出都显著更贵。

在成本估算中,一定要分别统计输入和输出的 Token 量,再乘以各自的单价,不能简单用“一个平均价格”估算。尤其要警惕用户读完模型回复后又追问的场景——多轮对话会把前面的输出“喂回”输入,使每轮累计的输入 Token 越来越多。

小张看着这张“两种价签”的账本恍然大悟:食材切配便宜、成品上菜昂贵。设计产品时,如果能减少模型回复的长度(比如限制输出字数),或者引导用户少做多轮追问,就能从单价最高的那一头省下大笔成本。

Ccall=Nin⋅Pin+Nout⋅PoutC_{\text{call}} = N_{\text{in}} \cdot P_{\text{in}} + N_{\text{out}} \cdot P_{\text{out}}
  1. 计算输入部分费用单次调用输入 Token 数 \(N_{\text{in}}\) 乘以输入单价 \(P_{\text{in}}\)
    800×36106=0.0288 元\frac{800 \times 36}{10^6} = 0.0288\ \text{元}
  2. 计算输出部分费用输出 Token 数 \(N_{\text{out}}\) 乘以输出单价 \(P_{\text{out}}\)
    200×108106=0.0216 元\frac{200 \times 108}{10^6} = 0.0216\ \text{元}
  3. 加总得到单次调用成本输入与输出两部分费用相加
    Ccall=0.0288+0.0216=0.0504 元C_{\text{call}} = 0.0288 + 0.0216 = 0.0504\ \text{元}

调用频次预估——算一算有多少客人

有了单品成本,小张还需要知道一个月总共会有多少笔订单。他想起朋友开奶茶店的经验:先看每天进店的客人数量,再估算每位客人平均点几杯,就能推出一天的销量,再乘以 30 天就是一个月的销量。LLM 应用的成本估算同样如此:日活用户数(DAU)× 人均日调用次数 × 30 天,就是月调用总量。

不过,把“月调用总量”直接等同于当月的 API 消费次数,还不够严谨。真实业务中还有两个变量需要纳入考量:一是增长系数,产品上线后会做运营推广,用户量会逐月上升;二是功能占比,不同功能(如聊天、摘要、翻译)消耗的 Token 数不同。更精确的做法是分功能模块估算,最后再汇总。

小张的“智味小馆”小程序计划上线后第 1 个月做到 5 万日活,人均每天拍照点评 3 次,考虑上线初期宣传带来的 20% 流量上浮,他用下面的公式快速得到了月调用总量。

这个公式让客流的“水位”变得可量化。小张意识到:日活翻倍,成本不是翻倍,因为还要叠加人均调用次数的乘积效应。就像餐厅遇到节假日,客人翻倍、每桌点菜数也增加,后厨的食材消耗会是平日的三四倍——成本估算的放大效应来自多个因子的叠加。

Q=U×R×D×αQ = U \times R \times D \times \alpha
  1. 确定日活用户数\(U\) 代表平均每天使用产品的用户数量
    U=50,000U = 50{,}000
  2. 设定人均日调用次数\(R\) 代表每个用户每天平均触发 AI 请求的次数
    R=3 次/人/天R = 3\ \text{次/人/天}
  3. 乘以当月天数\(D\) 取 30 天,代表一个自然月的运营窗口
    D=30 天D = 30\ \text{天}
  4. 叠加增长系数\(\alpha\) 取 1.2,为宣传推广期的流量上浮留出余量
    α=1.2\alpha = 1.2
  5. 求月调用总量四者相乘得到全月总请求次数
    Q=50,000×3×30×1.2=540,000 次Q = 50{,}000 \times 3 \times 30 \times 1.2 = 540{,}000\ \text{次}

定价对比分析——四位主厨的报价单

确定了调用量,小张开始筛选“主厨”。他拿到四份报价单:GPT-4o 像一位米其林大厨,输入 36 元/百万 Token、输出 108 元/百万 Token,什么菜都能做,但价格最高;Claude 3.5 Sonnet 像擅长融合菜的名厨,输入 21.6 元/百万 Token、输出 108 元/百万 Token,长文本能力强;GPT-4o-mini 像手脚麻利的帮厨,输入仅 1.1 元/百万 Token、输出 4.3 元/百万 Token,适合大量简单任务;Qwen-Max 像本地菜系的老师傅,输入 20 元/百万 Token、输出 60 元/百万 Token,国内访问稳定且人民币计价。

将不同模型的月度成本放在同一张表上比较,需要把每次调用的 Token 消耗量乘以对应的单价。以“每次 800 输入 Token、200 输出 Token”为例:用 GPT-4o 需要约 5 分钱,用 GPT-4o-mini 则只需要不到 0.2 分钱,相差约 25 倍。这意味着同一个功能,选错模型可能导致成本相差一个数量级。

选型不能只看单价。菜品点评任务需要较强的图片理解和推理能力,GPT-4o-mini 可能表现不佳,反而要用 GPT-4o;而“提取菜品关键词”这类简单任务,用 mini 完全够用。聪明的做法是“主厨 + 帮厨”混用:复杂任务交给大模型,简单任务交给小模型。

对比完四位主厨的报价,小张心里有了底:一份菜单不必只用一个厨师。把“点评”交给 mii 级模型、把“关键词提取”交给 mini 级模型,平均成本能立刻下降近 80%。选模型不是选最贵的,而是选“恰好能胜任”的。

Cmonth=Q×(Tin⋅Pin106+Tout⋅Pout106)C_{\text{month}} = Q \times \left( \frac{T_{\text{in}} \cdot P_{\text{in}}}{10^6} + \frac{T_{\text{out}} \cdot P_{\text{out}}}{10^6} \right)
  1. 确定单次 Token 用量单次调用平均输入 \(T_{\text{in}}\)、输出 \(T_{\text{out}}\)
    Tin=800,Tout=200T_{\text{in}} = 800,\quad T_{\text{out}} = 200
  2. 乘以对应单价分别乘以输入、输出单价,并除以百万换算单位
    800×36+200×108106=0.0504 元/次\frac{800 \times 36 + 200 \times 108}{10^6} = 0.0504\ \text{元/次}
  3. 乘月调用总量将单次成本乘以月调用量 \(Q\),得到月度总成本
    Cmonth=540,000×0.0504≈27,216 元C_{\text{month}} = 540{,}000 \times 0.0504 \approx 27{,}216\ \text{元}

预算编制方法——把账本填成预算表

采购方案定了,小张开始填写最终的月度预算表。预算表的逻辑分三层:基础成本(正常预估的调用费用)、缓冲储备(应对流量波动和提示词膨胀的余量)、总预算(两者相加)。这就像餐厅做月度采购计划时,除了按客流预估买食材,还要多留 20% 的“机动费”——万一突然有团建包场,或者某样食材价格上涨,不至于让厨房断供。

缓冲比例如何设定?一般建议 20%~30%。如果产品处于快速增长期、功能迭代频繁,取 30% 更稳妥;如果已经是成熟期、调用模式稳定,取 20% 即可。缓冲比例定得太低,一次流量高峰就可能让账单爆掉;定得太高,又会显得预算虚高、影响项目审批通过率。

最终的月度预算表应包含五个字段:功能模块、月调用量、单价模型、预估费用、备注说明。把“智味小馆”的预算填进去:菜品点评功能月调用 54 万次、使用 GPT-4o 主力模型,基础成本约 2.7 万元;关键词提取功能给 mini 模型,约 0.2 万元;再加上 30% 的缓冲,总预算约 3.77 万元。这份预算表既能让投资人看懂每一分钱的去向,也为上线后的成本监控提供了基准线。

预算表做好后,小张发现“算账”的过程本身就有价值:它逼着他把模糊的“AI 很贵”变成了具体的数字承诺。预算不是拍脑袋的报价,而是把 Token 用量、模型单价、调用频次三个变量透明化,让所有人对成本达成共识。

预算=Cbase×(1+β)\text{预算} = C_{\text{base}} \times (1 + \beta)
  1. 计算基础成本\(C_{\text{base}}\) 为按当前预估用量和模型单价得到的基础月成本
    Cbase=27,216+2,000=29,216 元C_{\text{base}} = 27{,}216 + 2{,}000 = 29{,}216\ \text{元}
  2. 确定缓冲比例\(\beta\) 取 0.3,为流量波动与提示词膨胀预留空间
    β=0.3\beta = 0.3
  3. 计算总预算基础成本乘以 \(1 + \beta\),得到最终月度预算
    预算=29,216×1.3≈37,981 元\text{预算} = 29{,}216 \times 1.3 \approx 37{,}981\ \text{元}

成本优化闭环——精打细算的省钱之道

预算批准后,小张没有就此收手,他知道餐厅开张后还要持续“控成本”。第一个办法是缓存复用——把顾客常点的“东坡肉的做法”这道菜的点评结果缓存起来,同样的菜再点评时直接用上次的结果,不再调用大模型。即“点过这道菜就别让主厨再做一遍”。在技术实现上,可以将重复性高的请求(如热门菜品的基础信息)写入缓存,命中率可达 30% 以上。

第二个办法是模型降级——把简单任务从 GPT-4o 切换到 GPT-4o-mini。就像高峰时段让帮厨负责切配,让主厨专注做复杂菜品。上线后,小张在系统里做了三层路由:图片模糊的走小模型、成分复杂的走大模型,还设置了“当大模型排队超时自动降级到小模型”的保护开关。

第三个办法是月度偏差复盘——每个月底对比实际账单和预算,计算偏差率。如果连续两个月实际成本超出预算,说明预估模型中的某个参数(如人均调用次数)定低了,需要调整后再估。这就像餐厅每月底对账,发现某道菜食材损耗率高,就要找出是切配浪费还是备料过剩。

三个月的经营让小张彻底明白:成本估算不是一次性动作,而是一个“预估 → 实测 → 复盘 → 再预估”的闭环。就像餐厅的采购预案要随季节和客流不断修正,LLM 应用的账本也要持续优化。能算清账的人,才能让 AI 应用真正“活”得长久。

节省率=C前−C后C前×100%\text{节省率} = \frac{C_{\text{前}} - C_{\text{后}}}{C_{\text{前}}} \times 100\%
  1. 记下优化前月成本\(C_{\text{前}}\) 为全用大模型的原始账单
    C前=37,981 元C_{\text{前}} = 37{,}981\ \text{元}
  2. 记下优化后月成本\(C_{\text{后}}\) 为加入缓存与降级后的稳定开销
    C后=21,300 元C_{\text{后}} = 21{,}300\ \text{元}
  3. 计算节省率前后差值除以优化前成本,乘以 100%
    节省率=37,981−21,30037,981×100%≈44%\text{节省率} = \frac{37{,}981 - 21{,}300}{37{,}981} \times 100\% \approx 44\%

AI 应用场景

项目立项前的预算汇报

阶段:需求分析与预算规划阶段

解决的问题:传统做法是等系统上线跑一个月后看到账单再“救火”,往往预算已经超支。通过 Token 用量预估、调用频次计算、模型单价对比,项目经理可以在立项时主动给出月成本区间,让老板在“投入产出比”上做出决策。

具体案例:某智慧客服项目的负责人,用 DAU=2 万、人均调用 8 次、GPT-4o-mini 模型测算出月成本约 1.2 万元,加上 30% 缓冲后报出 1.56 万元预算。老板对比了人工客服成本后当场批准,项目顺利启动。

多模型路由的选型比价

阶段:技术方案设计阶段

解决的问题:单一模型要么太贵、要么能力不足。通过对比主流模型的价格和任务复杂度,将请求分流到不同模型,可降低 40%~60% 的成本。

具体案例:一个 AI 写作助手将“标题生成”交给 mini 级模型处理,将“长文润色”交给旗舰模型处理,并设置缓存层复用高频提示词。上线后账单从预估的 5 万元/月降至 2.8 万元/月。

月度成本监控与复盘

阶段:运维与持续优化阶段

解决的问题:成本估算的上限一旦被突破,很难快速定位是“用户增长超预期”还是“提示词膨胀”。通过预算表与实际账单的偏差率监控,可以及时调整模型策略。

具体案例:某教育类应用每月做一次 Token 消耗报告,发现学生提问的上下文重复率很高,于是引入缓存,将 32% 的重复问题直接复用历史答案,月成本下降了 28%。

Python 演示

python22 行
# -*- coding: utf-8 -*-MODELS = {    "GPT-4o":        (36.0, 108.0),    "GPT-4o-mini":   (1.1, 4.3),    "Claude-3.5":    (21.6, 108.0),    "Qwen-Max":      (20.0, 60.0),} def estimate_monthly_cost(dau, rpd, input_tokens, output_tokens,                          price_in, price_out, days=30, growth=1.0):    q = dau * rpd * days * growth    cost = q * (input_tokens * price_in + output_tokens * price_out) / 1_000_000    return q, cost if __name__ == "__main__":    for name, (pin, pout) in MODELS.items():        q, cost = estimate_monthly_cost(            dau=50000, rpd=3,            input_tokens=800, output_tokens=200,            price_in=pin, price_out=pout        )        print(f"{name:>14}: 月调用 {q:>9,} 次, 月成本约 ¥{cost:,.0f}")
目的:输入日活、人均调用次数和 Token 用量,一键估算不同模型的月度成本,辅助模型选型和预算审批。
  1. q = dau * rpd * days * growth该行用四个因子相乘得到月调用总量,还原了“客流 × 点菜数 × 营业天数 × 增长系数”的逻辑
  2. (input_tokens * price_in + output_tokens * price_out) / 1_000_000该行把 Token 数乘以单价再除以百万,因为 API 报价均以“百万 Token”为单位
  3. MODELS = {...}用字典集中存放各模型的输入/输出单价,便于批量比价
  4. for name, (pin, pout) in MODELS.items()遍历所有模型,统一估算并打印,让对比结果一目了然

常见误区

误区我以为 1000 个汉字就是 1000 个 Token,直接拿字数去估算成本,结果实际账单比预估高了不少。

正解Token 和字数不是一回事。中文大约 1 字 = 1~2 个 Token,英文约 3~4 字符 = 1 个 Token,还有标点、空格、系统提示词都计费。像餐厅里“食材丁儿”的切法有损耗,不能拿“整棵蔬菜”的数量去估算。

为何常见:因为人类习惯用“字数”衡量文本量,而 Token 是模型的内部单位,初次接触时自然想用熟悉的单位去套。

误区我认为用户看到的主要是模型回复,所以只要估算输出 Token 的成本,输入部分可以忽略。

正解输入 Token 的单价虽然便宜,但数量往往远大于输出。一个 800 字的系统提示词,每次调用都全额计费;多轮对话还会把历史输出“回填”成新的输入,使输入量逐轮膨胀。单轮看输入便宜,全月看输入往往占总成本的 40% 以上。

为何常见:因为输出单价看起来更贵,注意力集中在“贵”的那一端,忽略了“次数多”的一端。

误区上线前把预算算出来,之后照着执行就行,不需要再调整。

正解真实的调用量会因运营活动、用户习惯、提示词迭代而剧烈波动。正确的做法是每月做偏差复盘,用实际账单校准 DAU、人均调用次数等参数,再滚动更新下月预算。预算不是合同,而是动态调节的仪表盘。

为何常见:因为“估算”在直觉上是一次性的动作,人们容易忘记它是持续监控的基础。

误区成本超了,第一时间把所有模型替换成最便宜的小模型。

正解换便宜模型会牺牲输出质量,可能导致用户满意度下降、退单率上升。更合理的优化顺序是:先用缓存消除重复计算,再用路由把简单任务降级、复杂任务保留大模型,最后才考虑整体换模型。这就像餐厅省成本先做半成品预制菜,而不是直接把主厨辞退。

为何常见:因为价格对比最直观、最容易量化,而质量和体验的损失是滞后的、不易察觉的。

面试题

Q1. Token 计数中,一个汉字大约相当于几个 Token?

单选题 · easy

  • A.0.1~0.3 个
  • B.1~2 个← 正确答案
  • C.5~8 个
  • D.10 个以上

答案:B。LLM 会把中文按字或按词切分成 Token,一个汉字通常消耗 1~2 个 Token。选 A 的人把 Token 想得太大,选 C、D 则把 Token 想得过小。用“食材丁儿”来记:一个汉字切出 1~2 个丁儿,而不是 1 个汉字等于一把食材。

Q2. 模型计费中,输入 Token 和输出 Token 的价格通常是什么关系?

单选题 · easy

  • A.输出单价高于输入单价← 正确答案
  • B.输入单价高于输出单价
  • C.两者单价完全一样
  • D.两者都完全免费

答案:A。生成输出 Token 需要逐字自回归预测,算力消耗远大于并行读取输入,所以主流模型普遍将输出单价设为输入的 2~3 倍。这好比备料切配(输入)和精心烹饪(输出)的人工成本不同。

Q3. 以下哪个不是月调用总量估算公式中的参数?

单选题 · mid

  • A.日活用户数
  • B.人均日调用次数
  • C.训练数据集大小← 正确答案
  • D.增长系数

答案:C。月调用量 = 日活 × 人均日调用 × 30 × 增长系数。训练数据集是模型开发阶段的产物,与线上 API 调用成本没有直接关系。误选 D 的人忽略了业务增长对调用量的放大效应。

Q4. 月度预算中设置 20%~30% 缓冲比例的主要目的是?

单选题 · mid

  • A.给供应商多付手续费
  • B.吸收流量波动和用量误差← 正确答案
  • C.提高模型输出准确性
  • D.减少输入 Token 数量

答案:B。调用量预估存在天然误差:运营活动会带来流量高峰、提示词会不断膨胀、用户行为会变化。缓冲比例就是预算中的“应急储备金”,像餐厅为突发包场预留的机动食材费,确保账单不会轻易突破上限。

Q5. 以下哪项不是成本估算的必要输入?

单选题 · easy

  • A.日活用户数
  • B.人均每次调用 Token 量
  • C.模型单价
  • D.显卡显存大小← 正确答案

答案:D。成本估算关注的是 API 调用费用,与本地硬件(显卡显存)无关。需要关注的是用量、频次和单价。显存大小影响的是自部署模型时的硬件采购成本,而不是按量计费的 API 账单。

Q6. 哪些因素可能导致 LLM 成本被低估?

多选题 · mid

  • A.节假日流量高峰← 正确答案
  • B.多轮对话累积上下文← 正确答案
  • C.系统提示词不断膨胀← 正确答案
  • D.用户活跃度持续下降

答案:ABC。节假日高峰会推高日活,多轮对话会把历史输出回填为输入,提示词膨胀会让每次调用的 Token 基数变大——三者都会推高成本。用户活跃度下降反而会降低成本,所以 D 不选。

Q7. GPT-4o-mini 的输入单价约为 GPT-4o 的几分之一?

单选题 · hard

  • A.约 1/10
  • B.约 1/30← 正确答案
  • C.约 1/50
  • D.约 1/2

答案:B。GPT-4o 输入约 36 元/百万 Token,GPT-4o-mini 约 1.1 元/百万 Token,比值接近 1/33,约等于 1/30。这就是“帮厨”和“米其林大厨”的薪资差异——简单任务用小模型能省下一个数量级的成本。

Q8. 为什么输出 Token 的数量比输入 Token 更难精确预估?

单选题 · mid

  • A.因为输出模型参数固定
  • B.因为输出内容长度随任务浮动← 正确答案
  • C.因为输出 Token 不参与计费
  • D.因为输出价格始终不变

答案:B。输入 Token 在请求发出时就可精确统计,而输出 Token 要等模型生成完毕才知道长度。不同用户的问题深度、模型回复风格都会影响输出长度,所以估算时只能给区间。这就像顾客点菜后,厨师做多久上菜量多少,得做完才知道。

Q9. 进行模型选型比价时,应综合考量哪些维度?

多选题 · hard

  • A.模型输出质量与任务匹配度← 正确答案
  • B.百万 Token 的输入输出单价← 正确答案
  • C.上下文窗口大小与限流策略← 正确答案
  • D.公司数据中心的空调电费

答案:ABC。选模型要同时看能力、价格和工程约束。质量不达标的模型再便宜也不能用,上下文窗口决定能处理多长的输入,限流策略影响高峰期的可用性。数据中心电费属于基础设施成本,与选型无关。

Q10. 某应用 DAU=10 万、人均日调用 5 次,单次平均输入 600 Token、输出 100 Token,模型输入 $5/百万、输出 $15/百万,问日均成本约为多少?

单选题 · extreme

  • A.$750
  • B.$1500
  • C.$2250← 正确答案
  • D.$4500

答案:C。日调用量 = 10 万 × 5 = 50 万次。每次成本 = 600×5/1M + 100×15/1M = 0.003 + 0.0015 = $0.0045。日均成本 = 500,000 × 0.0045 = $2250。这道题考察把“Token 用量、模型单价、调用频次”三个因子串成一个连乘算式的能力,漏掉任何一个因子都会算出错误结果。