ERNIE Lite：轻量级大模型 API 实战指南

为什么需要 ERNIE Lite：旗舰模型太贵太慢，高频业务需要轻量方案

如果所有文本生成任务都调用 ERNIE 4.0 这类旗舰模型，会遇到三个现实问题：单次调用费用高、并发配额有限、响应延迟对实时业务不友好。但业务中大量任务并不需要顶级创作能力，比如订单问题分类、评论情感打标、商品摘要、关键词抽取。这些任务句子短、结构明确、重复度高，用旗舰模型属于资源浪费。

ERNIE Lite 正是为这类场景设计的轻量级生成模型。它保留了中文理解和通用文本生成能力，但对模型结构做了轻量化处理，使单次推理更快、单位成本更低，更适合大规模并发调用。它由千帆平台统一托管，与旗舰模型共用一套 AK/SK 鉴权、计费和监控体系，接入成本很低。

在同一批轻量模型中，ERNIE Lite 更偏“通用效果与性能的平衡”；同平台的 ERNIE Speed 更强调高速流式响应，ERNIE Tiny 更偏端侧或极小任务。选型时，Lite 适合大多数需要“低成本、可并发、效果可接受”的在线业务。

安装与环境配置：4 步就绪

第一步，注册并实名认证百度智能云账号，进入千帆大模型平台控制台，开通模型服务。第二步，在控制台「安全认证」中创建应用，获取 Access Key（AK）和 Secret Key（SK）。AK 用于标识身份，SK 用于签名鉴权，两者都不能泄露。第三步，安装官方 Python SDK。第四步，配置环境变量并完成一次对话调用。

如果使用 Windows，可将 export 替换为 set 或在系统环境变量中配置。SDK 启动时会自动读取 QIANFAN_AK 与 QIANFAN_SK，并完成云端鉴权。验证脚本输出模型生成文本和 token 用量统计，即表示接入成功。

pip install -U qianfan export QIANFAN_AK="你的AK"export QIANFAN_SK="你的SK" python - <<'PY'from qianfan import ChatCompletion resp = ChatCompletion(model="ernie-lite-8k").do(    messages=[{"role": "user", "content": "用一句话介绍千帆平台"}])print(resp["result"])print(resp.get("usage"))PY

快速上手：10 分钟跑通第一个对话

最小可用流程只有三步：确认模型名、构造消息、打印结果。在千帆模型广场确认当前账号可用的 ERNIE-Lite-8K 与 ERNIE-Lite-128K，调用时模型名用小写格式，例如 ernie-lite-8k；官方文档中的显示名如 ERNIE-Lite-8K 不直接用于 API 请求。

1. 在千帆控制台「安全认证」中复制 AK 和 SK。

2. 安装 qianfan SDK 并设置环境变量。

3. 将下面的代码保存为 demo.py 并运行。

运行后，resp["result"] 是模型生成的回答文本，resp["usage"] 中包含 prompt_tokens、completion_tokens 和 total_tokens。进阶做法是给调用加上 stream=True，让回答逐段返回，适合聊天机器人做打字机输出。需要处理长文档时，把模型名换成 ernie-lite-128k 即可。

from qianfan import ChatCompletion chat = ChatCompletion(    ak="你的AK",    sk="你的SK",    model="ernie-lite-8k",) resp = chat.do(    system="你是一个严谨的问答助手，不确定时直接说不知道。",    messages=[        {"role": "user", "content": "什么是 RAG（检索增强生成）？"}    ],    temperature=0.2,) print(resp["result"])

核心能力详解：3 大支柱

支柱一：轻量高并发，适合在线高频任务。 ERNIE Lite 的定位是低时延、高吞吐。对短文本分类、意图识别、关键词抽取这类单次输入输出只有几百 token 的任务，Lite 能以更低的单次成本承受更高的 QPS 压力。生产环境建议复用同一个 ChatCompletion 实例，避免每次请求重复初始化。

支柱二：8K / 128K 双上下文规格。 ernie-lite-8k 适合常规对话和短文档处理；ernie-lite-128k 适合合同摘要、长邮件分析、大批量日志聚类等场景。这里的 8K 和 128K 指上下文长度配额，按 token 计算。中文场景下一个字大约消耗 1~2 个 token，长文档调用前应先估算文本量。

支柱三：千帆平台一体化能力。 ERNIE Lite 不是孤立模型，而是挂在千帆的鉴权、计量、监控、精调和私有网络体系里。开发者可以在控制台查看调用量、失败率、token 消耗和费用明细；也可以在千帆「模型精调」流程中基于 Lite 做领域指令微调，但目前大多数业务直接通过 prompt 即可达到可用效果。

生产部署与监控：从上线到运维

部署方式上，ERNIE Lite 采用云托管 API，不需要自建 GPU 或维护推理服务。上线时优先采用官方 qianfan SDK，因为它内部封装了 AK/SK 签名、token 获取、请求序列化和响应解析。若不使用 SDK，也可以直接调用 REST 接口，对话路径为 https://aip.baidubce.com/rpc/2.0/ai_custom/v1/wenxinworkshop/chat/ernie-lite-8k，128K 版本将路径末尾替换为 ernie-lite-128k。

高并发场景下，建议在服务端实现三件事：一是对 429 限流和 5xx 错误做指数退避重试；二是为每次调用设置合理的超时时间，避免上游阻塞；三是把 AK/SK 放在后端配置中心，严禁写入前端代码或仓库。

可观测性方面，千帆控制台的「用量统计」和「费用中心」可以看到每天的调用次数、token 消耗、错误分布和账单。上线前建议为单日调用量和预算设置告警。长文本任务优先使用 128K 规格以减少切片逻辑，但要注意单次输出长度仍然受模型限制，不要期待一次输出数万字。

<p class="para-label">避坑清单：</p>

<ul class="dash-list"><li>模型名大小写与后缀：API 请求中用 ernie-lite-8k，不要写成 ERNIE-Lite-8K，否则会路由失败。</li><li>8K 指 token 上限而非中文字数：中文长文按 1 字约 1~2 token 估算，建议至少预留 20% 余量。</li><li>AK/SK 不等于 Bearer Token：AK/SK 用于换取临时 access_token，SDK 会自动处理，不要手动拼接。</li><li>免费额度和限流：千帆账号存在配额与 QPS 限制，生产环境必须处理 429 错误，不能假设无限调用。</li><li>不要用前端直连：AK/SK 暴露在前端会被盗用并产生费用，必须由后端服务转发请求。</li></ul>

AI 应用场景

常见误区

面试题