OpenRouter：模型路由与统一 LLM API

为什么需要 OpenRouter：多模型接入的碎片化 → 一个入口统一调度

传统多模型接入的痛点是明显的：每接入一家模型厂商，就要集成一套 SDK、申请一组密钥、理解一套限流与计费规则。项目里同时接入 OpenAI、Anthropic、Google 三家，代码里往往躺着三套 client 初始化逻辑和各自的错误处理分支。切换模型意味着改代码、换密钥、重新测试；生产环境某家厂商服务抖动时，需要人工改配置把流量切走，恢复后再切回来。成本核算也分散，月底要汇总多家账单。

OpenRouter 把这层复杂度收走。它在云端维护了与各家模型厂商的连接，对外暴露一个 OpenAI 兼容的端点，你只需一个 API Key 即可调用数百个模型。应用中切换模型只需改一个 model 字段字符串，例如从 openai/gpt-4o 换成 anthropic/claude-sonnet-4，代码结构完全不变。生产可用性由路由策略保障：可以指定首选模型和备用模型列表（fallback），主模型不可用时自动切到下一个，无需人工介入。计费统一为一个账户、一份账单，支持按量充值，没有月费。

与同类工具的气质差异在于：相比 LiteLLM 这类需要自托管维护的网关，OpenRouter 开箱即用、零运维；相比 Amazon Bedrock 这类云厂商聚合方案，OpenRouter 是中立第三方，不绑定任何一朵云，前端应用或后端服务都可以直接接入。

安装与环境配置：3 步就绪

OpenRouter 是 SaaS 服务，无本地安装环节。整个准备过程分为注册、创建密钥、验证连通三步。

步骤一·注册账号

浏览器访问 [openrouter.ai](https://openrouter.ai/api/v1:free` 后缀可免费调用（速率限制严格，仅适合体验）。

步骤二·创建 API Key

打开「Settings → Keys」页面，点击 Create Key，给密钥起一个便于识别的名称（如 prod-backend），创建后复制生成的密钥。密钥以 sk-or-v1- 开头。建议通过环境变量注入，不要硬编码在代码或前端页面中。

步骤三·验证连通性

安装 OpenAI SDK（pip install openai），或用 curl 直接发请求。OpenRouter 的 base_url 是 https://openrouter.ai/api/v1，与 OpenAI SDK 完全兼容。验证通过即表示环境就绪。

# 1. 安装 OpenAI SDK（OpenRouter 与 OpenAI 客户端兼容）pip install openai # 2. 设置密钥环境变量（将 sk-or-xxx 替换为你的真实 Key）export OPENROUTER_API_KEY="sk-or-v1-xxx" # 3. 用 curl 验证连通性curl https://openrouter.ai/api/v1/chat/completions \  -H "Authorization: Bearer $OPENROUTER_API_KEY" \  -H "Content-Type: application/json" \  -d '{    "model": "openai/gpt-4o-mini",    "messages": [{"role": "user", "content": "用一句话介绍 OpenRouter"}]  }'

快速上手：5 分钟跑通第一个多模型调用

最小可用流程的思路是：用 OpenAI SDK 把 base_url 指向 OpenRouter，把 api_key 换成 OpenRouter 的密钥，然后正常构造聊天补全请求。OpenRouter 收到请求后按模型名路由到对应厂商，把该厂商的响应原样返回给你。

操作步骤如下：

1. 在终端设置 OPENROUTER_API_KEY 环境变量（见上节）。

2. 新建 demo.py，写入下方代码示例。

3. 运行 python demo.py。首次运行无输出是正常的，系统会打印模型的返回文本。

4. 把 model 字段换成其他模型名（如 anthropic/claude-sonnet-4、deepseek/deepseek-chat），再运行一次，对比不同模型的输出风格与响应速度。模型名以模型列表页 https://openrouter.ai/models 中的 slug 为准。

进阶技巧：把模型名放进配置文件中，通过环境变量或配置中心动态切换，即可在多个模型之间 A/B 测试，无需改代码。流式输出只需在原 SDK 调用上加 stream=True，OpenRouter 会透传 SSE 流。

from openai import OpenAIimport os client = OpenAI(    base_url="https://openrouter.ai/api/v1",    api_key=os.environ["OPENROUTER_API_KEY"],) response = client.chat.completions.create(    model="openai/gpt-4o-mini",    messages=[{"role": "user", "content": "用一句话介绍 OpenRouter"}],) print(response.choices[0].message.content)

核心能力详解：5 大支柱

支柱一·统一 API 网关。 OpenRouter 的端点 https://openrouter.ai/api/v1/chat/completions 与 OpenAI 的 Chat Completions 接口格式一致，支持 messages、temperature、max_tokens、stream、tools（工具调用）等标准参数。这意味着生态中所有基于 OpenAI SDK 的工具链——LangChain、LlamaIndex、各类 Agent 框架——都可以通过改 base_url 无缝切换到 OpenRouter。网关层负责请求分发、响应聚合与错误格式统一，对上层应用屏蔽了各厂商的协议差异。

支柱二·模型路由与故障转移。 这是 OpenRouter 区别于普通 API 聚合服务的核心。路由策略分两个层级：provider 级路由，即同一模型可能由多个厂商托管（如 Llama 系列同时挂在 Groq、Together、Fireworks 上），你可以指定优先厂商，也可交给 OpenRouter 自动选择；模型级故障转移，即请求中带 fallback_models 参数，主模型返回错误或超时时，自动依次尝试备用模型。路由判断综合考虑厂商可用性、响应速度与你的偏好设置，生产环境可用性由此得到保障。

支柱三·统一计费与用量管理。 一个账户内预充值 credits，所有模型按 token 消耗实时扣费，定价与模型厂商官方价格对齐或略有上浮（平台按固定倍数加价，具体倍数透明展示在模型定价页）。控制台提供用量仪表盘，可按时间维度查看每个模型的请求数、token 数与费用，支持设置消费上限，避免失控。组织内可创建多个 API Key 并分别设预算，实现按团队或按项目的成本隔离。

支柱四·模型可观测与评测。 平台提供模型排行 Arena，基于用户真实对话的匿名投票产生 Elo 分数，是业界常用的模型横向参考。模型列表页可按上下文长度、价格、模态（文本/图像/嵌入）筛选，每次请求的延迟、token 消耗、费用明细都能在日志中查看到，方便做模型选型复盘。

支柱五·隐私与合规选项。 平台提供隐私模式（Privacy Mode），开启后不会记录你的请求与响应内容，数据不用于平台自身的质量改进；另有欧盟数据驻留选项，欧洲用户可将流量限定在欧盟内处理。此外提供免费的内容审核接口（Moderation），可在请求链路中加入输入输出审核，降低合规风险。

生产部署与监控：从上线到运维

部署方式一：SaaS 网关直连。 对中小团队，直接在应用后端配置 OpenRouter 的 base_url 与密钥即可。零运维，平台负责与各模型厂商的连接池管理与故障恢复。上线前需做的配置包括：在控制台为生产环境单独创建 API Key、设置月度消费上限、开启隐私模式（如业务数据敏感）。此方式最省事，但依赖外部服务，需在应用侧做好超时与重试。

部署方式二：内网网关包装。 对已有 Go/K8s 基础设施的中大型团队，可在 OpenRouter 前加一层自建代理（如基础 nginx 反向代理或开源网关），统一收敛出口 IP、在代理层注入密钥、做请求审计与限流。这样业务代码不直接持有 OpenRouter 密钥，密钥管理收敛到基础设施团队。此方式牺牲少量调用延迟，换取审计粒度与安全边界。

可观测性。 上线后重点监控三类指标：可用性（请求成功率、5xx 占比）、成本（每千 token 单价、日消费趋势）、性能（首 token 延迟、总延迟）。OpenRouter 控制台的用量页能看到聚合趋势，但细粒度日志是平台侧的；如需自建监控，可在应用层拦截 SDK 响应，记录 model、prompt_tokens、completion_tokens、latency_ms 等字段上报到 Prometheus/Grafana 或云监控。故障演练建议：在测试环境故意把主模型名改成不存在的 slug，验证 fallback_models 是否按预期切换，以及切换后业务是否无感。

<p class="para-label">避坑清单：</p>

<ul class="dash-list"><li>默认自动路由不等于最低价或最快：自动模式兼顾可用性、价格与速度，若要指定厂商，必须显式设置 provider 偏好列表，否则同一模型可能在不同厂商间漂移，导致响应质量不一致。</li><li>:free 后缀模型不要上生产：免费模型速率限制严格、队列可能较长，平台可能随时下线或切换其背后的提供方，仅适合原型验证。</li><li>OpenRouter 密钥绝不能出现在前端代码：路由网关等价于一个不限量消费的充值卡，密钥一旦泄露可被滥用产生高额费用，务必在服务端持有，并设置消费上限兜底。</li></ul>

AI 应用场景

常见误区

面试题

参考来源

• webpageOpenRouter 官网