GLM：智谱GLM系列

为什么需要 GLM：国产大模型接入贵、慢、难，双轨方案打通最后一公里

国内团队接入大模型的典型障碍有三个：海外模型的网络延迟与合规风险、专有 SDK 带来的迁移成本、以及中小团队无力承担自研基座模型的算力投入。GLM 系列针对这三个问题给出了对应方案：其一，国内节点托管，请求不跨境，业务数据落在中国境内，满足多数企业的数据合规要求；其二，官方宣布并实践了 OpenAI SDK 兼容——代码里只需要把 base_url 指向智谱平台，原有基于 OpenAI 协议的工程化代码可以低成本迁移；其三，提供多个价格档位的 API 模型（从免费的 glm-4-flash 到旗舰 glm-4-plus），同时把 ChatGLM3-6B、GLM-4-9B 等权重开源，团队按预算选择。

从同类工具的气质差异看，GLM 不是编排框架，而是模型本身。它不像 LangChain 那样帮你串流程，而是把「模型能力」与「交付方式」解耦：你要 Agent 能力，它给 Function Call 与 JSON Mode；你要私有化，它给开源权重；你要零运维，它给托管 API。这种「模型 + 双轨交付」的定位，让它比纯闭源模型更可控，比纯开源模型更省事。

软件界面速览：智谱开放平台控制台与模型广场

智谱开放平台（open.bigmodel.cn）是使用 GLM 系列 API 的唯一入口。控制台左侧为主要功能导航，自上而下依次是「模型广场」「API Keys」「在线调试」「用量统计」「数据看板」等区块。其中「模型广场」按对话、视觉、向量、绘图、视频分类陈列模型，每个模型卡片展示上下文长度、价格与限流参数；「API Keys」区用于创建和管理密钥，密钥只显示一次，需立即复制保存。

「在线调试」是上手最快的区域：左侧选择模型并填入消息，右侧即时返回 JSON 响应体，包含 content、usage（消耗的 token 数）等字段。调试确认无误后，可直接把右侧生成的 curl 命令或 Python 代码复制到本地。文档中心则提供各模型的快速开始、参数说明与错误码表，是排查 401/429 等异常的第一站。

安装与环境配置：3 步就绪

第一步·获取 API Key：注册智谱开放平台账号，在「API Keys」页面创建密钥。密钥以环境变量形式注入，不要写进代码库。

第二步·安装 SDK：推荐直接安装 OpenAI 官方 SDK，因为 GLM 接口兼容 OpenAI 协议；若团队偏好官方包，可装 zhipuai。两套安装互不冲突。

第三步·验证连通性：用一个最小对话请求测试，返回 choices[0].message.content 即代表密钥、网络与模型名均正确。

# 1. 安装依赖（二选一或都装）pip install openaipip install zhipuai # 2. 配置环境变量（Linux/macOS）export ZHIPU_API_KEY="你的密钥" # 3. 验证：请求成功会打印模型的回复内容python -c "from openai import OpenAI; c=OpenAI(api_key='$ZHIPU_API_KEY', base_url='https://open.bigmodel.cn/api/paas/v4/'); print(c.chat.completions.create(model='glm-4-flash', messages=[{'role':'user','content':'你好'}] ).choices[0].message.content)"

快速上手：5 分钟跑通带函数调用的对话

函数调用（Function Call，即让模型按你定义的工具格式输出参数，再由程序执行真实操作）是 GLM-4 系列用于构建 Agent 的核心能力。下面用天气查询为例：先声明一个 get_weather 工具函数，然后把工具定义传给模型；模型判断用户问题需要调用工具时，会在返回体中给出 tool_calls，程序解析后执行真实查询，再把结果回传给模型生成最终答案。

运行后模型会输出「北京今天天气晴，气温 12~20℃」，证明工具调用链路已通。进阶技巧：把 API Key 从代码中抽离到环境变量；把这段逻辑封装为 ask_with_tools() 函数复用；对耗时的工具调用改用异步客户端 AsyncOpenAI 提升并发。

from openai import OpenAIimport json client = OpenAI(    api_key="YOUR_API_KEY",  # 建议改为环境变量读取    base_url="https://open.bigmodel.cn/api/paas/v4/") def get_weather(city: str) -> str:    return json.dumps({"city": city, "weather": "晴", "temp": "12~20℃"}) tools = [{    "type": "function",    "function": {        "name": "get_weather",        "description": "查询指定城市的实时天气",        "parameters": {            "type": "object",            "properties": {"city": {"type": "string"}},            "required": ["city"]        }    }}] messages = [{"role": "user", "content": "北京今天天气怎么样？"}]resp = client.chat.completions.create(    model="glm-4-plus", messages=messages, tools=tools)msg = resp.choices[0].messageif msg.tool_calls:    for tc in msg.tool_calls:        args = json.loads(tc.function.arguments)        result = get_weather(args["city"])        messages += [msg, {"role": "tool", "tool_call_id": tc.id, "content": result}]    final = client.chat.completions.create(model="glm-4-plus", messages=messages)    print(final.choices[0].message.content)

核心能力详解：4 大支柱

支柱一·中英双语生成与推理。GLM-4 系列在中文知识问答、数学推理、代码生成上做了专项对齐，官方公开的 MMLU（大规模多任务语言理解基准）分数优于同量级早期模型。对国内业务而言，中文指令遵循度与成语、俗语、行业术语的处理质量是选型时的第一参考。

支柱二·Agent 与工具调用。GLM-4 系列原生支持 Function Call、JSON Mode（强制结构化输出）与 Web Search（联网搜索）。构建 Agent 时，模型负责规划与参数抽取，程序负责执行，角色边界清晰，适合接入工单系统、数据库、Web API 等真实业务动作。

支柱三·多模态理解。GLM-4V 系列在语言模型基础上增加了图像理解能力，可用于截图信息提取、图文问答、UI 结构识别等场景。多模态模型与语言模型共用同一套 API 鉴权与调用方式，工程侧不需要引入额外组件。

支柱四·双轨交付与生态兼容。开源侧（ChatGLM3-6B、GLM-4-9B）支持 vLLM 等推理框架私有化部署；API 侧统一走 OpenAI 协议，LangChain、LlamaIndex 等框架可直接配置 base_url 接入，微调则通过开放平台的自训练功能完成。

生产部署与监控：从上线到运维

部署方式一·托管 API（零运维）。创建 API Key 后配置环境变量即可上线，平台负责弹性扩缩容、限流与安全防护。适合快速验证与流量波动大的业务。监控维度包括：调用量、Token 消耗、平均延迟、错误率，全部在控制台「用量统计」中可视化展示。上线前建议在「在线调试」里用真实生产 Prompt 验证输出确定性，并设置预算告警。

部署方式二·开源权重私有化。数据敏感场景可将 GLM-4-9B 或 ChatGLM3-6B 部署到自有 GPU 服务器，使用 vLLM 提供高性能推理服务：

部署后通过 http://localhost:8000/v1 即可用 OpenAI SDK 调用，端口与服务协议与托管 API 一致，迁移成本低。

避坑清单：

• 忘记设置 base_url：SDK 默认请求 OpenAI 官方域名，会得到连接错误或 404，务必显式指定智谱地址

• 免费模型限流：glm-4-flash 免费但有 RPM（每分钟请求数）限制，生产环境按量评估，必要时切换 glm-4-air

• API Key 泄露：密钥创建后只显示一次，泄露后需在控制台立即吊销重建

• 中文 token 计价差异：中文内容的 token 消耗与英文不同，成本预估时应以实际 usage 返回为准，不要用英文字数估算

pip install vllmvllm serve THUDM/glm-4-9b-chat \  --max-model-len 32768 \  --gpu-memory-utilization 0.9

版本迭代

GLM 系列从 2023 年开源小模型起步，经过 ChatGLM 三代迭代，2024 年更名 GLM-4 并将上下文从 32K 提到 128K；2025 年推出 GLM-4.5/4.6 聚焦 Agent 规划与长程记忆，完成了「开源练兵 → API 商业化 → 能力分层」的三级跳。

AI 应用场景

常见误区

面试题

参考来源

• webpage智谱开放平台注册账号、创建 API Key、模型计费与用量管理
• webpage智谱开发文档各模型快速开始、参数说明与错误码表
• webpageTHUDM/ChatGLM-6B系列首个开源对话模型，含部署与微调指南
• webpageTHUDM/GLM-4GLM-4-9B 开源权重与推理示例
• webpageTHUDM/ChatGLM3ChatGLM3-6B 源码、Agent 与工具调用示例
• webpage智谱AI官网公司动态、技术博客与行业解决方案
• webpageBigModel 开放平台开放平台入口，查看模型广场与限流参数