Azure AI：Azure AI 服务套件全攻略

为什么需要 Azure AI：从「调模型」到「跑生产系统」

传统方式下，企业想让业务用上大模型有三条路，各有痛点。第一条路是直接调用 OpenAI 官方 API：上手快，但无企业级 SLA、无内容安全策略、数据默认在境外处理，金融、医疗、政务场景直接卡在合规上。第二条路是自建 GPU 集群部署开源模型：技术上可控，但算力采购、模型运维、弹性伸缩、多租户隔离每一项都是工程成本，一个小团队很难支撑。第三条路是各大云厂商的模型托管平台：能力参差不齐，尤其在国内跨境业务场景中，模型切换、数据驻留、私有网络接入的灵活性往往不足。

Azure AI 把这三条路的难点拆解掉：模型层由 Azure OpenAI Service 托管主流闭源模型，同时模型目录也提供 Llama、Mistral、DeepSeek、Phi 等开源模型，一套 API 切换；平台层由 Azure AI Foundry 统一管理「中心 + 项目」资源结构，把模型部署、数据接入、Prompt 编排（Prompt flow）、批量评估放在一条流水线上；合规层提供内容过滤、Entra ID 身份认证、Private Link 私有链接、客户数据不被用于训练的合同承诺。相比 LangChain 这类纯开源编排框架，Azure AI 的价值不在「编排语法」，而在「把编排、评估、治理打包成可审计的企业流程」。

安装与环境配置：四步就绪

步骤一：准备 Azure 账号与命令行工具。 注册 Azure 订阅（新用户有免费额度），本地安装 Azure CLI 并登录。订阅是计费与资源配额的单位，后续所有资源都挂在某个订阅下。

步骤二：创建资源组与 Azure AI 资源。 推荐用 CLI 完成，比门户点选更可复现。先建资源组，再创建 kind=OpenAI 的认知服务资源（即 Azure OpenAI 资源），随后创建 AI Foundry 的中心（hub）与项目（project）。中心是团队级共享资源池，项目是具体应用的工作区。

步骤三：安装 Python SDK。 核心包是 azure-ai-projects（Foundry 项目与 Agent 编排）和 azure-ai-inference（统一模型推理），配合 azure-identity 做 Entra ID 认证、openai 官方包对接 Azure OpenAI 兼容端点。

步骤四：部署模型并验证。 在资源中创建一个模型部署（deployment），例如 gpt-4o-mini，然后读取 endpoint 与 api-key 完成一次最小调用。

# 1. 登录并确认订阅az loginaz account show --output table # 2. 创建资源组与 Azure OpenAI 资源（kind=OpenAI）az group create --name rg-ai-demo --location eastusaz cognitiveservices account create \  --name my-openai-demo \  --resource-group rg-ai-demo \  --kind OpenAI --sku S0 --location eastus # 3. 创建 AI Foundry 中心与项目az ml workspace create --kind hub \  --name hub-ai-demo --resource-group rg-ai-demoaz ml workspace create --kind project \  --hub-id /subscriptions/<订阅ID>/resourceGroups/rg-ai-demo/providers/Microsoft.MachineLearningServices/workspaces/hub-ai-demo \  --name proj-ai-demo # 4. 部署一个模型并验证az cognitiveservices account deployment create \  --name my-openai-demo --resource-group rg-ai-demo \  --deployment-name gpt-4o-mini \  --model-name gpt-4o-mini --model-version 2024-07-18 \  --model-format OpenAI --sku-name Standard --sku-capacity 10 # 5. 安装 Python SDKpip install azure-ai-projects azure-ai-inference azure-identity openai

快速上手：10 分钟跑通第一个模型调用

最小可用流程的思路是「先部署、再对话、后接代码」：在 Foundry 门户完成模型部署与交互验证，确认质量和成本符合预期后，再把端点接入自己的代码。这样避免一上来就在代码里调参。

1. 浏览器打开 https://ai.azure.com，用 Azure 账号登录，进入 Azure AI Foundry。

2. 创建项目：填写项目名称、选择订阅与资源组，系统会自动创建中心（hub）与项目。

3. 在左侧「模型目录」中搜索 gpt-4o-mini，点击进入模型详情页，选择「部署」，部署名建议与模型名一致，便于代码引用。

4. 进入「聊天游乐场」（Chat playground），选择刚部署的模型，在系统提示词中填写角色设定（如「你是一名电商运营助手」），输入测试消息并提交，观察输出与 token 消耗。

5. 在项目「概览」页复制 endpoint（形如 https://<资源名>.openai.azure.com/）与 API key 备用。

6. 本机运行下方 Python 代码验证连通性。

运行成功说明部署、认证与代码链路全部打通。注意代码中 model 参数必须填「部署名」而不是模型名，两者默认一致时容易忽略，改名后会立刻报 404。进阶用法是把 key 换成 DefaultAzureCredential（Entra ID 认证），彻底避免密钥明文落盘。

import osfrom openai import AzureOpenAI client = AzureOpenAI(    api_version="2025-01-01-preview",          # 你的资源支持的 API 版本    azure_endpoint=os.environ["AZURE_OPENAI_ENDPOINT"],  # https://<资源名>.openai.azure.com/    api_key=os.environ["AZURE_OPENAI_API_KEY"],) resp = client.chat.completions.create(    model="gpt-4o-mini",                       # 部署名，而非模型名    messages=[        {"role": "system", "content": "你是一名电商运营助手，用中文回答。"},        {"role": "user", "content": "用一句话总结春季大促的选品原则。"},    ],)print(resp.choices[0].message.content)print("tokens:", resp.usage.total_tokens)

核心能力详解：五大支柱

支柱一：Azure OpenAI Service——模型托管与内容安全。 这是套件中最核心的推理层。平台托管 GPT-4o、o3、o4-mini 等前沿模型，并提供微调、批量推理（Batch API）、内容过滤三级联动（提示词输入过滤、输出过滤、DALL·E 图像过滤）。内容过滤默认开启，按仇恨、性、暴力、自伤四类内容分严重级别拦截，企业可在 Foundry 中调整级别或配置自定义过滤词表。对需要私有数据的客户，可在订阅中启用「客户数据不用于训练 + 静态加密 + 指定区域驻留」的组合政策。

支柱二：Azure AI Foundry——统一开发与治理门户。 门户采用「中心 + 项目」两级资源结构：中心承载团队共享的模型部署、连接器与安全策略，项目是具体业务应用的隔离工作区。核心能力包括：模型目录（支持 1800+ 开源与闭源模型，一键部署）、Prompt flow（可视化编排 prompt 调用链，支持 Python 节点与条件分支）、评估流程（对多个 prompt/模型配置做批量对比并输出质量与成本指标）、监控面板（跟踪 token 用量、延迟与内容拦截率）。Foundry 不是渲染 UI 的「玩具台」，而是模型服务从试点到生产的治理中枢。

支柱三：Azure AI Services——成熟的感知与语言 API。 前身是 Azure 认知服务，按能力分为四类：语音（实时转写、文本转语音、说话人识别）、视觉（图像分析 OCR、人脸、视频索引）、语言（情感分析、观点挖掘、命名实体识别、自定义问答）、决策（内容审查、异常检测）。这些 API 与 OpenAI 模型互补：大模型负责开放域推理，AI Services 负责高精度、低成本的专用任务。例如商品评论的情感分类用语言服务的 opinion mining，比直接让 GPT-4o 逐条打标更便宜且更稳定。

支柱四：Azure AI Search——RAG 应用的检索底座。 微软官方推荐的 RAG 数据层是 Azure AI Search：支持向量检索（内嵌文本嵌入）与关键词检索的混合检索（hybrid search），并内置语义排序器（semantic ranker）对召回结果重排。对电商场景，商品表、评论、说明书等异构数据可以走索引器（indexer）定时同步，配合分块策略后直接作为大模型的上下文来源。检索质量直接决定 RAG 回答质量，这一步不能省。

支柱五：Azure AI Agent Service——企业级 Agent 编排运行时。 2024 年底随 AI Foundry GA 推出的托管 Agent 服务，解决了「让模型调用工具」的生产化问题：Agent 可安全调用 Azure Functions、OpenAPI 定义的业务接口，自动维护多轮会话的线程状态（thread），并带有代码解释器、文件搜索等内置工具。相比自研 ReAct 循环，Agent Service 把对话状态存储、工具鉴权、成本审计托管化，适用于客服机器人、数据分析助手等需要多步工具调用的场景。

生产部署与监控：从上线到运维

部署方式一：无服务器按量推理端点。 在 Foundry 中把模型或应用发布为托管在线端点（Managed Online Endpoint），按实际调用量计费、自动伸缩，无需管理底层节点。适合流量波动大的线上服务，例如电商大促期间的客服机器人。端点支持多模型流量拆分（mirror traffic），可先切 10% 流量验证新模型再全量切换。

部署方式二：容器化私有网络接入。 把应用部署到 Azure Container Apps 或 AKS，Azure OpenAI 与 AI Search 资源开启 Private Link 后仅在内网可达，出站流量经防火墙白名单控制。应用侧使用托管身份（Managed Identity）代替 API key 调用模型服务，身份由 Entra ID 统一管理并支持 RBAC 细粒度授权，满足金融、政务等强合规要求。

可观测性：三层监控。 第一层是 Azure Monitor + Application Insights：记录每次 LLM 调用的延迟、token 数、HTTP 状态码与内容过滤触发情况，配置 429 限流、5xx 错误率告警。第二层是 Foundry 评估与监控面板：按周对线上抽样问答做质量打分，跟踪准确率、相关性、拦截率趋势。第三层是成本管理：在 Azure 成本分析中按资源、按模型维度拆分账单，对高消耗项目设置预算告警。

<p class="para-label">避坑清单：</p>

<ul class="dash-list"><li>Azure OpenAI 与 OpenAI 官方 API 不兼容：需要改 base_url、额外传 api-version、用部署名而非模型名，直接替换 key 必然报错。</li><li>内容过滤默认开启且无法彻底关闭：某些行业术语会误触发过滤，需在 Foundry 配置严重级别与例外规则，上线前必须做拦截率回归测试。</li><li>配额（quota）是硬限制：每个资源有 RPM/TPM 上限，超限返回 429；大促流量需提前提升配额或配置预留容量，而非靠重试硬扛。</li><li>api-version 是必填参数且版本间有差异：锁定版本后升级要回归测试，切忌在代码里写死无验证的「最新版」字符串。</li><li>模型版本有停用时间表：微软会提前数月公布模型版本退役日期，到期后旧版本停止服务，需建立模型升级看板提前迁移。</li></ul>

版本迭代

Azure AI 的演进主线是从「独立服务」走向「统一平台」。2023 年 1 月 Azure OpenAI Service 正式商用，2023 年中认知服务整合为 Azure AI Services，2024 年 5 月 Build 大会推出 Azure AI Studio 公开预览，2024 年 11 月 Ignite 大会将 Studio 升级为 Azure AI Foundry 并正式 GA，2025 年继续在 Agent 托管与评估观测能力上增强。（截至 2025 年年中）

AI 应用场景

常见误区

面试题

参考来源

• webpageAzure-Samples 官方示例库Contoso Chat 等电商场景参考实现