Azure AI Gateway

Azure AI Gateway 是什么

Azure AI Gateway 指导把 Azure API Management 配置成 AI 模型、MCP 工具和 Agent 的治理入口，集中处理托管身份、后端选择、token 限额、语义缓存、内容安全、越狱检测、负载均衡和 token 指标。

适用场景与选择边界

适合为 Azure OpenAI 或 Foundry 模型加统一网关，为 MCP 工具限流，把 OpenAPI 暴露为受控 MCP，以及测试现有 AI 网关。它不负责训练模型或编写 Agent；普通 Azure API 网关之外的网络入口也不自动覆盖。只有单次本地模型调用时，直接 SDK 可能更简单。

核心能力与工作机制

它能发现 AI 资源、创建 APIM backend、授予 Cognitive Services User 角色、组合 inbound policy，并通过订阅密钥调用网关测试。策略顺序涵盖缓存查找、token 限额、安全、后端选择和指标。

实际工作流

先取得 APIM 网关 URL、backends 与测试密钥，确认模型或工具目标；使用托管身份建立后端，再按治理目标选择最少策略并确定顺序。应用后用正常、超限和不安全请求测试，再查看 token 指标和缓存。

输入、输出与交付物

需要 APIM 实例、模型或 API 后端、治理目标、流量与 token 预算、缓存容忍度、安全阈值和测试凭据。输出包括 backend、APIM policy、角色分配、测试命令与验证结果；如果转换 API 为 MCP，还应记录暴露的工具、认证方式和限流键。

依赖、账号与权限

需要 Azure CLI、APIM 和后端资源权限，创建托管身份授权还需 RBAC 写权限。订阅密钥和模型凭据不能写入策略示例或日志。

限制与安全风险

错误缓存可能返回过时或跨用户内容，阈值不当会误拦截，宽松限流会造成成本失控。策略顺序和身份配置错误会产生 401、429 或绕过治理。读取网关详情是只读；新增 backend、修改 policy、角色授权和导入 API 会改变生产流量路径，应先展示 diff、测试范围和回退版本。

适合谁使用

适合 AI 平台、API 管理和安全治理团队，特别是需要统一管理多个模型或工具的组织。

上手与验收建议

先在测试 APIM 只接一个模型，逐项加入认证、限额、指标和安全策略。验收要从网关成功调用目标，同时验证未授权、超限和有害输入确实被按预期处理，并检查后端未暴露、token 指标可见、缓存没有跨身份串用。

来源、版本与许可

本条目依据 Microsoft 官方 azure-skills 仓库固定提交中的完整 Azure AI Gateway Skill、skills.sh 市场详情和仓库 MIT 许可证整理，核验日期为 2026 年 9 月 20 日。来源未提供官方中文展示名，因此导航保留官方英文名称。

常见问题

1. Azure AI Gateway 主要解决什么问题？

Azure AI Gateway 指导把 Azure API Management 配置成 AI 模型、MCP 工具和 Agent 的治理入口，集中处理托管身份、后端选择、token 限额、语义缓存、内容安全、越狱检测、负载均衡和 token 指标。适合为 Azure OpenAI 或 Foundry 模型加统一网关，为 MCP 工具限流，把 OpenAPI 暴露为受控 MCP，以及测试现有 AI 网关。

2. 开始前需要准备哪些输入和上下文？

需要 APIM 实例、模型或 API 后端、治理目标、流量与 token 预算、缓存容忍度、安全阈值和测试凭据。需要 Azure CLI、APIM 和后端资源权限，创建托管身份授权还需 RBAC 写权限。订阅密钥和模型凭据不能写入策略示例或日志。

3. 执行后会得到什么结果或文件？

输出包括 backend、APIM policy、角色分配、测试命令与验证结果；如果转换 API 为 MCP，还应记录暴露的工具、认证方式和限流键。

4. 需要哪些账号、工具和最小权限？

需要 Azure CLI、APIM 和后端资源权限，创建托管身份授权还需 RBAC 写权限。订阅密钥和模型凭据不能写入策略示例或日志。错误缓存可能返回过时或跨用户内容，阈值不当会误拦截，宽松限流会造成成本失控。策略顺序和身份配置错误会产生 401、429 或绕过治理。

5. 它会修改本地文件或云端资源吗？

读取网关详情是只读；新增 backend、修改 policy、角色授权和导入 API 会改变生产流量路径，应先展示 diff、测试范围和回退版本。

6. 哪些需求不应该交给这个 Skill？

它不负责训练模型或编写 Agent；普通 Azure API 网关之外的网络入口也不自动覆盖。只有单次本地模型调用时，直接 SDK 可能更简单。

7. 遇到失败或结果异常时怎样处理？

401 先检查 APIM 托管身份和后端角色；429 核对 token 限额与负载均衡；无缓存命中检查阈值和缓存键。策略问题应逐段禁用定位，不能整体反复发布。

8. 如何验收结果确实可靠？

验收要从网关成功调用目标，同时验证未授权、超限和有害输入确实被按预期处理，并检查后端未暴露、token 指标可见、缓存没有跨身份串用。