用途:Vercel AI Gateway 为调用 AI 模型提供统一 API,通过单一端点访问多家供应商的 100+ 模型,并在其上叠加路由、故障转移、成本追踪与可观测能力(资料称路由延迟 <20ms)。
主要能力:供应商选择与负载均衡、按 order/only/models 的故障转移、按 user 和 tags 的用量与成本归因、Cache-Control 响应缓存、按用户限流(超限返回 HTTP 429)、预算告警与硬限额(超限返回 HTTP 402)、审计日志、文本与图像生成路由。
使用方式:依赖 ai@^6.0.0;直接传 "provider/model" 字符串即可自动路由,gateway() 包装函数仅在需要 providerOptions.gateway 路由、故障转移或标签时使用。模型 slug 用 provider/model 格式,版本用点号(如 anthropic/claude-sonnet-4.6);硬编码前可调用 gateway.getAvailableModels()。默认认证为 OIDC:vercel link,在控制台启用 AI Gateway,再执行 vercel env pull .env.local,本地令牌约 24 小时有效,过期可执行 vercel env pull .env.local --yes 刷新;也可改用 AI_GATEWAY_API_KEY。
适用场景:生产应用(故障转移与可观测)、多租户 SaaS(按用户追踪与限流)、需要按标签核算成本的团队。若需供应商独有功能、自托管模型或自定义 HTTP 传输,则应直接使用供应商 SDK。嵌入(embeddings)建议改用供应商 SDK 直连。
限制与注意:训练数据可能过时,模型 slug、供应商路由与能力变动频繁,使用前应查阅 https://vercel.com/docs/ai-gateway 与 https://ai-sdk.dev/docs/foundations/providers-and-models;网关仪表盘无可编程指标 API;默认不记录提示与补全内容。价格为供应商原价无加价,Vercel 团队每月含 5 美元免费额度,具体计费与额度细节以官方为准。