SuperAPI AI 工具集

ai-gateway

通用与其它

查看项目

更新于 10-15 23:33

技能介绍

用途:Vercel AI Gateway 是统一调用 AI 模型的 API,内置路由、故障转移、成本追踪与可观测性,适合生产应用、多租户 SaaS 和需要成本核算的团队。

主要能力:单一端点访问 100+ 模型,路由延迟低于 20ms;支持提供商优先级(order)、限定提供商(only)、回退模型(models)、按用户追踪(user)和成本标签(tags);支持 Cache-Control 响应缓存、按用户限流、预算告警与硬性支出上限;记录请求日志,可通过仪表盘或 Vercel API 查询,并支持 Log Drains。

使用方式:安装 ai@^6.0.0,可选 @ai-sdk/gateway@^3.0.0。直接传 "provider/model" 字符串即可自动路由,例如 model: 'openai/gpt-5.4';需要路由、故障转移或标签时使用 gateway() 包装并配置 providerOptions.gateway。模型 slug 使用 provider/model 格式,版本用点号,如 anthropic/claude-sonnet-4.6;建议先调用 gateway.getAvailableModels() 获取可用 ID。认证默认使用 OIDC:执行 vercel link、在仪表盘启用 AI Gateway、vercel env pull .env.local 自动写入 VERCEL_OIDC_TOKEN;也可设置 AI_GATEWAY_API_KEY。Claude Code 可通过 ANTHROPIC_BASE_URL="https://ai-gateway.vercel.sh" 等环境变量接入。

限制:模型 slug、提供商路由和能力变化频繁,使用前应查阅官方文档,不要猜测模型名;网关默认不记录提示与补全内容;仪表盘不提供程序化指标 API,需自行估算 token 做预检;达到硬性预算返回 HTTP 402,超限返回 429;需要提供商专有功能或自托管模型时应直接使用提供商 SDK。具体价格、平台与效果以官方资料为准。