Neon AI Gateway 把 LLM 与嵌入推理带到 Neon 分支上,用一个 API 和一个 Neon 凭据即可访问 Anthropic、OpenAI、Google、Meta 等多家供应商的前沿与开源模型,以及嵌入模型,均由 Databricks 托管。现有 OpenAI/Anthropic/Gemini SDK 只需更换 base URL 即可使用。模型目录会变动,应以 /v1/models 和 models.dev 的 Neon 页面为准。
用途与优势:一个凭据替代多个供应商账号;统一端点兼容 OpenAI,切换 Claude、GPT、Gemini 只需改 model 字段;每个分支有独立网关端点,与数据库血缘一致,预览/CI 环境相互隔离;网关位于 Neon 项目内并自动注入 Neon Functions,支持 SSE 流式输出。
可用区域为 aws-us-east-2、aws-us-east-1、aws-eu-central-1、aws-ap-southeast-1,基础模型访问需付费 Neon 套餐。Free 套餐会阻止预置;付费套餐初始可能只有精简模型目录,需在控制台申请更多模型。
启用方式:在 neon.ts 中设置 aiGateway: true,然后运行 neon deploy(或 neon config apply)预置;neon config status 查看状态,neon config plan 做 dry-run 差异。启用后 Neon 注入 NEON_AI_GATEWAY_TOKEN 与 NEON_AI_GATEWAY_BASE_URL,不会设置 OPENAI_* 变量。路由包括 /v1(OpenAI Chat Completions 兼容)、/openai/v1(Responses API)、/anthropic(原生 Messages)、/gemini(原生 Gemini)。
推荐使用 Vercel AI SDK 搭配 @neon/ai-sdk-provider(自动读取注入变量),或使用 Mastra(neon/<model> 魔法字符串)。嵌入调用需 @neon/ai-sdk-provider 1.0.0+ 与 AI SDK 6+。也可直接用 Plain SDK,从 NEON_AI_GATEWAY_* 构建 apiKey 与 baseURL。模型标识直接使用目录 ID,如 claude-sonnet-4-6、gpt-5-mini、gemini-3-flash,无需供应商前缀。