用途：TrueFoundry AI Gateway 位于应用与 LLM 供应商之间，提供统一 API、鉴权、限流、路由与日志，让应用通过兼容 OpenAI 的接口访问云端与自托管模型。网关基础地址为 {TFY_BASE_URL}/api/llm。
主要能力：单一端点访问多供应商模型（OpenAI、Anthropic、Google Vertex、AWS Bedrock、Azure OpenAI、Mistral、Groq、Cohere、Together AI、自托管 vLLM/TGI 等），使用一个 PAT 或 VAT 代替各供应商密钥；支持聊天补全、补全、嵌入、图像生成/编辑、音频转写/翻译/语音、重排、批处理与内容审查等接口；支持按用户、团队、模型或自定义元数据的限流与预算控制，以及权重、延迟、优先级路由、回退、粘性会话和目标级请求头覆盖；提供请求日志、成本追踪、分析与 OpenTelemetry 导出。
使用方式：在仪表盘 Access 下创建 PAT（个人开发）或 VAT（生产推荐，需管理员权限）；用 tfy apply 应用网关 YAML（gateway-、provider-account/ 类型，无需构建镜像），可先用 tfy apply -f ... --dry-run --show-diff 预览。调用示例：curl "${TFY_BASE_URL}/api/llm/chat/completions" -H "Authorization: Bearer ${TFY_API_KEY}" -H "Content-Type: application/json" -d '{"model":"openai/gpt-4o","messages":[{"role":"user","content":"Hello!"}],"max_tokens":200}'。也可设置 OPENAI_BASE_URL 与 OPENAI_API_KEY 环境变量，或使用 LangChain、LlamaIndex、Cursor、Claude Code、Cline 等。虚拟模型路由目标须为真实目录模型，不能嵌套虚拟模型。
限制：部署自托管模型或工具服务器需 TrueFoundry 企业账户及已连接集群；添加模型与供应商目前通过仪表盘 UI 完成；生产建议用 VAT；安全上只注册可控的模型端点，凭证应存于 TrueFoundry 密钥，勿硬编码；外部兼容 OpenAI 的 API 须用 provider-account/self-hosted-model 加 auth_data，字段以平台仓库 models.ts 为准，勿猜测。