用途:把当前代码库接入 TrueFoundry AI Gateway,适合已有 TFY 账号、希望将 AI 流量统一经网关路由、审计绕过网关的 LLM 调用、把硬编码凭据迁到 TFY Secrets、确认所用模型已在网关配置的场景。触发词包括“integrate”“connect to gateway”“route through TrueFoundry”“audit my AI calls”。无 TFY 账号时先用 onboard 技能。
主要能力:该技能在客户仓库内运行、拥有完整文件系统权限,可读取源码了解客户端实例化方式,追踪环境变量到 .env 与 docker-compose,判断代码走环境变量还是硬编码,识别框架栈(裸 SDK、LangChain、LlamaIndex、Vercel AI),在密钥操作前检查 .env 是否已被 gitignore,识别 monorepo 结构,收集代码中的模型名,并读取现有 CI/CD 配置。
使用流程:依次为 PREFLIGHT、SCAN、DIFF、PLAN、APPLY、VERIFY。预检确认 tfy 登录、.env 是否被忽略、TFY_BASE_URL 与 TFY_API_KEY 是否设置;.env 未被 gitignore 或未登录时应先停止。扫描先运行 scripts/scan.sh . --skip-tests,再按需深入阅读文件。差异阶段对比代码与网关状态(如 GET /api/svc/v1/provider-accounts),给出缺口分析。计划阶段按迁移成本列出调用点与网关缺口,需用户确认后再修改文件。应用阶段把提供商密钥存入 TFY Secrets(不处理明文密钥)、创建缺失的 provider account(tfy apply -f ... --dry-run --show-diff 后正式应用)、按需创建虚拟模型、更新 .env 为 TFY PAT 与 OPENAI_BASE_URL=${TFY_BASE_URL}/api/llm,并更新 .gitignore。验证阶段用 scripts/verify-gateway.sh 对每个模型做冒烟测试。网关模型 ID 格式为 {provider_account_name}/{model_name},例如 openai-main/gpt-4o。
限制:需已有 TFY 账号与 PAT;未提供价格、计费或效果数据;部署模型属于企业功能。密钥绝不应在对话中传递。若 .env 未被 gitignore、未登录、找不到 LLM 调用、迁移后仍 401、原密钥丢失或 monorepo 扫描过宽,资料给出了相应排查方向。