SuperAPI AI 工具集

groq-multi-env-setup

通用与其它

查看项目

更新于 10-15 23:26

技能介绍

用途:在开发、预发布(staging)和生产三套环境中分别配置 Groq API 访问,使模型选择、重试策略、日志级别和密钥来源随环境变化。核心思路是开发环境用 llama-3.1-8b-instant(最便宜、最快),预发布对齐生产模型,生产环境通过重试与回退加固。

前提条件:拥有 Groq 账号并从 console.groq.com/keys 获取 API 密钥,最好每个环境使用独立密钥或组织;Node 项目已安装 groq-sdk(npm install groq-sdk);按环境设置 NODE_ENV(development / staging / production);预发布与生产密钥需存放在密钥库中,如 GitHub Actions secrets、AWS Secrets Manager、GCP Secret Manager 或 HashiCorp Vault。

环境策略:开发环境密钥来自 .env.local,默认模型 llama-3.1-8b-instant,重试 1 次,详细日志;预发布密钥来自 CI/CD secrets,默认模型 llama-3.3-70b-versatile,重试 3 次,标准日志;生产密钥来自密钥管理器,默认模型 llama-3.3-70b-versatile,重试 5 次,结构化日志。

主要步骤:构建 config/groq.ts 配置模块,用按环境索引的 configs 记录解析模型、token 预算、重试次数、超时和日志,并校验密钥是否存在;编写 services/groq-service.ts 服务包装,仅在 logRequests 开启时记录日志,并在 429 时暴露 retry-after 头;按平台获取密钥,开发读取被 git 忽略的 .env.local,预发布用 CI/CD secrets,生产从密钥管理器拉取;用 Docker Compose profiles 部署,使各环境注入自己的密钥(开发/预发布用环境变量,生产用外部 Docker secret);用 scripts/verify-groq-env.ts 验证各环境,打印解析后的模型与重试次数并做一次实时往返;通过 x-ratelimit-* 响应头检查每个密钥的速率限制。

验证示例:NODE_ENV=production GROQ_API_KEY_PROD=gsk_... npx tsx scripts/verify-groq-env.ts。

限制与错误处理:GROQ_API_KEY 未设置时检查 .env.local 或密钥管理器;环境模型错误时用验证脚本核对;开发环境被限流时改用 llama-3.1-8b-instant 并降低 max_tokens;避免开发环境使用预发布/生产密钥,建议每个环境使用独立 Groq 组织。资料未提供具体收费与价格信息。