用途：为基于 Groq LPU 推理 API 的应用提供生产级架构，覆盖四类关注点——按延迟/能力/成本路由到合适模型、中间件带（缓存、指标、重试）、多提供商回退链、流式管道。构建的服务层可复用于聊天 UI、API 后端、批处理器或智能体。
主要能力：模型注册表声明各模型的层级、上下文窗口、速度、成本与能力；路由器 selectModel(req) 依据 maxLatencyMs、needsVision、needsTools、costSensitive 选择满足条件的最便宜模型；中间件 completionWithMiddleware() 为每次调用加 LRU 缓存（仅 temperature === 0 的确定性请求）、延迟与 token 指标；回退链 completionWithFallback() 在主模型 429/5xx 时切换到不同限流池的模型，并返回优雅降级结果而非抛错；流式管道 streamCompletion() 为异步生成器，产出 token/done/error 事件供 SSE 使用。
使用方式：需 Groq API 密钥（console.groq.com 创建，导出为 GROQ_API_KEY，客户端用 new Groq({ apiKey: process.env.GROQ_API_KEY }) 构造，切勿硬编码）；运行时 Node.js 18+；安装 npm install groq-sdk lru-cache。按五步在 src/groq/ 下构建：models.ts、router.ts、middleware.ts、fallback.ts、streaming.ts。集成模式包括直接补全、流式 SSE、工具调用、JSON 提取、批处理、音频转写、视觉分析。
适用场景：新建 Groq 集成、审查现有项目、延迟敏感聊天、质量优先带回退、流式 UI、视觉路由。
限制：完整层图与可复制 TypeScript 见 references/architecture.md 与 references/implementation.md；上下文超 128K 需截断或分块；视觉需用 Llama 4 Scout 完整模型路径；多环境部署参见 groq-multi-env-setup 技能。