SuperAPI AI 工具集

groq-enterprise-rbac

编程与开发

查看项目

更新于 10-15 23:26

技能介绍

用途:当多个团队共用 Groq 推理 API 时,在应用层实现按团队的模型白名单、消费上限、速率限制与密钥轮换。Groq 使用扁平 API Key(gsk_ 前缀),无内置作用域,访问控制需由位于团队与 Groq 之间的网关实现。

主要能力:按团队/环境创建独立 Groq Project 与密钥,命名如 {team}-{environment}-{purpose};定义 TEAM_CONFIGS 策略对象,包含 allowedModels、maxTokensPerRequest、monthlyBudgetUsd、rateLimitRPM;网关函数在请求到达 Groq 前校验模型、令牌与预算,并用 p-queue 按团队限流;记录每团队用量并在 80%/95% 阈值告警;提供零停机密钥轮换流程。

使用方式:需具备 Groq 组织控制台访问与计费配置、创建 Project 的权限、密钥管理器(如 AWS/GCP Secrets Manager、Vault)以及 Node/TypeScript 网关层;参考实现需安装 groq-sdk 与 p-queue。完整代码见 references/implementation.md,示例见 references/examples.md。

适用场景:多团队或多环境共享 Groq 推理、需要按团队控制模型与成本、需要密钥隔离与轮换的组织。

限制:Groq 本身不提供按团队的作用域或强制,速率限制按组织共享,所有管控均依赖自建网关;预算耗尽需提高上限或等待计费周期重置;模型误用需在调用前自行校验。具体价格与平台细节暂未提供。