SuperAPI AI 工具集

iblai-api-spend-caps

编程与开发

查看项目

更新于 10-16 05:55

技能介绍

用途:通过 ibl.ai 平台 API 管理组织的 LLM 花费上限(spend cap),即管理员设定的最大 LLM 成本,在三种范围生效:tenant(整个组织,每平台一个)、agent(单个智能体/mentor,每个智能体一个)、user_agent(某用户在某智能体上的显式上限)。

主要能力:每个上限包含滚动周期(day/week/month/year,按日历对齐)、美元限额 max_cost_usd、执行模式(block 超限后拒绝后续对话;alert_only 仅通知)、告警阈值(限额的比例,默认 [0.8, 0.95])。被拦截时返回 HTTP 429,响应体标明命中的周期,但不含金额。计数由 ClickHouse 定期对账,只读展示,便于 UI 渲染进度条。

使用方式:基础地址为 https://api.iblai.app/dm,必须带 /dm 前缀;请求头为 Authorization: Api-Token $IBLAI_API_KEY。路径中 {org} 为组织键,{mentor} 为智能体 UUID,{username} 为目标用户。api/ai-mentor/ 与 api/ai-agent/ 为别名,任选其一并保持一致。未连接时先运行 /iblai-api-login 以填充 IBLAI_ORG、IBLAI_USERNAME、IBLAI_API_KEY。读取端点包括租户上限、智能体上限列表与单个上限、用户级上限列表与单个上限,以及学习者可读的状态端点(仅返回区间与百分比,不暴露金额)。写入端点使用 PUT 做 upsert(新建返回 201,覆盖返回 200),DELETE 删除;所有配置端点需平台管理员权限(RBAC 前缀 Ibl.Mentor/SpendCaps/*)。

适用场景:为组织、单个智能体或单个用户设置 LLM 成本上限,控制预算并触发告警。

限制:计数最终一致,可能略滞后于实时花费;状态端点按设计隐藏金额;每个(范围、智能体、用户)组合仅一个上限;拦截返回 429,与购买额度耗尽的 402 不同;写入前应先与用户确认。