SuperAPI AI 工具集

cohere-rate-limits

通用与其它

查看项目

更新于 10-15 22:42

技能介绍

用途:把 Cohere 的速率限制当作按密钥、端点、模型动态变化的实时契约,而非固定的每分钟请求数,用于实现端点感知的节流、有界重试和队列背压,尤其适合处理 429 响应与容量饱和。

主要能力:识别密钥类型、端点、解析后的模型、请求批量与当前文档限制;将限制换算为请求、输入与 token 预算;对混合端点使用独立预算;提供共享队列、有界并发、带抖动的退避与总重试截止时间;遵循提供方重试指引,对确定性客户端错误停止重试;在批准上限以下用非敏感夹具做负载测试并记录饱和行为;对持续限流、队列积压、丢弃任务与预算耗尽告警。

使用方式:用 Read、Glob、Grep 检查代码与配置;仅用 WebFetch 查阅 Cohere 官方文档;仅在用户要求实现且目标文件明确时用 Write 或 Edit,且不得写入凭据或客户内容。密钥从批准的密钥管理器按环境注入,禁止打印、持久化、提交或把 CO_API_KEY 放入示例。

限制与边界:未经负责人批准,不得暴露或轮换密钥、更改团队角色、接受商业条款、启用敏感生产数据、增加支出或容量、切换生产模型、发送支持包或执行模型提议的副作用;未要求实现时保持只读诊断。未知限制应做保守探测或联系 Cohere,不得臆造容量。输出需返回解析后的 API 与模型契约、检查的文件或设置、证据、验证结果、剩余风险、负责人与回滚或下一步,并脱敏密钥、授权头、提示、检索文档、嵌入、客户标识与环境输出。具体价格、平台与效果资料暂未提供。