LLMKit 是一个开源 AI 网关和 SDK 套件，核心目标是让用户清楚 AI 代理的成本，并在请求超出预算时将其阻止。它涵盖成本归因、预算准入和请求证据三大方向。
一、主要用途 LLMKit 用于测量和管控 AI 代理的 API 花费。网关会在把请求分派给模型提供商之前预估并预留费用；如果请求无法满足当前活动预算，就会被拒绝；当响应完成后，再把预留金额按实际用量进行结算。
二、多种使用方式
- 本地 Python 追踪：传输层读取提供商的使用量元数据，并依据内置定价目录估算成本。此方式不会把追踪数据发送给 LLMKit。
- 零代码 CLI 追踪：使用 -v 可获得逐请求输出，使用 --json 可获得机器可读结果。
- 网关模式（需已有密钥）：网关示例需要现成的 LLMKit API 密钥。当前账号创建和密钥管理在认证服务恢复期间暂时不可用；如果没有密钥，可改用上述本地追踪方式。
三、预算控制路径 控制路径围绕三个边界构建：
- 原子准入：Durable Object 为每个预算范围持有预留状态，并发请求无法花费同一份剩余余额。
- 分派感知的幂等性：在分派前发生的确定性失败会释放密钥；在可能已进行提供商分派之后，失败保持终态，以避免重复花费。
- 有界响应：非流式响应体以及单个 SSE 帧都有明确的字节上限，超过限制时 LLMKit 会取消上游读取。 请求收据通过稳定标识符把准入决策、提供商尝试、结算和分析移交绑定在一起。数据库写入使用发件箱模式，因此分析服务中断不会静默抹掉预算证据。
四、工具集 五个本地工具可在没有 LLMKit 密钥的情况下检查受支持的 Claude Code 会话和 Cline 任务数据。六个网关工具在 LLMKIT_API_KEY 含有效密钥时可查询花费、预算、密钥、会话和服务健康状态。合计共提供 11 个工具。
五、定价目录 固定目录是内置的参考快照，并非实时报价。单一源文件 packages/shared/pricing.json 记录快照日期，并生成 TypeScript、Python 和 MCP 表。CI 会拒绝源文件与生成文件之间的漂移。公开站点只渲染有数据的提供商表，并显示源日期。 公开对比端点无需账号即可使用，它只对调用方提供的精确模型键定价，不会搜索或推荐最便宜的模型。定价是估算值，不是提供商发票；提供商计费规则、模型模态和目录新鲜度都属于误差边界的一部分。
六、安全与部署 提供商凭据使用 AES-256-GCM 加密，采用随机 IV 以及绑定所有者/提供商的附加认证数据。LLMKit API 密钥在存储前会先做哈希处理。CI 包含密钥扫描、静态分析、依赖审查、CodeQL 和包来源检查。 本地可用仅开发用途的绑定运行 Worker。通用部署命令被刻意省略；暂存和生产使用各自受保护的脚本，并需明确确认目标。
七、限制说明 账号创建与密钥管理在认证服务恢复期间暂时不可用。定价目录为参考快照而非实时价格。项目官网、文档、定价 API、架构和安全保证等链接在仓库中提供，但具体收费、价格等细节资料未提供。
