SuperAPI AI 工具集

token-cost-analyzer

编程与开发

查看项目

更新于 10-15 23:49

技能介绍

用途:该技能用于审计、分析和优化 LLM API 花费,适合月度 AI 账单高于预期、需要了解 token 消耗分布、优化提示词成本效率、建立成本监控或为 AI 功能做预算的场景。

主要能力:提供 Anthropic Claude、OpenAI、Google 三类模型的价格参考(按每 100 万输入/输出 token 计价);提供成本计算函数 calculateCost,按输入、输出与缓存 token 计算费用;提供 CostTracker 类记录每次调用的模型、操作、用户、token 与成本,并支持按时间、操作、模型聚合,以及查找最昂贵操作;提供 generateCostReport 生成报告,含总成本、token 总量、平均单次成本、按模型/操作/天数的拆分,以及优化机会洞察;提供告警系统 CostAlertSystem,支持阈值、突增、异常三种类型,动作包括通知、限流、阻断;并提供仪表盘指标结构,含实时小时/日/月成本、7 天趋势、月末预测、模型占比、预算使用率等。

优化策略:包括按任务复杂度分级选模型(simple/medium/complex 映射到低成本模型)、精简提示词以减少输入 token、限制回复长度(提示词约束或 max_tokens)、使用 Anthropic prompt caching 缓存长上下文(缓存 token 成本约低 90%)。

使用方式:将记录的 UsageRecord 输入成本追踪与报告流程,按成本计算函数核算;结合告警规则实现阈值触发通知或限流阻断。

适用场景:成本审计、预算制定、成本监控、提示词优化、模型选型与成本归因。

限制:资料未提供安装命令、部署方式或与具体平台的集成步骤;价格表为资料给定的 2026 年参考值,实际价格请以服务商官方为准;示例代码中的模型名称与定价需按实际使用核对。