SuperAPI AI 工具集

llm-monitoring-dashboard

办公与效率

查看项目

更新于 10-15 19:54

技能介绍

用途:在现有管理后台中新增 LLM 用量监控板块,追踪各团队或个人的 API 成本、token 与延迟,用于周报、用户采用率管理和模型切换的成本决策。

主要能力:基于 Tokuin CLI 采集 token/成本/延迟数据;按用户维度生成排行;识别非活跃用户;支持多模型对比与 Prometheus 格式输出;数据以 JSONL 记录并写入 SQLite,供仪表盘展示。

使用方式:先运行 safety-guard.sh 安全检查(检测 Tokuin 安装、硬编码密钥、.env 是否在 .gitignore、端口占用等,FAIL 即中止)。安装 Tokuin:curl -fsSL https://raw.githubusercontent.com/nooscraft/tokuin/main/install.sh | bash(Windows 用 irm https://raw.githubusercontent.com/nooscraft/tokuin/main/install.ps1 | iex)。默认 dry-run 不产生费用,加 --allow-live 才发起真实调用。采集脚本 collect-metrics.sh 可配合 cron 每 5 分钟执行。前端可选 Next.js 15+ 或轻量 HTML,Next.js 需 npm install recharts better-sqlite3 @types/better-sqlite3。

适用场景:需要按用户/团队查看 AI 使用成本、生成 PM 周报、提升 AI 采用率、为模型优化提供数据依据。

限制:需预先安装 Tokuin CLI;真实调用需配置 OPENAI_API_KEY、ANTHROPIC_API_KEY 或 OPENROUTER_API_KEY 等环境变量;密钥不得硬编码;具体收费、价格与效果资料未提供。