SuperAPI AI 工具集

netra-custom-metrics

数据与分析

查看项目

更新于 10-15 23:45

技能介绍

用途:在 Netra 追踪之外,为业务与运营 KPI 添加自定义指标埋点,覆盖请求、延迟、token、成本以及队列深度、在途请求等场景。

主要能力:支持 counter、histogram、up-down counter、observable counter 等 OpenTelemetry Meter 仪器;可通过 OTLP/HTTP JSON 周期性导出指标;提供 TypeScript 侧会话用量查询(tokenCount、requestCount、totalCost)。

使用方式:初始化时设置 enable_metrics=True,并通过 metrics_export_interval_ms 配置导出间隔;用 Netra.get_meter("service-name") 获取 meter,创建仪器后以低基数属性记录数值;进程退出时调用 Netra.shutdown() 刷新最终导出。TypeScript 侧可用 netra-sdk-js 的 client.usage.getSessionUsage 查询指定会话在时间区间内的用量。

适用场景:需要请求量、错误量、延迟、活跃请求数等指标,或需要按模型等维度统计 LLM 调用成本与用量时。

限制与注意:属性维度需有界且稳定,避免高基数;导出间隔需结合负载与成本调整;需注册 shutdown 刷新(如 atexit 或显式停止路径)。具体平台支持、收费与价格信息暂未提供。