SuperAPI AI 工具集

langfuse-observability

部署与运维

查看项目

更新于 10-16 06:18

技能介绍

用途:为 Langfuse 集成搭建完整的可观测性,覆盖追踪/生成吞吐、延迟、token 与成本,并提供仪表盘和告警。

主要能力:使用 Langfuse UI 内置仪表盘(总览、成本、延迟、自定义查询),或通过 Metrics API 以编程方式获取聚合指标;用 prom-client 定义自定义 Prometheus 指标(langfuse_traces_created_total、langfuse_generation_duration_seconds、langfuse_tokens_total、langfuse_cost_usd_total、langfuse_flush_errors_total);暴露 /metrics 端点;配置 Prometheus 抓取;构建 Grafana 面板(请求量、P95 延迟、每小时成本、错误率);以及 Alertmanager 告警规则(错误率>5%、P95 延迟>10s、日成本超 $100)。输出为可观测性回执,包含仪表盘 URL、时间范围、P95 延迟、错误率、token/成本总量和告警状态,并区分缺失遥测与实测零值。

使用方式:前置条件为已集成 Langfuse SDK 并产生追踪;自定义指标需 Prometheus + Grafana 或兼容栈;使用内置分析需访问 Langfuse UI。通过 tracedLLM 包装函数对 LLM 调用进行埋点,再暴露指标端点并配置抓取与告警。

限制:避免标签基数过高,标签仅限 model 与 status;告警阈值应保守起步再逐步调整;高流量场景可用 summary 替代 histogram;若指标端点缺失,应记录为埋点缺口而非断言服务健康。具体安装命令与版本要求资料未提供。