SuperAPI AI 工具集

langfuse-performance-tuning

通用与其它

查看项目

更新于 10-15 23:27

技能介绍

用途:针对已集成 Langfuse 的应用,降低追踪开销、提升吞吐,适用于出现延迟问题、需要优化 trace 开销或扩展 Langfuse 的场景。

主要能力:提供基准测量(P50/P95/P99 与 flush 延迟)、批处理配置调优、非阻塞追踪封装、载荷截断、超高流量采样、内存监控,并给出性能目标(trace 创建开销 <1ms、批 flush <100ms、每活跃 trace 内存 <1KB、CPU 开销 <1%)。

使用方式:先运行基准脚本测量当前性能;再调整 OTel span processor 的 exportIntervalMillis、maxExportBatchSize、maxQueueSize,或 v3 的 flushAt、flushInterval、requestTimeout;用 safeObserve 包装避免追踪阻塞关键路径;用 truncateForTrace 限制输入输出大小;用 TraceSampler 按比例采样并始终保留错误;定期输出内存统计。

限制:资料未提供具体安装命令、版本兼容范围、价格或平台信息;示例代码需按实际环境调整,采样会减少 trace 数量,需同时报告采样分母,不能仅凭 trace 减少判断延迟下降。