用途:为 LiteLLM 建立或审查可观测性方案,覆盖 callbacks、logging、OpenTelemetry、请求关联(request correlation)、spend logs 与故障诊断,用于追踪延迟、tokens、cost、provider、fallback 或 guardrail 事件。
主要能力与工作流程:先定义诊断问题、必要字段、数据分类、保留期限与访问者;再选择 SDK callback、Proxy logging、OpenTelemetry 或外部平台;查核 LiteLLM 版本、callback schema、OpenTelemetry v1/v2 与额外套件;建立 request ID 关联 client、Proxy、provider、guardrail、MCP 与 DB 事件;测试成功、provider error、timeout、budget exceeded、fallback 与 guardrail blocked;交付查询方式、重现步骤与实际 trace 证据。需要安全设置、OpenTelemetry 注意事项与实验规格时,读取实验与参考。
安全底线:第三方观测默认关闭 message logging;不把 API key、Authorization header、数据库 URL 或完整敏感内容写入 log;启用内容记录前必须完成数据分类、遮罩、保留期限及第三方数据处理审查;failure callback 也须套用相同遮罩政策。
验收标准:每个请求可由 request ID 关联必要事件;成功与至少四种失败类型可查;trace 或 log 不含测试 secret 与未遮罩敏感数据;查询结果能解释一次 fallback 或 guardrail 事件。
限制:资料未提供具体安装命令、代码示例、价格或平台支持细节,暂未提供。