SuperAPI AI 工具集

nemo-relay-plugin-observability

部署与运维

查看项目

更新于 10-16 02:34

技能介绍

用途:在 NeMo Relay 0.6 或 0.7 中选择并配置可观测性,通过内置 Observability 插件、订阅者或导出器让 Relay 捕获的活动可见。建议先用一个由内置插件管理的导出器,验证后再叠加其他遥测目标。

版本区分:先确认应用使用 0.6 还是 0.7,优先依据已安装包版本、lockfile 或 manifest,无法确定时询问用户,不要在同一示例中混用两套接口。0.6 使用可观测性配置版本 2,OpenTelemetry 与 OpenInference 是独立导出器(OpenTelemetryConfig/OpenTelemetrySubscriber、OpenInferenceConfig/OpenInferenceSubscriber)。0.7 使用配置版本 3,一个类型化 OpenTelemetry 导出器提供 full、gen_ai、openinference 三种投影。

输出选择:控制台或自定义事件处理用短生命周期的手动订阅者;原始规范生命周期事件用 ATOF JSONL(references/atof.md);可移植执行轨迹用 ATIF(references/atif.md);OTLP 追踪按版本选择对应导出器或类型化端点(references/opentelemetry.md、references/openinference.md)。先选一种输出并验证,再添加其他。ATOF 是默认本地验证方式,首次验证使用合成、非敏感载荷,导出器接收生产载荷前先加入并验证脱敏,验证时不要展示完整事件记录。

事件与订阅者模型:Relay 从 scope、mark、受管工具调用、受管 LLM 调用、中间件和手动生命周期 API 发出单一规范事件流;订阅者消费事件而不定义事件模型,多个订阅者可观察同一流;全局订阅者进程级有效直至移除,scope 局部订阅者随 scope 关闭消失,插件安装的订阅者是可复用、配置驱动的运行时组件。事件载荷反映脱敏后的输入输出,字段含 ATOF data、model_name、tool_call_id 等类型化数据及编解码器提供的注解数据。

生命周期:创建导出器或订阅者,在相关 scoped 工作前用唯一名称注册,在 scope 内运行被插桩的工作,按对应参考文档的顺序 flush 并注销,进程或子系统结束时关闭。

绑定名称:Python 0.6 使用 nemo_relay.subscribers.register(...)、AtofExporter、AtifExporter、OpenTelemetrySubscriber、OpenInferenceSubscriber;Python 0.7 注册与文件导出器相同,另加支持三种投影的 OpenTelemetrySubscriber;Node.js 通过根导出遵循同样的 0.6/0.7 划分;Rust 使用 nemo_relay::api::subscriber 与 nemo_relay::observability::*;Go 提供等价的注册、导出器与订阅者生命周期方法。

限制与相邻技能:仅按所选输出加载对应参考文档。若需将基于订阅者的导出行为打包为可复用插件,用 nemo-relay-plugin-build;尚未插桩 scope、工具或 LLM 调用时用 nemo-relay-get-started 或 nemo-relay-instrument-calls;诊断遥测缺失用 nemo-relay-debug-runtime-integration。