SuperAPI AI 工具集

nemo-relay-setup-observability

部署与运维

查看项目

更新于 10-16 02:34

技能介绍

用途:当应用开发者希望了解 NeMo Relay 的活动,但尚未确定需要哪种输出时,使用本技能选择并配置合适的可观测性路径。

主要能力与输出选择:需要控制台输出或自定义事件处理时使用 subscribers;需要可移植的执行轨迹时使用 AtifExporter;需要通用 OTLP 追踪时使用 OpenTelemetry 订阅者;面向 OpenInference 感知的后端时使用 OpenInference 订阅者。

事件与订阅者模型:NeMo Relay 从 scopes、marks、托管工具调用、托管 LLM 调用、中间件和手动生命周期 API 发出单一规范事件流。订阅者消费事件而无需定义事件模型,多个订阅者可同时观察同一事件流,用于日志、导出、分析或诊断。全局订阅者在进程范围内保持活动直到被移除;作用域本地订阅者由单个活动作用域拥有,作用域关闭时消失;插件安装的订阅者是可复用、配置驱动的运行时组件。面向导出的订阅者将事件流转换为 ATIF、OpenTelemetry 或 OpenInference 输出。事件负载在使用托管辅助函数或手动生命周期参数提供相应字段时,反映经过护栏清理后的输入与输出。事件字段包括通过 ATOF 数据字段提供的语义输入/输出、类型化配置数据(如 model_name 和 tool_call_id),以及编解码器提供的带注释 LLM 请求/响应数据。

共享生命周期:创建导出器或订阅者;在相关作用域工作之前以唯一名称注册;在作用域内运行经 NeMo Relay 插桩的工作;注销;若绑定支持且需要确定性交付,则刷新或关闭。

绑定名称:Python 为 nemo_relay.subscribers.register(...)、AtifExporter、OpenTelemetrySubscriber、OpenInferenceSubscriber;Node.js 根导出 registerSubscriber(...)、AtifExporter、OpenTelemetrySubscriber、OpenInferenceSubscriber;Rust 为 nemo_relay::api::subscriber 与 nemo_relay::observability::*;Go 提供源码优先包装器,暴露等价的注册、导出器与订阅者生命周期方法。

适用场景与限制:若已明确需要 ATIF、OTEL 或 OpenInference,应改用对应的导出技能;若需将基于订阅者的导出行为打包为可复用插件,使用 nemo-relay-build-plugin;若在调试遥测缺失,使用 nemo-relay-debug-runtime-integration。具体安装命令、收费与平台支持信息暂未提供。