用途:当应用已具备基线 NeMo Relay 埋点,并希望基于运行时信号改善延迟、并行度、提示缓存或模型请求行为时使用本技能。若尚未埋点,应先使用 nemo-relay-instrument-calls 或 nemo-relay-get-started。
主要能力:通过 kind 为 adaptive 的第一方插件组件配置自适应行为,需已有 NeMo Relay scope 及至少一类受管工具或 LLM 生命周期事件流。主要配置域包括 state、telemetry、adaptive hints、tool parallelism、Adaptive Cache Governor(ACG)与 rollout policy。state 后端为 in_memory 和 redis;tool-parallelism 模式为 observe_only、inject_hints 和 schedule;ACG provider 为 passthrough、anthropic 和 openai。辅助 API 存在于 Rust nemo_relay_adaptive、Python nemo_relay.adaptive、Node.js nemo-relay-node/adaptive。
使用方式:先确认应用输出所需 scope 与工具或 LLM 事件,采集基线,启用内存态的遥测;需要精确配置字段时读 references/config.md,应用逻辑消费 hints 时读 references/hints.md。运行代表性流量并检查报告或运行时事件,每次只启用最小行为变更,并与基线对比。启用调度前验证工具幂等性与竞态;启用 ACG 前确认 provider 请求载荷稳定。若配置校验失败或事件缺失,保留诊断并停止,维持最后可用配置。
限制:不要在未埋点、未验证幂等性或载荷不稳定时启用对应行为;不要将环境变量作为主要配置模型;不要凭单次或不具代表性流量调优;不要覆盖或抑制原始工具与模型错误;不要在调用方未定义安全性前添加重试;失败率上升时应回退。