用途:agent-ops 面向 AI 智能体的全生命周期运维,涵盖架构模式、评估、指标与生产监控,适用于用户询问智能体架构、评估、指标、生产监控、调试智能体或最佳实践的场景。所有示例使用 Opik 做可观测性;SDK 细节(追踪、集成、span 类型)需加载 opik 技能。
主要能力:
- 生命周期:埋点(用 Opik 追踪使智能体行为可见)、评估(用数据集、指标与实验衡量性能)、监控(跟踪生产中的质量、成本与可靠性)、优化(基于评估与生产追踪数据改进)。
- 架构模式:为智能体各组件使用合适的 span 类型追踪,如规划用 general、工具调用用 tool、LLM 调用用 llm、检索用 tool、校验用 guardrail。
- 评估:支持端到端与按组件评估,使用 opik.evaluation 的 evaluate 与指标,如 AnswerRelevance、Hallucination、AgentTaskCompletion。内置智能体指标包括 AgentTaskCompletion(是否完成任务)、AgentToolCorrectness(工具使用是否正确)、TrajectoryAccuracy(动作序列是否匹配)、AnswerRelevance、Hallucination。共 41 个内置指标,涵盖启发式(Equals、Contains、BLEU、ROUGE、BERTScore、IsJson 等)、LLM-as-Judge(AnswerRelevance、Hallucination、Usefulness、GEval 等)、RAG(ContextPrecision、ContextRecall、Faithfulness)与会话指标,完整列表见 references/evaluation.md。
- 生产监控:仪表盘可视化质量、成本、延迟与错误趋势;在线评估用 LLM-as-Judge 自动评分生产追踪;告警在指标偏离(质量下降、成本飙升、错误率)时通知;护栏做 PII 检测、主题校验与自定义安全检查;Opik Assist 提供失败追踪的 AI 根因分析。
使用方式:在 Claude Code 中加载该技能,按需参考 references/agent-patterns.md(架构、可靠性、安全模式)、references/evaluation.md(评估数据集、实验与全部 41 个指标)、references/production.md(生产仪表盘、告警、护栏、成本追踪)。示例代码使用 opik.track 装饰器标注 span 类型。
限制:资料未提供安装命令、收费与价格、支持平台等具体信息,暂未提供。常见反模式包括可靠性(无界循环、重试风暴、静默失败)、安全(提示注入、权限提升、数据泄露)、可观测性(延迟追踪导致缺失输入、孤立 span)、工具(工具循环、幻觉工具、参数错误)。