SuperAPI AI 工具集

self-improving-loop

部署与运维

查看项目

更新于 10-15 19:58

技能介绍

该技能用于在观测到某个 agent/skill 性能回退、需要定期质量评审、continuous-eval 报告 faithfulness 下降超 5%p 或负面反馈超阈值、incident-response 将 SEV2/3 根因归类为 prompt 质量或工具调用缺失时运行。不适用于闭源管理模型(Bedrock Claude/Nova、OpenAI GPT-4.1、Gemini 2.5 等)的 weight 改进,也不自动执行 Train/Deploy 阶段。前提条件包括:Langfuse v3.x 自托管或云实例,且 trace 查询 MCP 服务器已注册在 profile.yaml 的 observability.trace_mcp;Prometheus 收集 latency、error_rate、token_usage;CloudWatch Logs 记录 Agent 执行与工具调用日志;安装 awslabs.cloudwatch-mcp-server==0.0.25 与 awslabs.prometheus-mcp-server==0.2.15(须按 PyPI 版本固定,不用 @latest);Git 仓库写权限;目标 agent/skill 的 baseline 评分需在最近 24 小时内由 continuous-eval 生成。四阶段为:Stage 1 Observe,通过 mcp__langfuse__query_traces 拉取 trace 并保存为 .omao/plans/self-improving/traces-raw.jsonl;Stage 2 Analyze,按质量、成本、安全三轴检测回退并生成报告到 .omao/plans/self-improving/report-${target}-${timestamp}.json;Stage 3 Propose,生成最小改动 diff,保存回滚内容并附可测量阈值;Stage 4 PR,用 gh pr create --draft 创建草稿 PR,不自动合并。限制:trace MCP 未配置或不可访问时写错误日志并退出;未检出回退时只出报告不建 PR;目标为管理型模型时立即停止并提示仅可做 prompt 改进。