用途:当用户指定一个模型并希望 vLLM 服务路径自主持续优化,直到在相同目标环境中追平或超越最佳可复现的 SGLang 或 TensorRT-LLM 结果时,使用本技能。流程分为固定的基准阶段与一个 Humanize RLCR 循环,不得把工作拆成循环外 profiling、循环内打补丁两段。
主要能力:Phase 0 收集模型、精度量化、GPU、容器与产物根目录并创建 runs/YYYYMMDD_<model_slug>_sota_humanize/ 目录结构;Phase 0.5 通过 model-pr-optimization-history 查询并记录模型家族 PR 历史;Phase 1 用 llm-serving-auto-benchmark 对 vLLM、SGLang、TensorRT-LLM 各自做有界搜索,统一权重、分词器、精度、GPU、采样与 SLA,默认两个数据集场景;Phase 2 在 vLLM 检出目录创建 .humanize/vllm-sota-agent/refined-plan.md;Phase 3 运行 setup-rlcr-loop.sh 启动 RLCR。循环内做差距判断(默认 1% 噪声阈值)、torch profiler 分析、llm-pipeline-analysis、必要时 ncu-report-skill 内核证据,然后打补丁并复测。
使用方式:在 Claude Code、Codex 或兼容运行时执行,按顺序解析 companion skill 根目录;若 Humanize 运行时缺失,需定位含 scripts/setup-rlcr-loop.sh 的插件目录。确保 vLLM 检出为 git 仓库且工作区干净、.humanize* 已 gitignore,然后从 vLLM 检出目录运行:
"$HUMANIZE_RUNTIME_ROOT/scripts/setup-rlcr-loop.sh"
.humanize/vllm-sota-agent/refined-plan.md --yolo
启动后确认 state.md 含 current_round: 0 且 ask_codex_question: false,并确认存在 round-0-prompt.md。
适用场景:单模型跨框架服务性能对比与调优、需要内核级证据的 vLLM 补丁、希望把优化活动作为可恢复的持久整体来管理。
限制:缺少模型、目标 GPU 环境或精度量化策略且无法推断时才询问用户;NCU 不可用时需记录阻塞;未提供正式文本,具体产物细节以技能资料为准,其他未提及内容暂未提供。