用途:在相同模型和工作负载下横向对比 SGLang、vLLM、TensorRT-LLM 等 LLM 推理服务框架,经参数搜索后按 SLA 选出最佳部署命令。
主要能力:配置驱动工作流,把仅启动相关的容量选择放在各框架的 base_server_flags,把待搜索参数放在 search_space;为每个框架运行相同数据集场景,从 search_space 生成有界候选列表(首个为 baseline),保留失败候选,归一化结果后选出通过 SLA 的最佳项。模型起点可用 configs/cookbook-llm/ 中框架中立的配置并翻译为各框架原生服务器标志。脚本仅两个:validate_cookbook_configs.py 校验配置、渲染候选命令并比对 --help 快照(不启动服务器);compare_benchmark_results.py 将逐候选 JSONL 转为 Markdown/CSV。
用法:先校验配置,例如 python .claude/skills/llm-serving-auto-benchmark/scripts/validate_cookbook_configs.py .claude/skills/llm-serving-auto-benchmark/configs/cookbook-llm,可加 --help-dir。优先使用原生工具:SGLang 用 python -m sglang.auto_benchmark,否则 python -m sglang.bench_serving;vLLM 用 vllm bench sweep serve 或 vllm serve 加 vllm bench serve;TensorRT-LLM 用 trtllm-serve 加兼容 OpenAI 的基准客户端。默认搜索从纯 TP baseline 出发,扫少量高影响参数,首次每框架约 10 个候选,默认不搜内存比例。
限制:本技能是手册加配置校验工具链,不是开箱即用的编排器;操作者仍需启动服务器、驱动负载并写入归一化结果。TensorRT-LLM 服务器后端固定为 trtllm-serve serve --backend pytorch,不得搜索其他后端。参数列表非兼容性契约,需按目标环境 --help 核实。需注意 fa3 仅支持 Hopper 及更新 GPU、跨框架对比建议统一请求路径、vLLM DBO 与部分预填充需镜像支持、TensorRT-LLM 多版本标志差异、随机数据集回退等已知问题,并遵守密钥卫生与公平对比规则。