SuperAPI AI 工具集

deepstream-import-vision-model

智能体与模型

查看项目

更新于 10-16 03:47

技能介绍

用途:把 Hugging Face 或 NVIDIA NGC 上的视觉模型导入 DeepStream 流水线,完成获取、TensorRT 引擎构建与性能基准测试报告。当前仅支持目标检测模型,遇到分类、分割等架构会根据 config.json 快速失败。

主要能力:模型获取阶段支持浏览 HF/NGC、检测格式、下载 ONNX 或用 torch.onnx.export 导出 SafeTensors;引擎构建阶段用 trtexec 构建动态 TRT 引擎并跑 BS=1 与 BS=MAX_BS;流水线阶段使用自定义 bbox 解析器、nvinfer 配置,做单流与多流基准测试;报告阶段生成 5 张图表及 HTML、PDF 报告。流程按 8 个步骤自动运行,不逐步等待确认。

使用方式:开始前会提供两个选项——默认推荐的 PekingU/rtdetr_r50vd(HF,fp16),或自定义目标检测模型(HF 模型 ID/URL,或带版本的 NGC 目录 URL)。全部步骤在 DeepStream 容器内执行,宿主机只需 Docker 与 NVIDIA 驱动。先跑一次性 bootstrap: docker run --rm -it --gpus all --shm-size=16g -v "$PWD":/work -w /work --entrypoint bash nvcr.io/nvidia/deepstream:9.1-triton-multiarch .claude/skills/deepstream-import-vision-model/setup.sh 再通过容器运行 preflight.sh,仅在 PASS 后继续。后续命令经 docker run --entrypoint bash 或 scripts/dsrun.sh 下发。产物按 models/{model_name}/ 的固定目录结构存放。

限制:仅支持目标检测;视频源默认 sample_720p.mp4,非用户显式提供路径不得替换;x264enc 与 openh264enc 禁用,无 NVENC 时用 theoraenc+oggmux 回退,缺失则跳过视频创建;KITTI 帧数为零或检测率低于 90% 不得进入后续步骤;报告须用 md-to-html-pdf.py 生成。具体模型支持范围、价格与平台兼容细节资料未完整说明。