用途:把 HuggingFace 或 NVIDIA NGC 上的目标检测视觉模型自动接入 NVIDIA DeepStream 流水线,端到端完成获取、引擎构建、管线运行与基准报告。当前仅支持目标检测,遇到分类、分割等其他架构会在 config.json 检测阶段快速失败。
主要能力:分四阶段执行。模型获取阶段浏览 HF/NGC、检测格式、下载 ONNX 或导出 SafeTensors;引擎构建阶段构建动态 TRT 引擎并在 BS=1 与 BS=MAX_BS 下运行 trtexec;DS 管线阶段配置自定义 bbox 解析器与 nvinfer、执行单流验证、KITTI 转储与多流基准;最后输出含 5 张图表、HTML 和 PDF 的基准报告。全程自主运行,不逐步等待确认。
使用方式:启动前先做预检,执行 nvidia-smi、trtexec 与libnvinfer-bin 版本核对,创建并复用共享 venv(build/.venv_optimum,安装 optimum[exporters]、torch、transformers 等),确认 wkhtmltopdf、mediainfo、deepstream-app 可用。输出目录固定为 models/{model_name}/,分 model、parser、config、scripts、benchmarks、reports、samples 子目录。各阶段开始前须阅读对应 references 文档,不凭记忆生成代码。每步用 date 记录耗时并汇总。
关键限制:引擎命名须为 {model}_dynamic_b{MAX_BS}.engine;DS 运行中 batch_size 与流数相等;日志文件名固定无时间戳;解析器结构体必须零初始化;KITTI 帧数为零或检测率低于 90% 不得进入 Step 7;禁止使用 x264enc 与 openh264enc,NVENC 不可用时回退 theoraenc+oggmux(.ogv),两者都缺失则跳过视频生成;默认视频固定为 sample_720p.mp4,仅当用户显式提供 DS_VIDEO 时才替换;报告须用 scripts/report/md-to-html-pdf.py 生成,不可自写 HTML 生成器。
适用场景:需要把检测模型快速落地到 DeepStream 并量化单流、多流性能的工程评估。限制:仅检测任务;不提供收费、价格或平台信息,相关资料暂未提供。