用途:在未运行完整 VSS profile 时,独立部署 RT-VLM 密集字幕微服务,并通过其 /v1/... REST API 执行文件上传、字幕生成、实时流管理、健康检查、兼容 NIM 的 chat completions 以及 Prometheus 指标查询。RT-VLM 可解码文件或 RTSP 视频,分块后调用 VLM(cosmos-reason1、cosmos-reason2 或任意 OpenAI 兼容模型),以 SSE/HTTP 流式返回密集字幕,并向 Kafka 发布字幕、事件告警和错误。
主要能力:POST /v1/files 上传媒体;POST /v1/generate_captions 对文件或流生成字幕,stream=true 走 SSE;POST /v1/streams/add、GET /v1/streams/get-stream-info、DELETE /v1/streams/delete/{stream_id} 管理 RTSP 生命周期;POST /v1/chat/completions 提供 OpenAI 兼容文本与多模态调用;GET /v1/health/ready、/v1/models、/v1/assets/stats、/v1/metrics 用于探针。
使用方式:独立部署需 Docker、Docker Compose、NVIDIA Container Toolkit 与可见 GPU,$NGC_CLI_API_KEY 用于 docker login nvcr.io 与拉取镜像。流程为复制 rtvi-vlm-docker-compose.yml 到可写目录、推导镜像标签、删除仅独立部署才有的 depends_on 块、创建 gitignore 的 .env、准备主机绑定路径、执行 docker compose --env-file .env -f rtvi-vlm-docker-compose.yml config --quiet 干跑、docker pull、docker compose up -d 并等待健康。调用 API 需 Running 服务、$BASE_URL 与 Bearer token($RTVI_VLM_API_KEY 或 $NGC_CLI_API_KEY)。关键 .env 含 RTVI_VLM_PORT、HOST_IP、VSS_DATA_DIR、RTVI_VLM_MODEL_TO_USE 等。
适用场景:对本地视频或 RTSP 流生成密集字幕与告警;需要 OpenAI 兼容聊天补全或 Kafka 外部消费字幕。限制:需已部署或可达的 RT-VLM 服务;NGC 模型与 NIM 可能受速率限制、GPU 显存与许可约束;并发、显存和存储取决于主机与 compose 文件;凭据不得进入 git 或日志;Docker 组与 sudo 等同 root 权限。完整 VSS profile 部署请改用 ../vss-deploy-profile/SKILL.md。错误处理常见 400/401/403/404/413/422/429/500/503,可查看 docker logs vss-rtvi-vlm。