SuperAPI AI 工具集

vss-deploy-video-embedding

部署与运维

查看项目

更新于 10-16 04:34

技能介绍

用途:部署与操作 VSS Video Embedding(RT-Embed,Compose 服务 rtvi-embed,容器 vss-rtvi-embed,镜像 nvcr.io/nvidia/vss-core/vss-rt-embed,默认标签 3.2.0,profile bp_developer_search_2d,端口 8000,默认模型 cosmos-embed1-448p)。

前提:安装 NVIDIA 驱动与 Container Toolkit,默认运行时 nvidia;Docker 需支持 ${VAR:+value} 条件卷替换;docker login nvcr.io 使用 $oauthtoken 与 NGC API 密钥;提供 RTVI_EMBED_PORT、VSS_DATA_DIR、NGC_API_KEY,可选 HF_TOKEN 以避免权重下载时限流;为缓存预留多 GB 磁盘。

部署:进入 deploy/docker/services/rtvi/rtvi-embed 目录,设置最小环境变量后执行 docker compose -f rtvi-embed-docker-compose.yml --profile bp_developer_search_2d up -d rtvi-embed。首次启动下载模型并构建 Triton 仓库可能约 20 分钟,健康检查 start_period 为 1200s,期间 /v1/ready 返回 503 属正常。若 sudo 需要密码,用 sudo -n 快速失败,不要交互式 sudo 或 chmod 777。

用法:验证 GET /v1/ready、/v1/ready?detailed=true、/v1/version、/v1/models;上传文件用 POST /v1/files(purpose=vision、media_type=video),再调 POST /v1/generate_video_embeddings;文本嵌入用 POST /v1/generate_text_embeddings;RTSP 流需先 POST /v1/streams/add,嵌入时指定 stream:true 且 chunk_duration>0,并用 Accept: text/event-stream 接收 SSE;GET /v1/streams/get-stream-info 可复用已注册流。日志与指标:docker compose logs -f、docker stats、/v1/metrics、/v1/assets/stats。

限制:同步嵌入一次只处理一个作业,忙时返回 503,需退避重试或分片;/v1/streams/add 不按 URL 去重;错误返回 JSON code/message,422 为校验失败;升级需固定镜像标签并等待 /v1/ready,down -v 会销毁命名缓存。