用途:作为 NVIDIA Nemotron Speech(对外品牌名,NVIDIA 官方文档仍称 Riva / Riva NIM)的统一入口,覆盖 ASR(语音转文字)、TTS(文字转语音)和 NMT(翻译)三类 NIM 工作流,包括云端推理、自托管 Docker 部署、ASR 客户端协议选择(gRPC、HTTP、WebSocket)、通过 riva-build 部署自定义 NeMo 模型、ASR 流水线调优(VAD、说话人分离、语言模型)以及 Docker / NGC / 驱动的前置准备。
主要能力:按任务类型加载 references/ 下对应参考文件,本技能正文仅作路由,不展开每个工作流细节。可路由至 setup.md(驱动、Docker、Container Toolkit、NGC)、deployment-readiness-checks.md(GPU 兼容、部署就绪、容器健康检查)、model-selection.md(ASR/TTS/NMT 模型选择)、asr.md(Parakeet、Canary、Whisper、Nemotron ASR Streaming 的部署与推理)、asr-custom.md(自定义 .nemo → RMIR → NIM)、pipelines.md(VAD、说话人分离、语言模型、chunk 大小)、tts.md(Magpie)、nmt.md(Riva Translate、语言对、DNT 标签)。
使用方式:先识别任务类型,只加载对应参考文件。自托管需 NVIDIA AI Enterprise(NVAIE)授权并完成环境准备;云端推理需 pip install -U nvidia-riva-client 和来自 build.nvidia.com 的 NVIDIA_API_KEY。密钥须保密,Docker 登录优先用 --password-stdin,持久密钥存入凭据管理器或 chmod 600 的环境文件。挂载到 /opt/nim/.cache 的宿主机目录需可被容器用户写入(容器内以 nvs:1000 运行),可执行 sudo chown 1000:1000 $LOCAL_NIM_CACHE;避免全局可写权限,也避免在 docker run 中使用 -u "$(id -u):$(id -g)"。手册中出现的 riva-build、riva-deploy、riva_streaming_asr_client、riva.client、nvidia.riva.asr.* 等命名保持不变。
适用场景:部署、测试、选型、自定义模型构建及系统要求检查等各类 Nemotron Speech / Riva NIM 任务。
限制:仅支持 x86_64;Windows 的 WSL2 需使用 Podman 且只支持部分 NIM;自托管需 NVAIE 许可;云端推理需有效 NVIDIA_API_KEY 与联网。模型清单、容器 ID、功能 ID、语音列表、显存下限等按版本变化,应以 NVIDIA 官方文档(docs.nvidia.com/nim/speech/latest/...)和 NGC 目录为准。具体安装与运行命令、价格与收费信息暂未提供。