SuperAPI AI 工具集

nvcf-self-managed-cli

部署与运维

查看项目

更新于 10-16 02:34

技能介绍

用途:nvcf-cli 驱动自托管 NVIDIA Cloud Functions 的全部流程,包括集群注册、控制面安装、计算面安装、函数部署与调用,以及生命周期管理。适用于安装自托管 NVCF、注册 GPU 集群、部署或调用容器/GPU 函数、检查集群健康、轮换 JWKS、卸载或注销集群,以及 NVCT 任务(创建/运行/监控/取消/删除/结果)等操作。

主要能力:提供 self-hosted 子命令(check 预检、install 分面安装、up 一键首次安装、add-compute-plane 追加计算面、uninstall 分面卸载、down 编排卸载、status 状态面板);init 生成管理员令牌;cluster 注册/列出/轮换/删除;api-key 生成函数与任务密钥;function 创建/部署/调用/删除;task 创建/列表/详情/事件/结果/取消/删除/更新密钥/批量查询。支持 functionType: "LLM" 的 OpenAI 兼容模型,需定义 models[] 与 llmConfig.uris,支持 /v1/chat/completions、/v1/responses、/v1/embeddings。

使用方式:认证按环境变量(NVCF_TOKEN、NVCF_API_KEY)、配置文件(~/.nvcf-cli.yaml)、状态文件(~/.nvcf-cli.state)顺序解析。通过 NVCF_BASE_HTTP_URL、API_KEYS_SERVICE_URL、NVCF_BASE_GRPC_URL 及可选 Host 变量指向自托管端点。示例:nvcf-cli self-hosted up --cluster-name=ncp-local;分集群安装使用 --control-plane-context 与 --compute-plane-context。

限制与安全:down、uninstall、cluster delete、function delete、task delete 等为破坏性操作,须先以 --plan-only 或 --no-apply 预览并获用户明确确认;--remove-persistent 会不可恢复地删除数据。注册表凭据变更后任务创建可能沿用旧凭据约 5 分钟。任务结果上传暂不支持。其余细节暂未提供。