SuperAPI AI 工具集

huawei-cloud-cloudrobo-infer

部署与运维

查看项目

更新于 10-15 22:14

技能介绍

用途:管理 CloudRobo 推理服务(模型服务)的完整生命周期,包括将模型部署为长期运行的推理服务,以及对已部署服务进行监控与运维。

主要能力:部署模型(通过 model_id 与 model_version_id 组成的 --model-json 创建服务);wait-deploy 每 5 秒轮询,直到状态不再是 DEPLOYING(默认 600 秒);服务运维,如列出服务、查看详情、更新配置、启动/停止;日志诊断,支持毫秒级时间范围与关键词过滤;跨技能编排,可消费 cloudrobo-train 导出的模型,并通过 infer_service_id 暴露给 robo-dispatcher 用于具身任务。

使用方式:通过 CLI 命令 cloudrobo infer <command> 或 Python 的 InferClient 调用,后端为 cloudrobo-service 的 REST API(/v1/infer-services/*)。需先完成 CLI 安装、AK/SK 认证与工作区配置,并具备有效 workspace_id、可部署模型(需 ONLINE_DEPLOYMENT 动作为 ENABLE)以及可用计算池(status 为 AVAILABLE)。创建时 --stop-schedule-json 实际为必需,格式为 {"duration": <N>, "time_unit": "MINUTES"}。

限制:wait-deploy 仅等待 DEPLOYING 阶段,不等待 CREATING;创建后服务自动进入 CREATING→DEPLOYING,不应立即调用 start(会返回 400)。DRAFT/CREATING 状态模型无法部署(403)。具身广场模型为平台预配置,创建时不应携带 --cmd、--image-swr-url、--envs-json 等额外参数;空间资产/自定义模型需自动发现参数。部署消耗计算资源,启动长期服务前应确认。失败服务不应自动删除,需用户明确确认。

Windows/PowerShell 下示例为 bash 语法,需将行续接符展平或改用反引号,环境变量用 $env:NAME="value" 设置。其余细节暂未提供。