用途:该技能用于说明 NemoClaw 在 onboarding 阶段提供的推理提供商选项、onboard 向导展示的内容,以及推理路由的工作方式。
主要能力:NemoClaw 支持多个推理提供商。onboard 向导以编号列表呈现可选提供商,选择结果决定智能体推理流量的路由目标。沙箱内的智能体只与 inference.local 通信,不直接连接提供商;OpenShell 在主机上拦截推理流量并转发到所选提供商,提供商凭据保留在主机上,沙箱不会获得 API 密钥。
默认提供商选项:前六项始终可用,Ollama 在主机已安装或运行时出现。包括 NVIDIA Endpoints(路由到 build.nvidia.com 托管模型,可输入目录中的任意模型 ID,设置 NVIDIA_API_KEY)、OpenAI(设置 OPENAI_API_KEY)、其他 OpenAI 兼容端点(向导提示输入 base URL 和模型名,适用于 OpenRouter、LocalAI、llama.cpp 等,设置 COMPATIBLE_API_KEY)、Anthropic(设置 ANTHROPIC_API_KEY)、其他 Anthropic 兼容端点(设置 COMPATIBLE_ANTHROPIC_API_KEY)、Google Gemini(设置 GEMINI_API_KEY)、本地 Ollama(路由到 localhost:11434)。实验性选项需 NEMOCLAW_EXPERIMENTAL=1,包括本地 NVIDIA NIM(检测到支持 NIM 的 GPU 时)和本地 vLLM(localhost:8000 运行时)。
验证:创建沙箱前会验证所选提供商与模型,失败则返回提供商选择。OpenAI 兼容端点先试 /responses 再试 /chat/completions;Anthropic 兼容端点试 /v1/messages;NVIDIA Endpoints 手动输入模型时对照目录 API 验证;兼容端点发送真实推理请求。
使用方式:运行 nemoclaw onboard 选择提供商;运行时切换模型用 openshell inference set --provider <provider> --model <model>,再用 nemoclaw <name> status 验证,加 --json 输出机器可读结果。非交互式设置通过 NEMOCLAW_PROVIDER、NEMOCLAW_MODEL、NEMOCLAW_ENDPOINT_URL 等环境变量配合 --non-interactive 完成。
限制:需运行中的 NemoClaw 沙箱、PATH 中的 OpenShell CLI、已安装 NemoClaw,以及本地模型服务器或 Ollama。Linux 上用 Docker 时沙箱通过 http://host.openshell.internal:11434 访问 Ollama,需让其监听 0.0.0.0:11434。vLLM 与 NIM 强制使用 chat/completions 路径。运行时切换只改 OpenShell 路由,不改写已存凭据;若需更换提供商本身,需重新运行 nemoclaw onboard。