SuperAPI AI 工具集

remote-gpu

通用与其它

查看项目

更新于 10-15 20:08

技能介绍

remote-gpu 用于从 Mac 或本地工作站远程操作无头 GPU 服务器(NUC、云 VM 或任意可 SSH 访问的机器)。整体架构为本地控制端通过 SSH 或 HTTP API 向 GPU 服务器发送命令,服务器端运行 gpu-server.py 维护任务队列。

主要能力:提交作业(训练、推理、智能体)、查看状态、流式读取日志、下载结果、取消作业、监控 GPU(nvidia-smi)。支持的任务类型包括训练运行、视频生成(LTX-2)、Claude Code 会话、autoany EGRI 循环和 symphony 编排。

使用方式:先配置免密 SSH(ssh-keygen、ssh-copy-id,并写入 ~/.ssh/config,可用 ssh nuc-gpu "nvidia-smi" 测试);在 NUC 上安装服务端依赖并启动 python gpu-server.py --port 8420 --workdir ~/gpu-jobs,或运行 scripts/setup-nuc.sh nuc-gpu 自动化;在 Mac 上 source scripts/gpu-remote.sh 后即可使用 gpu-submit、gpu-status、gpu-logs、gpu-download、gpu-watch、gpu-claude、gpu-ssh、gpu-sync、gpu-tunnel 等命令。也支持 HTTP 端点 /submit、/jobs、/jobs/{id}/logs、/jobs/{id}/cancel、/jobs/{id}/files、/status,以及通过 ~/.config/gpu-remote/config.toml 配置服务器、默认参数与同步排除项。常用选项有 --name、--workdir、--branch、--download、--gpu、--timeout。

适用场景与限制:适合把重 GPU 任务放到远程机器执行、在本地管理作业与结果。需要可 SSH 访问的服务器、Python 环境及相应依赖;CUDA OOM、SSH 超时、作业卡住等问题资料提供了排查方向。具体价格、平台支持范围等未提供。