SuperAPI AI 工具集

gpu-use

通用与其它

查看项目

更新于 10-16 00:04

技能介绍

用途:帮助用户快速了解远程服务器上的 GPU 使用情况,排查显卡占用、显存使用及运行进程归属,全程只读,不执行写操作。

主要能力:并行采集 GPU 卡概况、GPU 上运行的进程、GPU UUID 到 index 映射、Docker 容器列表、进程 PID 到容器映射,并检测容器内多实例 http_server(识别单容器多终端部署)。可区分容器级与进程级的 GPU 占用。

使用方式:默认服务器为 ssh felix@124.158.103.16 -p 10022;用户可传入自定义 SSH 地址,格式为 user@host -p port。核心采集命令基于 nvidia-smi 查询,例如 ssh {SSH_TARGET} "nvidia-smi --query-gpu=index,name,memory.total,memory.used,memory.free,utilization.gpu --format=csv,noheader,nounits";容器映射使用 docker ps 与 docker top,多实例检测使用容器内 ps aux | grep 'http_server -p' 及读取 /proc/{PID}/environ 的 CUDA_VISIBLE_DEVICES。

输出:生成中文报告,包含 GPU 使用概况表、进程详情表、多实例服务表与空闲资源列表。状态判定按显存占用比与 GPU 利用率:0% 为无任务,<30% 为空闲,30-80% 为中等,>80% 为繁忙。

限制:SSH 命令设置 15 秒超时;连接失败时提示检查网络与 SSH 配置。官方资料未提供其他平台支持、安装方式与收费信息。