SuperAPI AI 工具集

tao-setup-nvidia-gpu-host

部署与运维

查看项目

更新于 10-16 04:34

技能介绍

用途:该技能用于在 TAO 工作流使用 docker、local-docker 或 kubernetes 后端之前,统一主机 GPU 运行时,固定为 NVIDIA 驱动 580 分支(优先开源内核模块)、CUDA Toolkit 包 cuda-toolkit-13-0、NVIDIA Container Toolkit 1.19.0。Docker 仅在 docker / local-docker 后端且缺失时安装。

主要能力:默认执行只读检查,探测 nvidia-smi、CUDA 路径、容器工具包版本(dpkg/rpm/nvidia-ctk)以及 Docker 的 NVIDIA 运行时;检查可在任意 Linux 发行版运行。安装需用户显式授权,并以 --install 重跑。支持 debian、rhel、suse 系列自动安装,添加 NVIDIA CUDA 与 Container Toolkit 仓库,安装内核头文件、驱动、CUDA 与容器工具包,为 Docker 后端安装 Docker(docker.io / moby-engine / docker-ce / docker,视发行版而定)、配置 nvidia-ctk runtime configure --runtime=docker 并重启 Docker,把调用用户加入 docker 组(新会话生效),尝试 modprobe nvidia。

使用方式:先运行检查,例如:bash skills/platform/tao-setup-nvidia-gpu-host/scripts/setup-nvidia-gpu-host.sh --backend docker --check-only。经用户批准后运行同脚本加 --install。非交互式 agent 环境无终端,需在获得明确批准后追加 --yes 以跳过 Continue? [y/N] 确认;该操作会修改主机、添加仓库、可能重启 Docker 并修改 docker 组,仅应在可控主机上执行。可用 --skip-docker-install 退出 Docker 安装,--skip-docker-group 退出用户组修改。安装后验证:nvidia-smi(期望驱动 580.x、CUDA Version 13.0)、/usr/local/cuda-13.0/bin/nvcc --version、docker info --format '{{json .Runtimes}}' | grep nvidia、sudo docker run --rm --runtime=nvidia --gpus all ubuntu nvidia-smi。

适用场景与限制:适用于自管理 Kubernetes 集群的每个 GPU 工作节点,或先烘焙镜像再装 GPU Operator。检查也可在 kubectl 可用但集群无 nvidia.com/gpu 容量时给出告警。Arch、Alpine、Gentoo、NixOS、FreeBSD 等不受支持发行版不会自动安装,脚本会报错并列出目标版本与 NVIDIA 安装指南 URL,需手动安装后重跑 --check-only。托管 Kubernetes 的驱动可能由供应商管理,未经批准与回滚方案不应覆盖。Ubuntu/Debian 衍生版通过 UBUNTU_CODENAME / VERSION_CODENAME 映射,未知代号则退出手动安装指引。rhel/suse 系列驱动取 CUDA 13.0 仓库中的最新开源驱动(≥580),如需严格固定版本可设置相应环境变量;debian 系列固定为 nvidia-open-580。其余具体收费与更多平台信息暂未提供。