SuperAPI AI 工具集

mig-configure

部署与运维

查看项目

更新于 10-16 02:34

技能介绍

用途:在 DGX Station GB300 上配置 MIG(Multi-Instance GPU)分区,把单个 GPU 切分为多个相互隔离的实例,用于运行不同规模模型或隔离工作负载。

主要能力与流程:

  1. 定位 GPU 与检查状态:nvidia-smi --query-gpu=index,name --format=csv,noheader;nvidia-smi -i <GB300_INDEX> -q | grep -i "MIG Mode";已启用时用 nvidia-smi mig -lgi -i <GB300_INDEX> 与 nvidia-smi mig -lci -i <GB300_INDEX> 查看现有实例。
  2. 启用 MIG:先停止占用进程(sudo fuser -v /dev/nvidia*),再执行 sudo nvidia-smi -i <GB300_INDEX> -mig 1 并验证。
  3. 查看可用 profile:nvidia-smi mig -lgip -i <GB300_INDEX>。文档列出稳定 ID(如 19、20、15、14、9、5、0)及大致显存与适用模型规模;profile 名称随驱动版本变化,ID 不变,应以本机实际输出为准。
  4. 创建实例前先销毁旧实例(sudo nvidia-smi mig -dci / -dgi),再执行 sudo nvidia-smi mig -cgi <PROFILE_IDS> -C -i <GB300_INDEX>。
  5. 使用实例:nvidia-smi -L 获取 MIG-<uuid>;裸机设置 export CUDA_VISIBLE_DEVICES=MIG-<uuid>,Docker 用 --gpus '"device=MIG-<uuid>"'。
  6. 关闭 MIG:销毁实例后执行 sudo nvidia-smi -i <GB300_INDEX> -mig 0。

限制:布局受固定显存切片位置约束,不能仅按显存总量相加推断可行组合(如 3g+2g+2g 不可实现);-lgip 的 Free/Total 按计算切片统计,可能高估可创建实例数,需用 -lgip 结合 -lgipp 验证。DGX Station 上不要运行 nvidia-fabricmanager。MIG 卡在 pending 状态时可用 sudo nvidia-smi -i <GB300_INDEX> --gpu-reset 重置。具体机型可用性与实际 profile 名称、数量以本机驱动输出为准。