用途:在远程 SSH 服务器上,借助 vllm-ascend Docker 容器执行 NPU 推理或训练测试,适用于昇腾 NPU 上的模型验证与基准测试。
参数:通过 /npu-test 调用,依次接受 ssh-host(如 user@192.168.1.100,必填)、Docker 镜像名(省略时自动检测远程最高版本 vllm-ascend 镜像)、NPU 设备(如 0,1,2,3,省略时自动检测)、测试命令(省略时进入交互模式)。
主要能力:先以 ssh -o ConnectTimeout=10 -o StrictHostKeyChecking=no 测试连接;校验或自动选择镜像;用 npu-smi 检测设备;用 docker run 创建容器,须包含三个固定设备 /dev/davinci_manager、/dev/hisi_hdc、/dev/devmm_svm,固定挂载 /usr/local/Ascend/driver、/usr/local/dcmi、/usr/local/sbin、/usr/local/bin/npu-smi、/etc/ascend_install.info,并按设备 ID 映射 /dev/davinciN,设置 ASCEND_RT_VISIBLE_DEVICES;容器名须以 _claude 结尾。
依赖与报告:测试失败若为缺少依赖,则在容器内用 pip install -i 指定镜像源安装(优先华为云、清华、阿里云镜像),通过 docker exec vllm-ascend-env pip freeze > requirements_ai.txt 记录并用 scp 取回;将执行时间、镜像、设备、结果、警告、修复等内容写入服务器上的 report.txt 并回显摘要。
限制:禁止执行删除文件或目录操作;仅面向昇腾 NPU 与 vllm-ascend 容器环境;涉及 SSH、Docker、scp 等远程操作,需具备相应访问权限。具体输出格式与各步骤细节以实际资料为准,其余收费、性能等信息暂未提供。