SuperAPI AI 工具集

diffusers-ascend-weight-prep

智能体与模型

查看项目

更新于 10-15 17:19

技能介绍

用途:面向华为昇腾 NPU 场景,准备 Diffusers 模型权重。提供两条路径:从 HuggingFace 或 ModelScope 下载真实权重;或基于 Pipeline 配置生成随机初始化的假权重,用于代码流程与业务验证。

主要能力:

  1. 下载模型权重。HuggingFace 可用 hf download Wan-AI/Wan2.2-I2V-A14B-Diffusers,国内可设 export HF_ENDPOINT=https://hf-mirror.com;也可用脚本 python scripts/download_weights.py hf <model_id> --proxy https://hf-mirror.com 或 --dry-run。ModelScope 用 modelscope download --model Wan-AI/Wan2.2-T2V-A14B,或 python scripts/download_weights.py modelscope <model_id> -o ./models。
  2. 生成假权重。先用 snapshot_download 拉取元数据(排除 .safetensors、.bin),读取 model_index.json 解析各组件,再用 from_config() 随机初始化并 save_pretrained() 保存,tokenizer 与 scheduler 直接复制配置。命令:python scripts/generate_fake_weights.py from-hub <model_id> -o <dir> --dtype bfloat16;或 from-local <metadata_dir> -o <dir>。生成目录结构与原模型一致。

环境依赖:huggingface_hub、modelscope、torch、diffusers、transformers,均用 pip 安装。

适用场景:需要验证昇腾 NPU 上 Diffusers Pipeline 加载与运行流程,但暂不需要真实权重时。已验证模型包括 Qwen/Qwen-Image-2512、Tongyi-MAI/Z-Image-Turbo。

限制:假权重为随机初始化,生成图像无意义,仅用于流程验证;大模型(>10B 参数)生成可能占较多内存和时间;国内建议使用代理或镜像;如遇 socks 代理冲突,先 unset all_proxy ALL_PROXY。具体支持范围与性能表现暂未提供。