TypemovieInfer
AI图像工具TypemovieInfer 是一个面向消费级显卡(RTX 4090/5090)的统一多 GPU 推理框架,支持图像生成与视频生成模型。它通过 Para-Attention、DDP 等并行策略加速推理,并提供 FP8 量化、CPU 卸载等内存优化,使 8B 模型可在单张 RTX 4090 上运行。框架提供统一 API,仅需 3 行代码即可调用模型,支持 YAML 配置热重载和插件式扩展。已测试 5/7 模型,覆盖 FLUX、Kontext、Qwen Image、WAN 等。