HiDiffusion 是一个用于提升预训练扩散模型分辨率和生成效率的框架,其核心理念是在不进行额外训练的情况下,通过极简的代码改动解锁更高分辨率、更高质量和更快速度的图像生成。
用途 扩散模型已成为高分辨率图像合成的主流方法,但直接使用预训练扩散模型生成更高分辨率图像时,会遇到不合理的物体重复以及生成时间指数级增长的问题。HiDiffusion 针对这两大问题提出解决方案,让现有模型能够以更少计算代价生成更高分辨率的图像。
主要能力
- 提高分辨率:支持将生成分辨率扩展至 4096×4096,并在 SDXL、SDXL-Turbo、SD 2.1、SD 1.5 等模型上展示效果,示例分辨率包括 1024×1024、2048×2048、2048×3072、4096×4096。
- 提升速度:推理速度可达此前方法的 1.5-6 倍,降低高分辨率生成的计算开销。
- 解决物体重复:通过 Resolution-Aware U-Net(RAU-Net)动态调整特征图大小,缓解因 U-Net 深层特征重复导致的物体重复问题。
- 减少自注意力冗余:通过 Modified Shifted Window Multi-head Self-Attention(MSW-MSA)优化窗口注意力,减少 U-Net 顶层自注意力冗余带来的计算负担。
- 任务兼容性:支持文本生成图像、ControlNet 任务和 Inpainting 任务。
使用方式 官方描述强调“只需添加一行代码”即可将 HiDiffusion 集成到各类预训练扩散模型中,从而扩展图像生成分辨率并提升速度。具体安装命令、代码示例及集成细节暂未提供。官方页面展示了 HiDiffusion 框架示意图、文本生成图像任务、与其他高分辨率图像生成方法的画质对比、与其他加速方法的效率对比,以及 ControlNet 和 Inpainting 任务示例。
适用场景 适用于希望利用已有扩散模型(如 SDXL、SDXL-Turbo、SD 2.1、SD 1.5)生成高分辨率图像,同时降低生成时间、避免物体重复的研究或应用场景。可覆盖文本生成图像、ControlNet 控制和图像修复(Inpainting)等任务。
限制 当前资料未提供具体的安装步骤、代码示例、依赖环境、支持平台、收费方式或价格信息,这些内容暂未提供。用户需参考官方页面获取进一步技术细节。