Flow-Factory 是一个用于 Flow-Matching 模型便捷微调的统一框架，由 X-GenGroup 维护。其核心定位是同时支持在线强化学习（Online RL）与离线微调（Offline Fine-Tuning），覆盖扩散模型与 Flow-Matching 模型。
主要能力
- 支持多种生成任务：文本生成图像、文本生成视频、图像生成图像、图像生成视频，以及文本生成音视频、首尾帧生成音视频、有序参考图生成音视频等。
- 支持多种算法：GRPO、SFT、离线 DPO、TDM 等，模型与算法在框架接口层面解耦。
- 支持多种模型：sd3-5、flux1、flux1-kontext、flux2、flux2-klein、qwen-image、qwen-image-edit-plus、qwen-image-2.1、z-image、bagel、sensenova、wan2_t2v、wan2_i2v、ltx2_t2av、ltx2_i2av 以及 MiniMax H3 工作流。
- 奖励模型系统：支持 Pointwise、Pairwise、Groupwise 三类奖励模型，内置多种预注册奖励模型，并支持自定义奖励模型；还支持 VLM-as-Judge（远程 vLLM / OpenAI 风格 HTTP）。
- 实验追踪：可通过 Weights & Biases 或 SwanLab 在线记录训练样本与指标曲线。
- 加速与后端：支持多种注意力后端选择，可与 torch.compile 和特征缓存组合使用；建议安装 kernels 包并使用 flash_hub 等后端。
- 数据集格式：统一数据集结构，SFT 与离线 DPO 使用 schema_version: 2 的严格 JSONL；文本生成图像/视频任务仅需纯文本 prompt，支持 train.txt/test.txt 或 train.jsonl/test.jsonl，也支持 negative_prompt；条件图像任务使用 images 键的有序列表。
- 硬件与依赖：需要 Python 3.10 或更高版本、PyTorch 2.10 或更高版本；可选依赖包括 deepspeed 等；Bagel 适配器需要 flash-attn（>=2.5.8）与 opencv-python；MiniMax H3 与 LTX2 需要 diffusers>=0.40.0；Qwen-Image 2.1 目前需要捆绑的 diffusers 子模块；PyAV >=17.0.0 用于解码有序视频/音频参考与目标媒体；TorchAudio 2.10 将音频加载与保存委托给 TorchCodec，后者还需要 FFmpeg 共享库。
- 提供 CUDA 训练镜像（Python 3.12、uv 安装、PyTorch 2.10 + cu129、deepspeed、wandb、已发布 diffusers），位于 docker/docker-cuda/ 下。
使用方式
- 安装：按文档安装 Flow-Factory 及可选依赖，例如 pip install -e .[wandb] 或 pip install -e .[swanlab]；Bagel 使用 pip install -e .[bagel]；Qwen-Image 2.1 需先运行 git submodule update --init && pip install -e ./diffusers。
- 配置：在配置文件中设置追踪器参数、奖励模型名称、image_dir/video_dir 等；注意力后端选择位于统一的 acceleration 块中。
- 训练：使用简单命令启动训练；离线示例使用严格 V2 清单，无需训练奖励模型。
- 数据集：按统一结构准备数据，SFT 与离线 DPO 使用严格 JSONL；提示与输入条件编码会被缓存，目标/选中/拒绝媒体即时解码编码，其 VAE 潜变量不会写入预处理缓存。
- 奖励模型：在配置文件中指定奖励模型名称即可使用内置奖励模型；GenEval 需要额外依赖，可用 bash scripts/install_geneval_deps.sh 安装。
适用场景
- 研究与工程中对扩散模型、Flow-Matching 模型进行在线 RL 或离线微调。
- 需要统一框架同时处理图像、视频、音视频生成任务的训练流程。
- 需要自定义奖励模型或使用 VLM-as-Judge 进行强化学习训练的场景。
限制与说明
- 文档中提到的部分支持（如 Qwen-Image 2.1、MiniMax H3、LTX-2）有特定依赖或配置要求，需按对应说明安装与设置。
- MiniMax H3 要求 B=1、无 CFG、使用中性引导 1.0，并保持视频/音频轨迹分离；视频使用 shift 12，音频使用 shift 3。
- 文档中的 smoke 矩阵完成不代表奖励提升、收敛或数值一致性。
- 未在资料中提供的功能、收费、价格、平台或效果信息暂未提供。
