用途:在 Apple Silicon Mac 集群上运行 mflux 本地图像生成,并由路由把请求分发到最合适的设备,避免单机出图阻塞其他任务,也减少与 LLM 推理争抢 GPU 内存。
主要能力:支持 z-image-turbo、flux-dev、flux-schnell 三种 mflux 模型;请求参数含 model、prompt、width、height、steps、quantize、seed、negative_prompt;返回原始 PNG 字节,并带 X-Fleet-Node、X-Fleet-Model、X-Generation-Time 响应头;支持 metadata.tags 按项目统计;提供仪表盘与 image-stats、health 接口。
使用方式:pip install ollama-herd 后运行 herd 启动路由(端口 11435),各设备运行 herd-node,并用 uv tool install mflux 安装 mflux;通过 POST /dashboard/api/settings 设置 {"image_generation": true} 启用;调用 POST /api/generate-image 出图,可用 curl、Python httpx 或 JavaScript fetch。
适用场景:需要本地、零云成本批量出图的 Mac 集群,例如 1024x1024 约 18 秒(M3 Ultra),适合快速迭代与多项目追踪。
限制:仅面向 Apple Silicon 与 MLX;模型下载可能超过 3GB;未提供具体价格与更多平台支持信息;不要擅自删除或修改生成的图像、mflux 模型及 ~/.fleet-manager/ 文件。