用途:把微调好的模型连同规范的模型卡一起发布到 Hugging Face Hub,减少手工写文档和上传的工作量。
主要能力:
- 收集上下文:如来自训练管理流程,会读取 model_path、base_model、dataset、technique、training_config(LoRA rank、学习率、epochs)、final_loss、training_time、hardware;信息缺失时会询问必要项。
- 仓库配置:询问仓库名(username/model-name)、可见性(Public/Private)和许可证(MIT、Apache 2.0、CC-BY-4.0、Llama 3 Community 等)。
- 导出格式:LoRA adapter(约 50-200MB,由用户自行合并)、合并 16-bit(15-140GB)、GGUF 量化(4-8GB,供 llama.cpp/Ollama 使用),或全部导出(推荐)。
- GGUF 量化级别:Q4_K_M(约 4GB,质量良好,推荐)、Q5_K_M(约 5GB,更好)、Q8_0(约 8GB,最佳),详见 references/GGUF_GUIDE.md。
- 生成模型卡 README.md,包含 YAML 元数据(license、tags、base_model、datasets)、模型描述表、训练细节(超参数、LoRA 配置、结果)、用法示例(Transformers、Unsloth、Ollama、llama.cpp)、预期用途与范围外用途、局限(偏差与已知问题)、BibTeX 引用。
- 执行上传:用 huggingface_hub 的 create_repo("username/model-name", private=False, exist_ok=True) 建仓,用 HfApi().upload_folder 与 upload_file 上传适配器和 README.md;GGUF 可选通过 Unsloth 的 model.save_pretrained_gguf("./gguf", tokenizer, quantization_method="q4_k_m") 生成,多种量化用 scripts/convert_gguf.py;最后用 list_repo_files 校验文件列表。
适用场景:完成 LoRA 或其他微调后,需要标准化发布模型与文档的个人或团队。
限制与错误处理:仓库已存在时用 exist_ok=True;权限被拒需确认 HF token 具备写权限;上传超时改用分块上传。随附资源包括 scripts/convert_gguf.py、references/GGUF_GUIDE.md、references/TROUBLESHOOTING.md。价格、平台支持范围等信息暂未提供。