SuperAPI AI 工具集

nvalchemi-fine-tuning

通用与其它

查看项目

更新于 10-16 02:34

技能介绍

用途:nvalchemi Fine Tuning 说明如何用 FineTuningStrategy 把预训练权重适配到新数据集、目标、可训练参数集或模型头。

主要能力:支持从已构建模型、原生 nvalchemi 检查点或外部 PyTorch 检查点开始微调;可用 trainable_patterns 做白名单、freeze_patterns 先冻结再放行例外;可用 module_patches 替换或新增子模块;支持多模型检查点、DDP、验证配置、检查点钩子与 dtype 对齐策略。

使用方式:快速实验用 CLI,如 nvalchemi-training finetune init mace small-0b --dataset data/train.zarr --output-dir runs/mace-ft --loss-dtype-policy prediction_to_target --out mace-ft.json,再执行 nvalchemi-training spec report mace-ft.json 与 nvalchemi-training spec run mace-ft.json。需要任意代码、自定义模型、动态数据或损失时改用 Python 脚本配合 FineTuningStrategy。从原生检查点开始用 FineTuningStrategy.from_pretrained_checkpoint(...);仅恢复中断的微调用 load_checkpoint(...)。分布式用 torchrun ... -m nvalchemi.training.cli spec run SPEC --distributed。

适用场景:头部或适配器式微调、多模型教师/参考设置、外部权重导入、需要序列化重建的模块补丁。

限制:from_pretrained_checkpoint 不继承源优化器状态、钩子、验证设置、计数器与轮数/步数;use_original_loss 与 use_original_opt_class 需原生策略元数据,不适用于仅组件检查点;外部检查点应视为权重导入而非可恢复检查点;MACE 的 compile_model=True 仅用于推理并冻结参数;等变模型需专门读出层以保持等变性。训练前需核对单位、原子顺序、邻居表假设、PBC、dtype、设备与输出形状;全模型微调宜用低学习率并配合验证与短检查点间隔。