Axolotl 技能是一份基于官方文档生成的综合辅助资料，用于帮助用户使用 Axolotl 进行大语言模型（LLM）微调。
用途 该技能适用于以下场景：使用 Axolotl 进行开发；咨询 Axolotl 的功能或 API；实现基于 Axolotl 的解决方案；调试 Axolotl 代码；学习 Axolotl 最佳实践。
主要能力 根据资料，Axolotl 支持 YAML 配置、100 多个模型、LoRA/QLoRA 等微调方式，以及 DPO/KTO/ORPO/GRPO 等训练方法，并具备多模态支持。技能文档中提供了若干常见模式，例如：
- 使用 NCCL Tests 验证训练任务的数据传输速度并定位瓶颈，示例命令：./build/all_reduce_perf -b 8 -e 128M -f 2 -g 3
- 在 Axolotl YAML 中配置模型使用 FSDP，示例包含 fsdp_version、fsdp_config 等字段（offload_params、state_dict_type、auto_wrap_policy、transformer_layer_cls_to_wrap、reshard_after_forward）。
- context_parallel_size 应为 GPU 总数的约数；资料举例说明其对每步处理批次数量和全局批次大小的影响。
- 设置 save_compressed: true 可压缩保存模型，约减少 40% 磁盘占用，并保持与 vLLM 加速推理及 llmcompressor 后续优化（如量化）的兼容性。
- 集成代码不必放在 integrations 文件夹，只要安装在 Python 环境的包中即可，示例仓库：https://github.com/axolotl-ai-cloud/diff-transformer
- 处理单样本与批量数据：单样本时 sample['input_ids'] 为 list[int]，批量数据时为 list[list[int]]；示例函数：utils.trainer.drop_long_seq(sample, sequence_len=2048, min_sequence_len=2)
使用方式 技能包含 references/ 目录下的文档：api.md（API 文档）、dataset-formats.md（数据集格式文档）、other.md（其他文档）。需要详细信息时，可使用 view 读取特定参考文件。对于初学者，建议从 getting_started 或 tutorials 参考文件开始了解基础概念；针对特定功能，可查阅相应分类的参考文件（如 api、guides 等）；代码示例可参考快速参考部分从官方文档提取的常见模式。此外，scripts/ 用于放置常见自动化任务的辅助脚本，assets/ 用于放置模板、样板或示例项目。
文档中还包含若干 Python 代码示例，例如：
- cli.cloud.modal_.ModalCloud(config, app=None)
- cli.cloud.modal_.run_cmd(cmd, run_folder, volumes=None)
- core.trainers.base.AxolotlTrainer(*_args, bench_data_collator=None, eval_data_collator=None, dataset_tags=None, **kwargs)
- core.trainers.base.AxolotlTrainer.log(logs, start_time=None)
- prompt_strategies.input_output.RawInputOutputPrompter()
适用场景 适用于需要微调 LLM 的研究与工程任务，包括配置训练、选择微调方法、对齐训练、多模态训练、性能调优与调试等。
限制 该技能由官方文档自动生成，参考文件保留源文档的结构与示例，代码示例包含语言检测以便语法高亮，快速参考模式从文档常见用法示例中提取。更新方式为使用相同配置重新运行抓取器，技能将基于最新信息重建。资料未提供关于收费、价格、平台或具体效果的信息。