用途:在生成或审查机器学习训练代码时,提供构建稳健 PyTorch 训练循环的最佳实践参考。
主要能力与要点:
- 使用 torch.manual_seed() 保证可复现性,需同时为 torch、numpy、random 设置种子。
- GPU 场景下使用 DataLoader,并设置 num_workers>0 与 pin_memory=True。
- 输入尺寸固定时启用 cudnn.benchmark=True。
- 使用学习率调度器,如 CosineAnnealingLR 或 OneCycleLR。
- 基于验证指标实现早停。
- 每个 epoch 记录指标,并保存最佳模型检查点。
- 评估时使用 torch.no_grad()。
- 使用 optimizer.zero_grad(set_to_none=True) 清空梯度以提升效率。
使用方式:资料未提供具体安装命令、调用接口或代码示例,暂未提供。
适用场景:编写训练脚本、评审训练循环代码、排查可复现性与显存效率相关问题。
限制:以上为实践建议清单,并非完整 API 文档;未说明支持版本、平台、性能数据或收费信息。