用途:该技能面向使用 PyTorch 构建和训练神经网络,适用于实现深度学习模型、训练循环、数据管道与模型优化等场景。
主要能力:涵盖核心概念(张量创建与设备管理、autograd 梯度跟踪与推理模式)、模型架构(nn.Module 模式、常用层、权重初始化)、训练循环(标准训练、混合精度、梯度累积)、数据加载(Dataset/DataLoader、collate 函数)、性能优化(torch.compile、激活检查点、显存监控)、分布式训练(DDP、FSDP)、保存与加载(检查点、TorchScript、ONNX 导出)以及最佳实践。
必要用法:张量可用 torch.tensor、torch.zeros、torch.randn 创建并 .to(device) 迁移设备;梯度通过 requires_grad 与 loss.backward() 计算,推理用 torch.no_grad() 或 torch.inference_mode()。模型继承 nn.Module 并实现 forward。训练循环中依次 optimizer.zero_grad()、前向、loss.backward()、optimizer.step(),可配合 clip_grad_norm_ 与学习率调度器。混合精度使用 torch.amp 的 autocast 与 GradScaler。数据加载通过 DataLoader 设置 batch_size、shuffle、num_workers、pin_memory。torch.compile 支持 default、reduce-overhead、max-autotune 模式。分布式训练用 torchrun --nproc_per_node=4 train.py 启动。保存用 torch.save,加载用 torch.load 并设 weights_only=True。
适用场景:深度学习模型开发、训练与部署导出。
限制:资料未提供具体版本要求、收费、平台支持范围或效果数据;部分内容依赖 GPU 与 CUDA 环境,分布式训练需相应硬件与配置。