用途：该技能聚焦混合精度训练最佳实践，用于借助FP16/BF16混合精度加速模型训练并减少显存占用；资料标明适用于优化GPU性能的场景。
主要能力与要点：使用torch.cuda.amp实现自动混合精度；将前向传播包裹在torch.cuda.amp.autocast()中；使用GradScaler进行损失缩放；在Ampere及以上架构GPU（RTX 3xxx、A100、RTX 4xxx）上优先使用BF16而非FP16；关注NaN梯度，必要时降低学习率。
使用方式：资料未提供完整安装命令或分步教程，仅给出上述实现要点；提到的必要接口保持原样：torch.cuda.amp、torch.cuda.amp.autocast()、GradScaler。
限制：除非经过测试，不要将amp与自定义CUDA内核一起使用。资料未说明支持的框架版本、硬件范围、性能收益或其它依赖信息。