SuperAPI AI 工具集

kernel-triton-writing

写作与研究

查看项目

更新于 10-16 07:24

技能介绍

用途:该技能仅用于 OpenAI Triton(@triton.jit)内核开发,不适用于 CUDA C++ 内核、TileIR 或 ncu、nsys 等性能分析工具。用户请求需明确指向 Triton 内核时,可直接从设计阶段开始。

主要能力:提供元素级、行归约(softmax、LayerNorm、RMSNorm)、分块矩阵乘(GEMM)与融合内核的骨架;给出精度规则(超越函数需转 fp32 再转回、tl.dot 使用 fp32 累加器、默认 TF32)、避免 CPU-GPU 同步、C 整数除法语义等约束;并包含错误排查表与中止条件。

使用方式:内核文件需包含 @triton.jit 内核、Python 包装函数,以及固定契约导出 kernel_fn、reference_fn(*args)、get_inputs()。验证运行 python scripts/verify_kernel.py {output_dir}/kernel.py --rtol 1e-3 --atol 1e-3;基准测试运行 python scripts/benchmark_kernel.py {output_dir}/kernel.py。仅在用户明确要求性能数据时才做基准测试。

适用场景:元素级链式操作、归约、矩阵乘加 epilogue 等可共享寄存器、减少全局内存读写的融合场景。单元素操作、独立矩阵乘、标准注意力建议改用 PyTorch、cuBLAS、FlashAttention。

限制:验证失败三次、无加速效果或目标 GPU 不可用时建议中止;参考文件仅在遇到不常见模式或调试问题时查阅。具体收费、平台与更多细节暂未提供。