SuperAPI AI 工具集

Skill 广场

找到适合任务的 Agent Skill,阅读介绍并复制安装命令。

更新于 10-23 00:13

智能体与模型

24,524 个结果

optimizing-attention-flash

该技能介绍如何用 Flash Attention 优化 Transformer 注意力计算,通过 IO 感知分块与重计算,可在长序列场景获得 2-4 倍加速和 10-20 倍显存占用降低。包含 PyTorch 2.2+ 原生方式、flash-attn 库方式以及 H100 FP8(FlashAttention-3)三种路径的完整代码示例,并给出集成到现有模型、验证加速比、比对精度、多查询注意力、滑动窗口注意力等常见工作流,以及安装报错、无加速、CUDA 报错、精度下降等问题的排查方法。

智能体与模型77 次安装