用途:本技能在 profile-model-performance 已定位主要耗时阶段后使用,为模型集成加入 FlashDreams 风格的推理加速优化。所有优化须先以开关或配置形式作为可选项加入,直到基准与质量证据证明对目标工作流安全后才可设为默认。
主要能力方向: 模型与去噪路径:在编译器工作前优先固定形状,如有界历史窗口、静态分块大小、预分配缓冲、稳定缓存存储;将 torch.compile 限制在包含真实计算的最小固定形状可调用对象上,把缓存变更、动态设置、重置与 I/O 排除在外;区分饱和前与饱和后行为;测试编译模式与持久编译器缓存;仅在形状稳定、设备指针稳定、流顺序确定且显式预热时加入 CUDA 图捕获;先分析实际 SDPA 内核再强制注意力后端。 缓存路径:当出现追加/切片抖动、K/V 刷新、历史窗口增长或缓存同步开销时,用固定大小块存储替代重复拼接/切片裁剪;证明滚动边界前后的等价性;将缓存维护放到侧流前须先确保同步路径正确;重置、场景切换、提示变更与形状变更须取消或刷新待处理的异步缓存工作。 解码路径:VAE 或解码器耗时占主导时使用;保留全质量解码器作为参考路径,除非用户明确选择预览质量模式;构建仅解码器探针;优先调整布局与内存格式;仅先编译无状态或隔离良好的解码器子模块;轻量解码器在同等潜变量指标与视觉伪影满足用途前仅作为预览候选。 传输与呈现路径:延迟 GPU 到 CPU 的物化直到消费者需要帧;测量 CPU 图像/视频编码;保留生成帧顺序用于质量演示;吞吐变化后调整有序节奏与有界队列;交互式工作流报告最佳、平均与最差估计输入到可见延迟。
使用方式与规则:保留现有质量路径作为基线;一次只改一个优化族,除非组合剖析为明确验证目标;在添加运行时开关的同一次变更中新增或扩展基准工具;应用后继续执行 validate-performance-quality 再推广为默认或撰写加速声明;打印活动设置与阶段耗时摘要。跨核心、基础设施、recipes 或集成移动代码前先阅读 flashdreams-integrations,避免在共享层加入模型特定分支。
推广标准:仅当稳态总块时间或目标延迟显著改善、阶段耗时显示瓶颈转移或缩小、质量验证通过、启动/预热/重置/场景切换/形状变更行为可接受、回退路径仍可用、文档写明命令、注意事项、是否默认启用及 validate-performance-quality 状态(Recommended、Useful opt-in、Rejected 或 Deferred)时,才提升为 Recommended。拒绝记录须同样记录命令、观测速度、质量结果、失败模式与重访条件。
限制:具体支持平台、依赖版本、安装命令与实测加速数据暂未提供。