SuperAPI AI 工具集

PTX Kernel Factory

PTX Kernel Factory 是 INT21 推出的 AI 系统,用于自动生成、测试、基准评测并迭代改进面向 NVIDIA GPU 的底层内核。它由并行的智能体群体探索不同实现路径,将候选代码编译后在目标硬件上验证与测量,并把有效结果沉淀为经验供下一代搜索复用,形成可自我改进的计算工作流。该产品当前仅服务于 INT21 的 Inference Engine Factory,访问为“仅推理/受限访问”。

访问官网

工具介绍

PTX Kernel Factory 是 INT21 推出的 AI 系统,目标是生成并持续改进底层 GPU 软件,并通过正确性测试与基准评测在目标硬件上证明其工作成果。其核心定位是“每次运行都会变得更好的 GPU 内核”,即把一次性的代码生成转化为可积累、可复用的计算改进流程。

用途方面,PTX Kernel Factory 面向 NVIDIA GPU 的底层内核开发与优化,强调自动化的探索、验证和迭代,而非仅生成一次代码。它适用于需要反复尝试不同实现路径、并在真实目标硬件上确认正确性与性能的场景。

主要能力按官方描述分为四个环节:

  1. 探索(Explore):由并行的专用智能体群体同时搜索不同的实现路径。
  2. 构建(Build):对候选实现进行编译。
  3. 证明(Prove):在目标 NVIDIA 硬件上编译、检查并基准评测候选内核,以目标 GPU 证据确认结果。
  4. 记忆(Remember):将有用的结果保留为下一轮搜索的经验,而不是作为丢弃的痕迹,从而推进下一代实现。 官方将该流程概括为“完全自主的智能体群体探索实现、在目标 NVIDIA 硬件上测试,并将所学带入下一代”。

使用方式方面,官方页面显示“Inference only / Access close”,即当前仅推理、访问受限。官方还说明,PTX Kernel Factory 现在仅服务于 Inference Engine Factory,计算资源已转向 Inference Engine Factory。除此之外,具体的安装命令、接口调用方式和集成步骤,资料暂未提供。

适用场景方面,可依据官方描述理解为:需要在 NVIDIA GPU 上进行底层内核自动生成、测试、基准评测并持续迭代改进的场景;以及作为 INT21 推理引擎相关计算工作流中的组成部分。官方提到正在把这里验证过的自主搜索、真实硬件评估和可复利证据应用于完整的推理引擎。

验证与限制方面,官方列出了多组测试通过信息,包括 584 项上游测试和 235 项包测试通过、全部 580 项上游测试通过、48 项包测试和 65 项子测试通过、在每一个可比情况下都更快且全部 66 项包测试通过。官方同时明确:算子级结果并不代表完整的全模型加速;启动文章包含了测试覆盖、限制和测量背景。关于具体模型、硬件型号、基准数值、价格与收费方式、可用平台及详细使用步骤,资料暂未提供。