SuperAPI AI 工具集

optimize-for-gpu

编程与开发

查看项目

更新于 10-15 23:44

技能介绍

用途:把科学计算 Python 代码(NumPy、SciPy、pandas、scikit-learn、NetworkX、scikit-image、Faiss 等)迁移到 NVIDIA GPU,并在确认结果正确且端到端更快后才保留改动。适用于大数组/矩阵/数据框、CUDA 并行计算、图分析、向量检索与 RAG、地理空间、图像与病理全切片、物理仿真、机器人、GPU 文件 IO 等场景。

主要能力:提供按工作负载选择最小合适层的决策框架——NumPy/SciPy 用 CuPy,pandas 用 cudf.pandas 再 cuDF,scikit-learn 用 cuml.accel 再 cuML,NetworkX 用 nx-cugraph 再 cuGraph,scikit-image 用 cuCIM,向量检索用 cuVS,文件 IO 用 KvikIO,自定义核用 Numba-CUDA(新项目 Numba-CUDA-MLIR),空间/可微核用 Warp,高层物理仿真用 Newton,底层原语用 RAFT。cuxfilter(26.06 最终版)与 cuSpatial(25.04 归档)仅限遗留维护。

使用方式:先定义数值契约与基线并做性能剖析;判断是否适合 GPU;优先用加速器/后端模式,必要时才写自定义核;保持数据常驻显存、复用分配、批量化;先验证语义再测速度;用 CUDA events 或 cupyx.profiler.benchmark 正确计时,配合 nsys、ncu;最后决定保留、修改或放弃移植。

限制:需在用户目标 GPU 上实测,不能凭文档推断兼容性;显存有限,超显存需分块或 RAPIDS Dask;近似检索需报告 recall@k;需提供 CPU 回退或明确报错;不要仅为使用这些库而把代码移出 PyTorch/JAX/TensorFlow。安装命令与各库细节见技能内 references 文件。