SuperAPI AI 工具集

rust-gpu

编程与开发

查看项目

更新于 10-16 08:08

技能介绍

用途:该技能聚焦 Rust 环境下的 GPU 内存与计算,帮助理解并处理 CUDA、OpenCL、显存管理、计算着色器、内存合并、零拷贝与异构计算相关问题。

主要能力:梳理 GPU 内存层级,包括 Global(VRAM)、Shared(SMEM)、Constant、Local 与 Register,并对比其位置、延迟、大小与用途;给出 CUDA 内存管理示例,如 cudaMalloc 分配设备内存、cudaMemcpy 在主机与设备间拷贝、cudaFree 释放;介绍零拷贝与页锁定内存 cudaMallocHost、异步拷贝 cudaMemcpyAsync 与 cudaStreamSynchronize;说明统一内存 cudaMallocManaged 的自动迁移用法;讲解内存合并访问的正误模式、共享内存规约示例、256 字节内存对齐,以及性能优化检查表(内存合并、共享内存、对齐、异步、固定内存、批处理)。

使用方式:资料以代码片段形式展示,依赖 rust-cuda 或 cuda-sys 等绑定,示例中通过 unsafe 调用 CUDA 运行时接口;具体安装命令与项目集成步骤暂未提供。

适用场景:需要优化 GPU 显存访问、减少全局内存访问、重叠计算与传输,或在 Rust 中做底层异构计算的场景。

限制:资料未说明支持的 GPU 厂商、驱动版本、平台兼容性与性能数据;示例多为 CUDA C 风格,Rust 侧完整可运行工程暂未提供。