SuperAPI AI 工具集

cpu-gpu-performance

通用与其它

查看项目

更新于 10-15 17:20

技能介绍

用途:在可能长时间占用 CPU 核心或 GPU 的任务前,先建立资源基线并约束开销。适用于会话开始、构建/训练/测试前,或重试此前高消耗命令前;简单单文件操作等无资源影响场景不适用。

主要能力与步骤:一、建立基线,用 uptime、ps -eo pcpu,cmd | head、nvidia-smi --query-gpu=utilization.gpu,memory.used --format=csv 采集当前利用率,记录 CI/集群配额并设定每任务 CPU/GPU 时间预算。二、缩小范围,避免全量运行,采用 pytest -k、Bazel 目标模式、cargo test <module> 等基于差异或标签的选择性测试,GPU 任务先用小规模冒烟输入。三、先测量再优化,CPU 用 perf、intel vtune、cargo flamegraph 等,GPU 用 nvidia-smi dmon、nsys、nvprof、DLProf 等,记录热点路径与 I/O 瓶颈。四、限流与排序,使用 nice、ionice 或 Kubernetes/Slurm 配额,按失败测试→更大分片→全量套件逐级推进,内存压力时减小 batch 或梯度累积,优先检查点恢复。五、记录决策与后续项。

使用方式:包含一组必填待办项(baseline、scope、instrument、throttle、log),输出基线指标、所选范围、采集的仪表数据、限流策略与后续事项。

限制:仅为流程性技能说明,未提供具体版本、性能提升数值、收费信息或独立安装命令。