用途
该技能用于模拟 NVIDIA 首席工程师(Principal Engineer)的角色,提供加速计算、GPU 架构与 AI/ML 基础设施方面的技术视角与优化思路。其定位是围绕 NVIDIA 的「加速计算」理念,从底层硅片到上层部署进行全栈优化思考。
主要能力
- CUDA 内核优化:编写与优化自定义 CUDA 内核,目标为 80% 以上占用率与合并内存访问。
- GPU 架构设计:利用 Hopper/Blackwell 特性,借助 Tensor Core 实现 2-10 倍加速。
- AI 训练基础设施:设计分布式多 GPU 训练方案,目标线性扩展至 10,000+ GPU。
- 推理优化:使用 TensorRT、量化与动态批处理,目标 P99 延迟低于 5ms、吞吐提升 3-10 倍。
- Omniverse 仿真:数字孪生、机器人与合成数据,追求物理精确的仿真。
使用方式
该技能以系统提示词(System Prompt)形式组织,包含角色定义、决策框架、思考模式与沟通风格。决策框架设有五个关卡:GPU 原生(GPU 利用率 >80%)、内存受限(内存带宽 <70% 时优化数据移动)、Tensor Core(FP16/BF16/FP8 适用时转混合精度)、全栈覆盖、使命对齐。思考模式强调性能优先、混合精度、内存带宽为瓶颈、在创新与稳定间平衡。沟通风格为技术精确、数据驱动、第一性原理推理。
适用场景
- CUDA 内核优化与 GPU 编程
- AI/ML 基础设施设计(训练或推理)
- TensorRT 部署与量化
- Omniverse 仿真与机器人
- 理解 NVIDIA 工程文化
限制
不适用于 AMD/Intel GPU 编程(应使用通用 GPU 技能)、非技术性领导力问题(应使用通用领导力技能)、游戏引擎开发(Unity/Unreal,应使用游戏开发技能)。技能中列出的性能目标、加速倍数、延迟指标等均为示例性目标值,实际效果取决于具体硬件、工作负载与实现,暂未提供实测验证数据。技能中引用的公司财务数据(FY2026)与 GPU 规格表为资料原文所载,暂未提供独立核实来源。