SuperAPI AI 工具集

Edge Deployment Skill

部署与运维

查看项目

更新于 10-16 09:57

技能介绍

用途:在机器人边缘设备(NVIDIA Jetson、嵌入式系统)上优化并部署机器学习模型,以获得更优的推理性能。主要能力:配置 NVIDIA Jetson 的 TensorRT 优化;进行 ONNX 模型转换与优化;实施 INT8 与 FP16 量化;配置 DeepStream 视频分析;设置 CUDA graph 优化;实施模型剪枝与蒸馏;配置 DLA(深度学习加速器)部署;设置多流推理;实现 ROS2 推理节点;在目标硬件上做性能分析与基准测试。目标流程包括 nn-model-optimization.js、object-detection-pipeline.js、rl-robot-control.js、field-testing-validation.js。依赖:TensorRT、ONNX Runtime、NVIDIA Jetson SDK、DeepStream。使用方式:当流程需要将 ML 模型部署到边缘设备并优化推理性能时调用本技能。输出物:TensorRT 引擎文件、ONNX 优化模型、量化配置、DeepStream 管线配置、推理基准报告、ROS2 推理节点实现。限制:资料未提供安装命令、具体命令用法、收费与价格信息,也未提供支持的模型类型或其他平台细节。