SuperAPI AI 工具集

runpod-endpoint-ops

部署与运维

查看项目

更新于 11-06 11:16

技能介绍

该技能面向已存在的 Runpod Serverless 端点,提供一整套运维操作规范,强调“先读后写、只改授权项”的原则。

用途

用于诊断和调优已部署的 Serverless 端点,不负责新建部署。典型场景包括:任务在 IN_QUEUE 中长时间卡住、工作节点崩溃循环、冷启动导致延迟高、负载均衡端点工作节点始终未就绪等。

主要能力

  1. 只读诊断:通过 list-endpoints / get-endpoint 读取端点完整配置,endpoint-health 查看健康状态,list-endpoint-workers 查看工作节点详情,stream-worker-logs(source=system)读取容器生命周期日志,结合 list-gpu-types / get-gpu-type(含 AVAILABILITY、SERVERLESS 产品)交叉验证 GPU 库存与 CUDA 版本容量,从而区分队列卡住的原因(工作节点上限过低、GPU 容量不足、崩溃循环等)。
  2. 安全调优(需用户授权):通过 update-endpoint 以 PATCH 方式仅发送用户授权的字段,修改工作节点最小/最大数、空闲超时、扩缩容器目标、FlashBoot、磁盘、环境变量等。GPU 选择需同时发送 gpu.pools 与 gpu.excludedTypes,或使用 set-endpoint-gpus 固定 GPU 型号。每次变更后必须重新读取端点配置进行前后值验证。
  3. 队列管理(受控操作):按用户指名的任务 ID 取消单个任务(cancel-job),或清空整个待处理队列(purge-endpoint-queue),操作后需重新读取状态确认。

使用方式

技能本身不包含独立 CLI,而是绑定到会话中可用的工具集(如 runpod-mcp 提供的工具)。使用前需确认工具可用;若工具缺失,应说明并使用最近的只读替代,不得虚构结果。诊断阶段严格只读,禁止提交测试任务;变更阶段遵循“读→更新→再读”三步,最终答复引用前后两次读取的值。

适用场景

适用于已上线 Serverless 端点的日常运维、故障排查和性能调优,尤其适合需要精细控制变更范围、避免误改的生产环境。

限制

  • 不负责新建端点或部署,相关操作需参考 runpod-serverless-deploy 技能。
  • 所有变更必须由用户明确授权,且仅限用户指名的端点与设置项。
  • 诊断阶段禁止提交任何任务(包括测试探针),因为会消耗计算资源并改变队列状态。
  • 清空队列会移除所有待处理任务,执行前需明确告知。
  • 设置非零 min-worker 会产生持续计费,应用前必须说明成本。
  • 若读取操作失败,应报告并停止,不得猜测原因。
  • 端点空闲 3 天后 workers.max 自动降为 2,7 天后降为 0,长期空闲端点首次任务“卡住”通常由此导致。
  • 取消/清空后队列计数可能稍有延迟,需稍后重读确认。
  • get-job-status 对有效任务返回 404 通常表示任务 TTL(默认提交后 24 小时)已过期,而非 ID 错误。
  • 该技能的答复契约定义在 runpod-mcp 技能中,若未加载需先加载。

暂未提供

该技能的具体定价、独立安装命令或平台支持范围在资料中暂未提供。