SuperAPI AI 工具集

building-inferencesh-apps

通用与其它

查看项目

更新于 10-16 05:43

技能介绍

用途:在 inference.sh 平台上构建并部署应用,支持 Python 与 Node.js,涵盖入门、平台理解、应用创建与资源配置。

安装与登录:安装 CLI 使用 curl -fsSL https://cli.inference.sh | sh;随后用 belt update 更新、belt login 认证、belt me 查看当前用户。也可通过 npx skills add belt-sh/cli 安装技能。

主要能力:用 belt app init 生成规范项目结构(如 belt app init my-app、--lang node),禁止手写 inf.yml、inference.py、inference.js、init.py、package.json 或应用目录。开发流程为脚手架、实现、本地测试、部署、云端验证,每步都需 cd 进应用目录后再执行 belt 命令。

配置:inf.yml 定义 name、description、category、kernel,以及 gpu/ram 资源、env、secrets、integrations;GPU 类型 any、nvidia、amd、apple、none,目前仅支持 NVIDIA CUDA。可创建纯 CPU 应用,依赖由 requirements.txt、package.json、packages.txt 管理。

使用方式:belt app test 本地测试,belt app deploy --dry-run 校验后部署,belt app run user/app --json --input 运行云端版本并检查 output_meta;支持多函数应用,通过 function 字段调用。

限制与注意事项:输出类含 output_meta 时必须继承 BaseAppOutput 而非 BaseModel;shell 工作目录不跨调用持久,须先 cd;应用默认在 run() 中记录日志。GPU 应用建议用 accelerate 检测设备。详细参考见 references 文档及 inference.sh/docs。部分具体价格、费用信息暂未提供。