SuperAPI AI 工具集

sagemaker-marketplace-onboarding

通用与其它

查看项目

更新于 10-15 17:22

技能介绍

用途:该技能是一个交互式向导,帮助模型提供方(卖家)让自家模型容器符合 AWS SageMaker Marketplace 容器契约。既可从已有项目改造,也可从零开始,并可选择止于容器或继续完成 Marketplace 上架。资料声明其模板仅供演示与起点使用,不适用于生产或直接提交,且未经安全审查。

主要能力:强制实施的容器契约支持四种同步调用模式(Real-Time、Streaming、Async Inference、Batch Transform)共用同一 /invocations;双向 WebSocket 流与按次计量为可选,仅在用户明确需要时生成。流程按阶段推进:阶段 0 询问目标与项目状态;阶段 1 盘点已有项目(依赖、Dockerfile、入口、权重、README);阶段 2 发现访谈(调用模式、模型形态、计费);阶段 3 差距分析;阶段 4 脚手架生成(Dockerfile、app.py、model_loader.py、inference.py 等,模板来自 templates/);阶段 5 逐端点讲解契约。

必要用法:一次只推进一个阶段,用 Write 工具写文件而非粘贴到聊天;回答存入记忆避免重复询问。骨架文件包括 app.py(/ping、/invocations、/execution-parameters)、model_loader.py 从 /opt/ml/model/ 加载权重、package_model.sh 打包 model.tar 并上传 S3、测试脚本与 PRE_SUBMISSION_CHECKLIST.md。若选择按次计费需生成 metering.py,在 2XX 响应回传 X-Amzn-Inference-Metering 头。

适用场景:已有或新建的 SageMaker 模型容器改造,覆盖 LLM、STT、TTS、图像、嵌入等模态,并支持上架准备(FDP 注册、IAM 角色、CreateModelPackage、定价、EULA、区域、Notebook、Limited→Public 发布)。

限制:模板未做安全审查,不适用于生产;容器无外网、权重须置于 /opt/ml/model/、启动限 8 分钟、/ping 须 2 秒内响应、仅 8080 端口与 /ping//invocations 路径、仅转发五个文档化请求头、SageMaker 剥离其他头。具体定价数值、平台清单等细节暂未提供。