SuperAPI AI 工具集

modal

智能体与模型

查看项目

更新于 10-16 05:07

技能介绍

用途:Modal 是面向 Python 的无服务器云平台,适合部署与提供 ML 模型服务(如 LLM、图像生成)、运行 GPU 加速计算、并行批处理大数据集、调度计算密集型任务,以及构建可自动扩缩容的无服务器 API。

主要能力:支持指定 GPU 类型(T4、L4、A10、A100、L40S、H100、H200、B200,多卡用如 H100:8);通过 modal.Image 构建含依赖的容器镜像;用 web 端点暴露预测接口;支持 Cron 与 Period 定时任务;用 .map() 自动跨容器并行;通过 modal.Volume 提供持久化存储;用 modal.Secret 管理密钥;用 @app.cls 加载并服务模型;可配置 CPU、内存、临时磁盘与超时。

使用方式:先执行 pip install modal 安装,再用 modal token new 认证;用 modal.App 定义应用并装饰函数;本地执行用 modal run script.py,部署用 modal deploy script.py。

限制:以上信息来自公开资料,具体收费、价格、平台支持范围、配额与效果暂未提供;实际行为需以官方文档为准。