用途:@inferencesh/sdk 是 inference.sh 的 JavaScript/TypeScript SDK,用于在 Node.js 或浏览器中运行 AI 应用、构建智能体并集成 150+ 模型。
安装与认证:npm install @inferencesh/sdk(也支持 yarn/pnpm),要求 Node.js 18.0.0+ 或支持 fetch 的现代浏览器。通过 inference({ apiKey: 'inf_your_key' }) 或环境变量 INFERENCE_API_KEY 认证;前端应用建议使用 proxyUrl 走服务端代理。
主要能力:client.run 执行应用,支持同步等待、wait:false 异步任务、stream:true 流式进度;参数含 app、input、setup、infra、session、session_timeout。文件可自动或手动上传,支持浏览器 File 对象。会话(session)可保持 worker 热启动。Agent SDK 支持模板智能体与程序化创建,含 sendMessage、reset、getChat、流式回调、文件附件与 skills 复用上下文。工具构建器提供 string、number、integer、boolean、enumOf、array、obj、optional 等参数类型,以及客户端工具、应用工具、智能体工具、Webhook 工具和内置工具(规划、记忆、联网搜索、代码执行、图像生成)。支持人工审批工作流、TypeScript 类型、错误处理(RequirementsNotMetException、InferenceError)与 CommonJS。
使用方式:服务端代理支持 Next.js、Express、Hono、Remix、SvelteKit。相关技能可通过 npx skills add 安装,如 inference-sh/skills@python-sdk、@infsh-cli、@llm-models、@ai-image-generation。
限制:资料未提供具体收费、价格、速率限制或模型效果数据;API 密钥需自行在设置中创建,前端必须经代理以避免泄露密钥。