用途:这是 inference.sh 的 JavaScript/TypeScript SDK,用于在 Node.js 或浏览器中调用 AI 应用、构建智能体并集成 150+ 模型。
安装与要求:npm install @inferencesh/sdk(也支持 yarn、pnpm)。要求 Node.js 18.0.0+ 或支持 fetch 的现代浏览器。
主要能力:通过 client.run 运行应用,支持同步等待、wait:false 异步任务、stream:true 流式进度;支持自动或手动文件上传、浏览器文件上传;支持 session 会话保持 worker 热启动;提供 Agent SDK,可使用模板智能体或程序化创建智能体,并支持多轮对话、重置与获取聊天历史。
工具构建:提供 tool、appTool、agentTool、webhookTool、internalTools 等构建器,支持 string、number、integer、boolean、enumOf、array、obj、optional 参数类型,可设置 requireApproval 人工审批。内置工具支持 plan、memory、webSearch、codeExecution、imageGeneration。
前端集成:浏览器应用可通过 proxyUrl 经后端代理,避免暴露 API Key;提供 Next.js、Express、Hono、Remix、SvelteKit 代理支持。
类型与错误:包含完整 TypeScript 类型定义,提供 RequirementsNotMetException、InferenceError 等错误处理,并支持 CommonJS。
限制:需自行获取 API Key;具体模型、价格、配额与可用区域资料未提供;部分能力依赖对应应用或后端代理配置。