用途:@inferencesh/sdk 是 inference.sh 的 JavaScript/TypeScript SDK,用于在代码中运行 AI 应用、构建智能体并集成模型。
安装与认证:npm install @inferencesh/sdk(也支持 yarn、pnpm),要求 Node.js 18.0.0+ 或支持 fetch 的现代浏览器。可用 apiKey 直接初始化,或读取环境变量 INFERENCE_API_KEY;前端应用建议配置 proxyUrl 走服务端代理。
运行应用:client.run({ app, input }) 执行应用并返回结果;传入 { wait: false } 可异步执行,之后用 client.getTask(task.id) 查询;{ stream: true } 可获取流式进度。支持 setup、infra、session、session_timeout 等参数。
文件与会话:input 中的本地路径可自动上传,也可用 client.uploadFile 手动上传;session: 'new' 可开启状态化会话,后续调用传入 session_id 复用热 worker。
智能体:client.agent(...) 可使用工作区模板智能体或临时智能体,支持 system_prompt、temperature、max_tokens。核心模型包括 infsh/claude-sonnet-4、infsh/claude-haiku-35、infsh/gpt-4o、infsh/gpt-4o-mini。工具类型涵盖客户端工具、应用工具、智能体工具、Webhook 工具与内置工具(规划、记忆、联网搜索、代码执行、图像生成)。
其它能力:支持流式回复、文件附件、技能上下文、服务端代理(Next.js、Express、Hono、Remix、SvelteKit)、TypeScript 类型、错误处理、人工审批、CommonJS。
限制:资料未提供定价、速率限制或完整 API 覆盖范围,具体以官方文档为准;请勿在前端暴露 API Key。