SuperAPI AI 工具集
合作ENAI 行业资讯收藏
Skill 广场python-sdk

python-sdk

智能体与模型

查看项目

更新于 10-15 07:51

技能介绍

用途

python-sdk 是 inference.sh 平台的 Python 软件开发工具包，用于在 Python 中运行平台上的 AI 应用、构建智能体（Agent），并与各种模型集成。安装命令为 pip install inferencesh，异步支持需 pip install inferencesh[async]，要求 Python 3.8+。使用前需获取 API Key：Settings → API Keys → Create API Key。

主要能力

  • 运行 AI 应用：调用 client.run 执行指定 app，支持同步等待、fire-and-forget（wait=False 先拿任务 ID，稍后用 client.get_task 查询）以及流式进度（stream=True 逐条返回状态与日志）。
  • 运行参数：app（应用 ID，格式 namespace/name@version）、input（符合应用 schema 的输入）、setup（隐藏的 setup 配置）、infra（'cloud' 或 'private'）、session（有状态执行的会话 ID）、session_timeout（空闲超时，1-3600 秒）。
  • 文件处理：自动上传（input 中直接给文件路径）与手动上传（client.upload_file，支持 UploadFileOptions 设置 filename、content_type、public），再以返回的 uri 传入 input。
  • 会话（有状态执行）：session 设为 "new" 启动新会话并配合 session_timeout，后续调用传入同一 session_id 复用预热 worker。
  • 智能体：可使用工作区预置的模板智能体，也可程序化创建临时智能体；核心应用引用包括 infsh/claude-sonnet-4@latest、infsh/claude-haiku-35@latest、infsh/gpt-4o@latest、infsh/gpt-4o-mini@latest 等。
  • 工具构建器：参数类型有 string、number、integer、boolean、enum_of、array、obj、optional；工具种类包括客户端工具（tool，运行在自己的代码中）、应用工具（app_tool，调用 AI 应用）、智能体工具（agent_tool，委托给子智能体）、Webhook 工具（webhook_tool，调用外部 API，可配置 secret）、内置工具（internal_tools，含 plan、memory、web_search、code_execution、image_generation 等）。
  • 流式智能体响应：send_message 支持 on_message 与 on_tool_call 回调，工具调用可用 submit_tool_result 回传结果。
  • 文件附件：send_message 的 files 参数支持文件路径读取的字节或 base64 data URL。
  • Skills：可为智能体配置可复用上下文（含 name、description、content 或 url）。
  • 异步：使用 async_inference 与 asyncio，支持异步运行应用、异步智能体与异步流式（agent.stream_messages）。
  • 错误处理与人工审批：可捕获 RequirementsNotMetException（其 errors 列出缺失要求）与 RuntimeError；工具可通过 require_approval() 要求审批，在回调中确认或拒绝。

使用方式（示例，保持原样）

pip install inferencesh

from inferencesh import inference

client = inference(api_key="inf_your_key")

result = client.run({ "app": "infsh/flux-1-dev", "input": {"prompt": "A sunset over mountains"} }) print(result["output"])

适用场景

适合需要以 Python 调用 inference.sh 上的 AI 应用（如图像生成）、编排工具与多轮对话智能体、处理文件上传、保持有状态会话、进行异步并发以及需要人工审批工作流的开发者。

相关技能

JavaScript SDK：npx skills add inference-sh/skills@javascript-sdk；完整平台技能：npx skills add inference-sh/skills@infsh-cli；LLM 模型：npx skills add inference-sh/skills@llm-models；图像生成：npx skills add inference-sh/skills@ai-image-generation。

限制

资料未提供具体的收费、价格、平台限制、速率或效果信息，暂未提供。