用途:这是 inference.sh 的 Python SDK,用于在 Python 程序中运行 AI 应用、构建智能体,并集成各类模型。包名为 inferencesh,安装命令为 pip install inferencesh;需要异步支持时用 pip install inferencesh[async]。要求 Python 3.8 及以上。
主要能力:可调用 client.run 执行 AI 应用,支持等待结果、fire-and-forget(wait=False)和流式进度(stream=True);可传入 app、input、setup、infra、session、session_timeout 等参数。支持文件处理,包括输入路径自动上传,以及通过 upload_file 与 UploadFileOptions 手动上传。支持会话以保持 worker 常驻,实现有状态执行。
智能体:可使用工作区中的模板智能体,也可用 client.agent 以字典方式创建临时智能体,指定 core_app、system_prompt、tools、temperature、max_tokens 等。工具构建覆盖参数类型 string、number、integer、boolean、enum_of、array、obj、optional,并支持客户端工具、应用工具、智能体工具、webhook 工具和内置工具(计划、记忆、网页搜索、代码执行、图像生成)。支持流式响应回调 on_message、on_tool_call,工具结果通过 submit_tool_result 提交,并提供人工审批流程。还支持技能(skills)以复用上下文,以及 async_inference 异步客户端。
使用方式:先用 API Key 初始化客户端,例如 client = inference(api_key="inf_your_key"),推荐从环境变量读取。随后调用 run 或 agent 方法。错误处理可捕获 RequirementsNotMetException 与 RuntimeError。
适用场景:需要在 Python 中调用 AI 应用、编排工具与多轮智能体、处理文件与流式输出的开发场景。
限制:资料未说明价格、计费方式、速率限制或平台支持范围,暂未提供;使用前需自行获取 API Key。