用途:通过 Open Responses API 与 HuggingFace Inference Providers 构建自主智能体(非聊天机器人),适合需要在单次请求中完成多步工作流、多供应商路由、推理过程可见或使用工具构建子智能体循环的场景。
主要能力:使用单一统一端点 https://router.huggingface.co/v1,通过模型名后缀路由供应商,如 :groq、:together、:nebius、:auto 或省略后缀使用默认供应商。请求端点为 POST https://router.huggingface.co/v1/responses,使用 Bearer $HF_TOKEN 鉴权。API 自动处理模型采样、工具调用、执行服务器端工具(如 MCP)、回传结果并循环至完成。响应输出可包含 reasoning、function_call、function_call_output、message 等项,并提供 output_text 便捷字段与 usage 用量信息。支持语义化流式事件,如 response.created、response.output_item.added、response.output_text.delta、response.output_item.done、response.completed。支持推理控制 reasoning.effort 为 low、medium、high,以及通过 response_format json_schema 的结构化输出。
使用方式:推荐使用 OpenAI SDK,通过 baseURL 设置为 HuggingFace 路由并传入 HF_TOKEN。TypeScript 安装:npm install openai;Python 安装:pip install openai。工具定义在顶层,包含 type、name、description、parameters,可用 tool_choice: auto。Python 结构化输出可用 client.responses.parse 与 Pydantic 模型。流式使用 stream: true 并迭代事件。
适用场景与限制:资料未提供收费、价格、具体模型能力或效果数据。供应商可用性以 HuggingFace Inference Models 页面为准。需要 HF_TOKEN 环境变量;推理迹的 content、encrypted_content、summary 取决于模型类型。资料未提供完整示例目录或模板内容。