omni-inference 是 OmniRoute 项目中的核心推理接口集合，定位为兼容 OpenAI 规范的主要集成入口，面向 AI 智能体与开发者调用各类模型能力。资料来源为接口文档页面，以下按用途、主要能力、使用方式、适用场景与限制整理。
一、用途 提供统一的推理服务接入层，将聊天、嵌入、图像、音频、审核、重排、搜索等多种能力收敛到一套兼容 OpenAI 的接口下，便于 AI 智能体或应用以一致的方式调用不同提供商的模型。
二、主要能力
- 聊天补全：支持 POST /v1/chat/completions（OpenAI 格式）、POST /v1/messages（Anthropic Messages 格式）、POST /v1/responses（OpenAI Responses API）。可通过 GET /v1/models 发现可用模型。combo（如 auto、cost-optimized、subscription）可在多个提供商间自动回退。
- 工具调用：兼容 OpenAI tools 数组与 Anthropic tools 块；工具结果经 RTK 自动压缩（资料称包含 47 种过滤器，如 git-diff、grep、test-jest、terraform-plan、docker-logs 等，可节省 20-40% token），可用请求头 X-Omniroute-Rtk: off 关闭。
- 推理内容：Anthropic 扩展思考与 OpenAI Responses 推理块原样转发，并自动缓存。
- 图像：/v1/images/generations 文生图、/v1/images/edits 蒙版编辑、/v1/images/variations 变体；可通过 /v1/models/image 查看模型支持的尺寸与能力。
- 语音合成：/v1/audio/speech 返回二进制音频（mp3/opus/wav/flac），通过 /v1/models/tts 查看各提供商可用音色（如 alloy、echo、fable、onyx、nova、shimmer）。
- 语音转写：/v1/audio/transcriptions 转写、/v1/audio/translations 转写并翻译为英文；支持 mp3、mp4、mpeg、mpga、m4a、wav、webm，响应格式支持 json、text、srt、verbose_json、vtt。另有 /api/v1/ocr、/api/v1/speech-to-text、/api/v1/text-to-speech/{voiceId} 等端点。
- 嵌入：/v1/embeddings，输入支持单条字符串或字符串数组，编码格式支持 float 或 base64；通过 /v1/models/embedding 查看维度与最大输入 token。另有 /api/v1/multimodal-embeddings 多模态嵌入端点。
- Web 搜索与抓取：/v1/web/search 统一搜索（参数含 model、query、max_results、include_answer、search_depth），/v1/web/fetch 抓取网页（format 支持 markdown、html、text）。
- 其他端点：审核（/moderations）、重排（/rerank）、批处理（/batches）、文件（/files）、音乐与视频生成、代理订阅与代理管理、账号限额、智能体凭据与任务、注册密钥、VSCode 相关路径等，完整清单见资料中的端点列表。请求/响应结构可参考 GET /api/openapi/spec 或 docs/openapi.yaml。
三、使用方式
需要配置 OMNIROUTE_URL 与 OMNIROUTE_KEY。所有请求需携带有效 Bearer 令牌或会话 Cookie；令牌可通过 POST /api/auth/login 获取，本地开发可设置 REQUIRE_API_KEY=false。示例（聊天补全，OpenAI 格式）：
curl -X POST $OMNIROUTE_URL/v1/chat/completions
-H "Authorization: Bearer $OMNIROUTE_KEY"
-H "Content-Type: application/json"
-d '{
"model": "claude-opus-4-7",
"messages": [{"role": "user", "content": "Refactor this function"}],
"stream": true
}'
Anthropic 格式需额外携带 anthropic-version 头（示例为 2023-06-01），并设置 max_tokens。图像生成、TTS、STT、嵌入、搜索、抓取等各有独立端点与参数，详见对应示例与错误码说明。
四、适用场景 适合需要以统一接口接入多家模型提供商的 AI 应用与智能体开发；需要聊天、嵌入、图像、语音、搜索等多种能力组合的场景；需要在多个提供商间自动回退以提升可用性的场景；以及需要工具调用结果压缩、推理内容缓存等的智能体工作流。
五、限制 资料未提供具体定价、计费方式、速率限制数值与部署平台信息。鉴权为必需项（除非本地关闭 API Key 校验）。错误处理需关注：401 表示 API 密钥无效；400 invalid_model 表示模型不在注册表；503 circuit_open 表示提供商熔断，可稍后重试或改用 combo；429 rate_limited 需遵循 Retry-After，可考虑 combo 自动回退。图像、语音、嵌入、搜索等端点另有格式、尺寸、长度与文件大小限制（如 STT 常见上限 25MB、嵌入批处理通常上限 2048 条），具体以对应模型说明为准。