用途:Opper 是位于 LLM 提供商之前的网关,同时是构建于其上的控制平面。通过一次连接即可访问各大厂商(OpenAI、Anthropic、Google、Mistral 等)的 700+ 模型,托管于 AWS 斯德哥尔摩,具备 ISO/IEC 27001:2022 认证并符合 GDPR,按提供商费率计费、令牌不加价(购买额度收 3% 费用,含控制平面功能为 5.5%)。
主要能力:每次调用都会记录在日志中,包含模型、提供商、令牌、成本、延迟和状态;开启追踪后可保留输入、输出和触发的规则。控制平面规则可按组织设置、按项目收紧,涵盖支出限制、数据保留、模型访问、内容检查(标记、脱敏或阻止、评分)以及路由(池化模型的提供商顺序),API 将其归为 comply、guard、observe、route 四类规则。
使用方式:基础 HTTP API 位于 https://api.opper.ai。Opper 没有自研 SDK,应用代码使用已有的提供商 SDK(OpenAI、Anthropic、Google Gen AI)或代理框架,将 base URL 指向 https://api.opper.ai/v3/compat,认证使用 Authorization: Bearer $OPPER_API_KEY。文本生成、聊天和从 OpenAI/Anthropic/Google 迁移走 /v3/compat/... 端点;结构化输出在同一端点加 response_format: {type: "json_schema"};旧的 POST /v3/call 正在退役,应迁移到兼容聊天端点。媒体生成、文件与实时语音是另一套接口,需切换到 opper-multimodal 技能。模型发现用 GET /v3/models(无需密钥),模型名采用 provider/name 格式,支持池、固定、别名和路由;动态路由需在平台或管理 API 构建,调用只需项目密钥。
适用场景:需要统一访问多提供商模型、集中治理与合规证据、日志与追踪、结构化输出或代理式工具调用的应用。
限制:旧的 opperai 包和 Opper Agent SDK 已不再开发,不应推荐;/v3/call 正在退役;模型字段必须是字符串,未知 ID 返回 404;具体定价、平台和功能细节以官方文档为准,资料未提供的不作推断。