用途:在应用自有边界内封装 Together 原生 v2 客户端或 OpenAI 兼容接口,使供应商变更不扩散到每个调用方。
主要能力:集中管理 base URL、超时、模型策略、请求边界与凭证注入;定义应用自有的类型化请求、结果与错误接口;归一化完整与流式响应,保留 finish reason、usage、warnings 及请求元数据;仅对有限的可重试瞬时错误做带抖动的重试,认证、计费、校验与模型错误立即暴露;补充假传输契约测试与一次可选的实时兼容性探测。
使用方式:先用 Read、Glob、Grep 梳理现有供应商调用与错误处理,用 WebFetch 获取当前 SDK 与 API 契约,再用 Write 或 Edit 实现适配层与聚焦测试。优先使用 Together Python v2 客户端,v1 仅维护;OpenAI 客户端需同时提供 Together 项目密钥与 base_url="https://api.together.ai/v1";Together 模型 ID 使用 provider/model 形式,OpenAI 原生模型字符串会返回 404。客户端从运行时注入的 TOGETHER_API_KEY 构造,密钥不得放入可能被记录或序列化的配置对象。
适用场景:需要统一聊天、流式、嵌入、批处理或微调调用,并控制延迟、重试、token 与花费预算的项目。
限制:未提供具体语言、依赖管理器与现有抽象信息;不得在缺乏延迟、质量与成本证据及回滚方案时全局更改默认模型、重试放大或 OpenAI 到 Together 的路由。流式块无 choices 时应安全跳过,SDK 主版本不匹配时先应用 v2 迁移契约。