用途:Together AI 是运行开源基础模型的云平台,其 API 兼容 OpenAI 的 /v1/ 接口,任何为 OpenAI 构建的 SDK 或工作流只需更换 base URL 和 API key 即可使用。官方文档:https://docs.together.ai/reference
主要能力:通过 API 运行开源 LLM(Llama 3、Qwen、Mixtral、DeepSeek 等);用 FLUX.1-schnell 或 FLUX.1-dev 生成图像;用开源嵌入模型创建文本嵌入;在自定义数据上微调模型;列出平台全部可用模型。
使用方式:需先在 app.vm0.ai/connectors 连接 Together AI 连接器。请求失败时可运行 zero doctor check-connector --env-name TOGETHER_TOKEN 或 zero doctor check-connector --url https://api.together.ai/v1/models --method GET 排查。常用端点包括 /v1/chat/completions(对话补全,支持 system 提示与 stream 流式返回)、/v1/completions(文本补全)、/v1/images/generations(图像生成)、/v1/embeddings(嵌入)、/v1/models(列出模型)、/v1/fine-tunes(启动与查询微调任务)。请求通过 curl 携带 Authorization: Bearer $TOGETHER_TOKEN 发送。
模型与参数:模型 ID 为 org/model-name 格式,须带组织前缀,如 meta-llama/Llama-3.3-70B-Instruct-Turbo。FLUX.1-schnell 仅需 4 步,FLUX.1-dev 需 20–50 步以获得最佳质量。微调基础模型使用 -Reference 或 -Free 变体。
限制:免费账户速率限制较低,遇到 429 错误可查看 x-ratelimit-* 响应头。其余收费、价格与配额信息暂未提供。