Text-Generator 是一个可自托管的 AI 文本生成 API 平台,旨在让开发者通过一个熟悉的 API 接入领先的 AI 模型,覆盖聊天、代码、推理和视觉等能力。
主要能力:
- 统一 API:提供与 OpenAI 兼容的接口,开发者无需重写应用即可将 OpenAI 客户端指向 Text Generator,从而接入多家模型提供商网络。
- 模型选择:支持手动选择具体模型,或使用 Auto 模式为每个请求自动匹配合适的模型,平衡速度、质量和成本。
- 内置回退:当某提供商限流或不可用时,请求仍可继续处理。
- 统一余额:一次充值即可用于所有路由模型,使用量集中在一个账户中管理。
- 密钥管理:可使用托管网关,也可保留使用自己的提供商密钥的路径。
- 隐私设计:模型选择过程不会将提示词发送到另一次 AI 调用。
- 多表面使用:提供 UI 聊天、playground 及内置工具,并提供 API 调用方式。
- 开源:从 API 到路由器的完整平台代码可在 GitHub 上获取,支持自行运行和参与改进。
使用方式:
- 订阅后可无限使用聊天、UI 工具和提供商 API;也可免费开始,按需添加 API 积分。
- 通过 OpenAI 兼容 API 调用,支持聊天补全和流式响应、别名、Auto 配置和精确模型 ID,以及路由元数据和提供商响应头。
- 可自行托管,检查代码并运行。
适用场景:
- 需要以可控成本和隐私优先方式构建 AI 功能的开发者。
- 希望统一接入多家模型提供商、减少集成工作量的应用。
- 需要聊天、代码、推理和视觉等多模态能力的项目。
限制:
- 关于爬取、图像分析和语音转文字的具体实现细节、定价、平台支持情况,官方文本未提供明确说明。