用途
Subconscious 提供兼容 OpenAI SDK 的推理接口,用于调用其微调后的 Qwen-3.6 模型(subconscious/tim-qwen3.6-27b)。适合需要在现有 OpenAI 客户端代码基础上切换到 Subconscious 推理服务的开发者,用于聊天补全、结构化输出、工具调用等场景。
主要能力
- OpenAI SDK 兼容:将 OpenAI 客户端的 base_url 指向 https://api.subconscious.dev/v1,使用标准 OpenAI 字段即可调用。
- 模型:subconscious/tim-qwen3.6-27b,微调 Qwen-3.6,fp8 量化。
- 端点:POST /chat/completions(主要)、POST /completions(旧版文本补全)、GET /models。POST /v1/responses 在 URL 空间存在但不可用,会返回 sglang 错误。
- 思考模式:默认开启,模型会在回答前输出一段以“Here's a thinking process:”开头的纯文本推理前言(无 thinking 标签)。可通过 chat_template_kwargs.enable_thinking: false 关闭。
- 工具调用:仅支持标准 OpenAI function 工具形状;自定义工具类型(type: "custom")、platform、MCP、基于 URL 的函数工具均返回 400。工具由客户端执行,服务端不执行。
- 结构化输出:支持 response_format 的 json_schema 和 json_object 两种模式。
- 流式响应:stream=True 时返回 SSE;配合 stream_options.include_usage: true 可在最后一块返回用量。
- 多模态:模型规格声明输入模态为 text,但视觉在实践中对部分图片来源可用(如 data URL),属于未文档化但可用的状态;音频、文件、视频块均返回 400。
使用方式
Python 示例:
from openai import OpenAI
client = OpenAI(
base_url="https://api.subconscious.dev/v1",
api_key="sky_...", # 或设置 SUBCONSCIOUS_API_KEY
)
resp = client.chat.completions.create(
model="subconscious/tim-qwen3.6-27b",
messages=[{"role": "user", "content": "Hello"}],
)
认证:Authorization: Bearer <SUBCONSCIOUS_API_KEY>。无 Authorization 头返回 401,密钥无效返回 403,有效返回 200。
关闭思考:
extra_body={
"chat_template_kwargs": {"enable_thinking": False},
}
TypeScript / Node 示例:
import OpenAI from 'openai';
const client = new OpenAI({
baseURL: 'https://api.subconscious.dev/v1',
apiKey: process.env.SUBCONSCIOUS_API_KEY!,
});
const resp = await client.chat.completions.create({
model: 'subconscious/tim-qwen3.6-27b',
messages: [{ role: 'user', content: 'Hello' }],
// @ts-expect-error chat_template_kwargs is a Subconscious extension
chat_template_kwargs: { enable_thinking: false },
});
cURL 示例:
curl https://api.subconscious.dev/v1/chat/completions \
-H "Authorization: Bearer $SUBCONSCIOUS_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "subconscious/tim-qwen3.6-27b",
"messages": [{"role": "user", "content": "ping"}],
"max_tokens": 50,
"chat_template_kwargs": {"enable_thinking": false}
}'
参数与限制
- 被采纳的采样参数:仅 temperature 和 stop(依据模型规格)。temperature: 0 已验证多次调用输出一致。
- 被静默丢弃的参数(返回 200 但不生效):top_p、top_k、seed、frequency_penalty、presence_penalty、logit_bias、logprobs、top_logprobs、parallel_tool_calls、user、safety_identifier、prompt_cache_key、prompt_cache_retention、service_tier、store、metadata、modalities、audio、verbosity、prediction、web_search_options 等。
- 返回 400 的输入:自定义工具类型、developer 角色消息、function 角色消息(已弃用)、reasoning_effort=minimal 和 xhigh。
- 上下文:公开仪表盘宣称数百万 token;GET /v1/models 当前报告 context_length: 8192、max_completion_tokens: 5000。两者不一致时,文档建议以仪表盘声明为准并在实际负载上验证。
- max_tokens:硬上限,最大 5000,已验证会截断。
- 状态码:200 正常;400 请求体格式错误;401 缺少认证头;403 密钥无效;404 未知模型;429 限流(遵循 Retry-After);500 服务端/上游错误(指数退避重试)。
适用场景
- 在已有 OpenAI SDK 代码中切换到 Subconscious 推理。
- 需要结构化输出(JSON Schema / JSON 对象)的分类、抽取等任务。
- 需要标准 OpenAI function 工具调用的智能体流程。
- 需要流式输出的用户界面。
- 需要较强推理能力的任务(可保留思考模式)。
限制
- 仅一个模型:subconscious/tim-qwen3.6-27b。
- 多数 OpenAI 采样参数不被采纳。
- 思考模式默认开启,会输出推理前言,结构化输出时需关闭或剥离前言。
- 视觉功能未文档化,仅部分图片来源可用(data URL 较可靠,Wikipedia URL 始终 500)。
- 音频、文件、视频输入不支持。
- 服务端不执行工具。
- 定价(依据公开仪表盘,未与实际计费核对):输入 $0.50 / 1M tokens,输出 $3.50 / 1M tokens;GET /v1/models 的 pricing 字段返回 0,为占位符。思考 token 计入输出。
资源
- API base:https://api.subconscious.dev/v1
- 模型规格:GET https://api.subconscious.dev/v1/models
- 仪表盘:https://www.subconscious.dev/platform
- Playground:https://www.subconscious.dev/playground
- 文档:https://docs.subconscious.dev
- 定价:https://docs.subconscious.dev/pricing