SuperAPI AI 工具集

subconscious-dev

编程与开发

查看项目

更新于 10-16 02:14

技能介绍

用途

Subconscious 提供兼容 OpenAI SDK 的推理接口,用于调用其微调后的 Qwen-3.6 模型(subconscious/tim-qwen3.6-27b)。适合需要在现有 OpenAI 客户端代码基础上切换到 Subconscious 推理服务的开发者,用于聊天补全、结构化输出、工具调用等场景。

主要能力

  • OpenAI SDK 兼容:将 OpenAI 客户端的 base_url 指向 https://api.subconscious.dev/v1,使用标准 OpenAI 字段即可调用。
  • 模型:subconscious/tim-qwen3.6-27b,微调 Qwen-3.6,fp8 量化。
  • 端点:POST /chat/completions(主要)、POST /completions(旧版文本补全)、GET /models。POST /v1/responses 在 URL 空间存在但不可用,会返回 sglang 错误。
  • 思考模式:默认开启,模型会在回答前输出一段以“Here's a thinking process:”开头的纯文本推理前言(无 thinking 标签)。可通过 chat_template_kwargs.enable_thinking: false 关闭。
  • 工具调用:仅支持标准 OpenAI function 工具形状;自定义工具类型(type: "custom")、platform、MCP、基于 URL 的函数工具均返回 400。工具由客户端执行,服务端不执行。
  • 结构化输出:支持 response_format 的 json_schema 和 json_object 两种模式。
  • 流式响应:stream=True 时返回 SSE;配合 stream_options.include_usage: true 可在最后一块返回用量。
  • 多模态:模型规格声明输入模态为 text,但视觉在实践中对部分图片来源可用(如 data URL),属于未文档化但可用的状态;音频、文件、视频块均返回 400。

使用方式

Python 示例:

from openai import OpenAI

client = OpenAI(
    base_url="https://api.subconscious.dev/v1",
    api_key="sky_...",  # 或设置 SUBCONSCIOUS_API_KEY
)

resp = client.chat.completions.create(
    model="subconscious/tim-qwen3.6-27b",
    messages=[{"role": "user", "content": "Hello"}],
)

认证:Authorization: Bearer <SUBCONSCIOUS_API_KEY>。无 Authorization 头返回 401,密钥无效返回 403,有效返回 200。

关闭思考:

extra_body={
    "chat_template_kwargs": {"enable_thinking": False},
}

TypeScript / Node 示例:

import OpenAI from 'openai';

const client = new OpenAI({
  baseURL: 'https://api.subconscious.dev/v1',
  apiKey: process.env.SUBCONSCIOUS_API_KEY!,
});

const resp = await client.chat.completions.create({
  model: 'subconscious/tim-qwen3.6-27b',
  messages: [{ role: 'user', content: 'Hello' }],
  // @ts-expect-error chat_template_kwargs is a Subconscious extension
  chat_template_kwargs: { enable_thinking: false },
});

cURL 示例:

curl https://api.subconscious.dev/v1/chat/completions \
  -H "Authorization: Bearer $SUBCONSCIOUS_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "subconscious/tim-qwen3.6-27b",
    "messages": [{"role": "user", "content": "ping"}],
    "max_tokens": 50,
    "chat_template_kwargs": {"enable_thinking": false}
  }'

参数与限制

  • 被采纳的采样参数:仅 temperature 和 stop(依据模型规格)。temperature: 0 已验证多次调用输出一致。
  • 被静默丢弃的参数(返回 200 但不生效):top_p、top_k、seed、frequency_penalty、presence_penalty、logit_bias、logprobs、top_logprobs、parallel_tool_calls、user、safety_identifier、prompt_cache_key、prompt_cache_retention、service_tier、store、metadata、modalities、audio、verbosity、prediction、web_search_options 等。
  • 返回 400 的输入:自定义工具类型、developer 角色消息、function 角色消息(已弃用)、reasoning_effort=minimal 和 xhigh。
  • 上下文:公开仪表盘宣称数百万 token;GET /v1/models 当前报告 context_length: 8192、max_completion_tokens: 5000。两者不一致时,文档建议以仪表盘声明为准并在实际负载上验证。
  • max_tokens:硬上限,最大 5000,已验证会截断。
  • 状态码:200 正常;400 请求体格式错误;401 缺少认证头;403 密钥无效;404 未知模型;429 限流(遵循 Retry-After);500 服务端/上游错误(指数退避重试)。

适用场景

  • 在已有 OpenAI SDK 代码中切换到 Subconscious 推理。
  • 需要结构化输出(JSON Schema / JSON 对象)的分类、抽取等任务。
  • 需要标准 OpenAI function 工具调用的智能体流程。
  • 需要流式输出的用户界面。
  • 需要较强推理能力的任务(可保留思考模式)。

限制

  • 仅一个模型:subconscious/tim-qwen3.6-27b。
  • 多数 OpenAI 采样参数不被采纳。
  • 思考模式默认开启,会输出推理前言,结构化输出时需关闭或剥离前言。
  • 视觉功能未文档化,仅部分图片来源可用(data URL 较可靠,Wikipedia URL 始终 500)。
  • 音频、文件、视频输入不支持。
  • 服务端不执行工具。
  • 定价(依据公开仪表盘,未与实际计费核对):输入 $0.50 / 1M tokens,输出 $3.50 / 1M tokens;GET /v1/models 的 pricing 字段返回 0,为占位符。思考 token 计入输出。

资源

  • API base:https://api.subconscious.dev/v1
  • 模型规格:GET https://api.subconscious.dev/v1/models
  • 仪表盘:https://www.subconscious.dev/platform
  • Playground:https://www.subconscious.dev/playground
  • 文档:https://docs.subconscious.dev
  • 定价:https://docs.subconscious.dev/pricing