SuperAPI AI 工具集

qwen-qwen3-5

智能体与模型

查看项目

更新于 10-15 21:50

技能介绍

Qwen 3.5 是通义千问系列最新、能力最强的模型,资料称其在推理、编程和多语言基准上可与 GPT-4o、Claude 3.5 Sonnet 相媲美,并可通过 Ollama Herd 在自有硬件上免费本地运行。

支持的模型:qwen3.5(72B,前沿推理)、qwen3.5:32b(质量与成本平衡)、qwen3.5:14b(中端硬件)、qwen3.5:7b(低内存设备);qwen3-coder:32b(代码生成,80+ 语言);qwen2.5-coder:32b(成熟代码模型);qwen3-asr(语音转写)。

使用方式:安装 pip install ollama-herd,运行 herd 启动路由器(端口 11435),在每台设备运行 herd-node 自动发现路由器。安装时不下载模型,按需拉取且需用户确认。

调用可通过 OpenAI SDK,将 base_url 设为 http://localhost:11435/v1,api_key 填 not-needed,model 指定 qwen3.5 或 qwen3-coder:32b;也可用 Ollama API,如 curl http://localhost:11435/api/chat 发消息,或 curl http://localhost:11435/api/transcribe -F "file=@meeting.wav" -F "model=qwen3-asr" 做转写。仪表盘位于 http://localhost:11435/dashboard,状态可查 /fleet/status 与 /dashboard/api/health。同一端点还提供 Llama 3.3、DeepSeek-V3、DeepSeek-R1、Phi 4、Mistral、Gemma 3、Codestral,以及图像生成和嵌入接口。

硬件参考:16GB 内存适合 qwen3.5:7b,32GB 适合 qwen3.5:14b 或 qwen2.5-coder:32b,64GB 适合 qwen3.5:32b 或 qwen3-coder:32b,128GB 可跑 qwen3.5(72B),256GB 可同时运行 qwen3.5 与 qwen3-coder:32b。

限制与护栏:模型下载与删除均需用户显式确认,7B 约 4GB、72B 约 42GB;不得删除或修改 ~/.fleet-manager/ 内文件;不会自动下载模型。Ollama Herd 为 MIT 开源。具体性能、价格、平台细节以资料为准,其余信息暂未提供。