Qwen3 由阿里云 Qwen 团队研发,是 Qwen 大型语言模型系列的一部分。资料将 Qwen3 描述为当前最先进、最智能的系统之一,建立在此前 QwQ 与 Qwen2.5 的经验之上,并公开模型权重。
主要能力与模型规模: Qwen3 提供 Dense 与 Mixture-of-Experts(MoE)两类模型,规模包括 0.6B、1.7B、4B、8B、14B、32B 以及 MoE 的 30B-A3B、235B-A22B。其特点包括可在思考模式(面向复杂逻辑推理、数学与编程)与非思考模式(面向高效通用对话)之间无缝切换;官方称在数学、代码生成、常识逻辑推理方面较此前模型有所提升;在创意写作、角色扮演、多轮对话与指令遵循等人类偏好对齐方面表现较好;具备智能体能力,可在思考与非思考模式下与外部工具集成;支持 100 多种语言与方言,具备多语言指令遵循与翻译能力。
Qwen3-2507 更新: 资料提到过去三个月探索了 Qwen3 系列的潜力,并推出 Qwen3-2507 的两个变体:Qwen3-Instruct-2507 与 Qwen3-Thinking-2507,以及三种规模:235B-A22B、30B-A3B、4B。 Qwen3-Instruct-2507 是此前 Qwen3 非思考模式的更新版,主要增强包括:指令遵循、逻辑推理、文本理解、数学、科学、编程与工具使用等通用能力显著提升;多语言长尾知识覆盖提升;主观与开放式任务中更符合用户偏好,生成更有帮助的回复与更高质量文本;增强 256K token 长上下文理解,可扩展至 100 万 token。 Qwen3-Thinking-2507 是 Qwen3 思考模型的延续,提升了推理质量与深度:在逻辑推理、数学、科学、编程及通常需要人类专业知识的学术基准上表现提升,官方称在开放权重思考模型中达到 state-of-the-art;通用能力如指令遵循、工具使用、文本生成与人类偏好对齐也有改善;同样增强 256K 长上下文理解,可扩展至 100 万 token。
使用方式: 资料提供了多种运行与部署路径。通过 Transformers 使用需推荐最新版本且 transformers>=4.51.0;Qwen3-Instruct-2507 仅支持非思考模式,输出不含 <think></think> 块,也无需再指定 enable_thinking=False;Qwen3-Thinking-2507 仅支持思考模式,默认聊天模板会自动包含 <think>,因此模型输出可能只出现 </think> 而没有显式开头标签。默认情况下 Qwen3 模型会先思考再回复,可通过 enable_thinking=False 严格控制不生成思考内容,也可在系统或用户消息中使用 /think 与 /no_think 指令,在多轮对话中遵循最新指令。 本地运行可使用 llama.cpp(建议 llama.cpp>=b5401 以完整支持 Qwen3)、Ollama(建议 v0.9.0 或更高)、LM Studio;也可通过 ExecuTorch、MNN、mlx-lm(Apple Silicon,mlx-lm>=0.24.0)、OpenVINO(Intel CPU 或 GPU)等方式运行。部署方面支持 SGLang(sglang>=0.4.6.post1)、vLLM(建议 vllm>=0.9.0)、TensorRT-LLM(建议 tensorrt_llm>=0.20.0rc3),并在 Ascend NPU 上可访问 Modelers 搜索 Qwen3。
工具与训练: 资料建议工具使用能力可查看 Qwen-Agent,其提供围绕相关 API 的封装,支持工具使用或函数调用并支持 MCP;工具使用也可通过 SGLang、vLLM、Transformers、llama.cpp、Ollama 等进行。训练方面建议使用 Axolotl、UnSloth、Swift、Llama-Factory 等框架进行 SFT、DPO、GRPO 等微调。
许可与限制: 所有开放权重模型采用 Apache 2.0 许可,许可文件位于各自的 Hugging Face 仓库中。资料提到 llama.cpp 与 Ollama 采用“rotating context management”,可能影响长上下文;Ollama 默认设置 num_ctx 2048 和 num_predict -1,建议用户正确设置。此外,SGLang、vLLM 在预处理 API 请求时会丢弃所有 reasoning_content 字段,可能影响 Qwen3 思考模型的多步工具使用质量,建议按原样传递内容而不提取思考内容,由聊天模板正确处理。Ollama 的命名可能与 Qwen 原始命名不一致,例如 qwen3:30b-a3b 在 2025 年 8 月指向 qwen3:30b-a3b-thinking-2507-q4_K_M。资料还提到中国大陆用户可优先使用 ModelScope,并提供 VLLM_USE_MODELSCOPE=true 与 SGLANG_USE_MODELSCOPE=true 环境变量。