SuperAPI AI 工具集

GLM-4

GLM-4 是智谱 AI 推出的新一代预训练模型系列,其开源版本托管于 GitHub(THUDM/GLM-4)。该系列包含 GLM-4-9B 系列(2024年6月发布)以及 GLM-4-0414 系列,其中后者扩展至 320 亿参数,涵盖对话、推理与沉思(Rumination)能力的多个模型变体,并附带技术报告、评测结果及模型部署所需资源说明。

访问官网

工具介绍

GLM-4 是智谱 AI 推出的新一代预训练模型系列,其开源版本托管于 GitHub 的 THUDM/GLM-4 仓库。根据官方资料,该项目为“开源多语言多模态对话模型”,并在 Z.ai 提供免费体验,商业模型服务则通过 bigmodel.cn 提供。

项目更新方面:2025年7月2日发布 GLM-4.1V-9B-Thinking 系列 VLM;2025年4月14日发布 GLM-4-32B-0414 系列模型,参数规模扩展至 320 亿,包含对话、推理与沉思(Rumination)能力的模型;2024年6月18日发布技术报告;2024年6月5日发布 GLM-4-9B 系列开源模型。

模型介绍:GLM-4-32B-0414 系列拥有 320 亿参数,性能可与 OpenAI GPT 系列及 DeepSeek V3/R1 系列相比,并支持本地部署。其基础模型 GLM-4-32B-Base-0414 在 15T 高质量数据(含大量推理型合成数据)上预训练,为后续强化学习扩展奠定基础;后训练阶段采用人类偏好对齐,并借助拒绝采样与强化学习提升指令遵循、工程代码与函数调用能力。在工程代码、Artifact 生成、函数调用、搜索问答与报告生成等方面表现良好,部分基准测试(如代码生成或特定问答任务)上可与 GPT-4o、DeepSeek-V3-0324(671B)等更大模型相当。

GLM-Z1-32B-0414 是基于 GLM-4-32B-0414 开发的推理模型,通过冷启动、扩展强化学习以及在数学、代码与逻辑任务上的进一步训练,显著提升数学能力和复杂任务解决能力,同时引入基于成对排序反馈的通用强化学习以增强通用能力。

GLM-Z1-Rumination-32B-0414 是具备沉思能力的深度推理模型(对标 OpenAI 的 Deep Research)。与典型深度思考模型不同,它能进行更深、更长时间的思考以解决更开放复杂的问题(例如撰写两座城市 AI 发展对比分析及未来规划)。该模型通过端到端强化学习扩展训练,响应由真实答案或评分标准评分,并可在深度思考过程中使用搜索工具处理复杂任务,在研究型写作与复杂任务上提升明显。

GLM-Z1-9B-0414 是 9B 小模型,采用上述技术训练,在数学推理与通用任务上表现优异,同尺寸开源模型中整体性能位居前列,在资源受限场景下实现效率与效果的平衡,为轻量部署提供选择。

GLM-4-9B-0414 因模型容量较小,未进行与 GLM-4-32B-0414 相同的智能体能力增强,而是主要针对需要大规模批处理的场景(如翻译任务)进行优化。

上下文与部署:模型原生训练上下文为 32K。当请求的总输入+输出长度可能超过 32K token 时,建议启用 YaRN 以获得更好的外推性能;对于 GLM-Z1 系列,当输入长度超过 8,192 token 时可考虑启用 YaRN(Rope Scaling)。大多数请求若未超过原生上下文长度则无需修改。模型实现已合并至 vLLM、transformers 与 llama.cpp 的相关仓库。

微调:仓库 finetune/README.md 提供模型微调所需计算资源信息及示例脚本。官方提供了一个简单微调示例命令,该脚本还支持使用 SwanLab 进行可视化跟踪,可在 SwanLab 可视化仪表板查看训练日志。

提示实现:使用 transformers 库的 apply_chat_template 构建提示时,不同 GLM-4-0414 模型的 System Prompt 限制不同——GLM-4-32B-Base-0414 为基础模型,无聊天模板;GLM-4--0414 / GLM-Z1--0414 在提供工具时,apply_chat_template 会将工具填充进 chat_template 的固定模板,生成一个带工具绑定的独立 system 消息置于消息列表首位(messages[0]),原传入消息整体后移一位。GLM-Z1-Rumination-32B-0414 不支持自定义 system 提示或自定义工具,其 tools 与 system 字段会被 apply_chat_template 忽略;使用该模型需外部搜索引擎或自定义检索 API,共支持四种工具:search(执行搜索查询并返回结果,参数 query 为搜索查询字符串,除中文专有名词外使用英文)、click(点击搜索结果中的链接并跳转至对应页面,参数 link_id 为链接 ID)、open(打开指定网站,通过 URL 获取任意网站内容,参数 url 为目标网址或域名)、finish(完成任务,无参数)。其 chat_template 固定模板中思考过程使用英文,如需改为其他语言,需修改 <Important Configuration> 中 Language Used 部分(当前支持中文与英文)。

评测结果:GLM-4-0414 系列在 SimpleQA 与 HotpotQA 上各采样近 500 个测试用例,为所有模型提供基础搜索与点击工具,保持其他设置一致,结果取 3 次运行平均。其中 Moatless v0.0.3 使用参数 response_format="react", thoughts_in_action=False, max_interations=30,失败轨迹不重试,其他为默认设置;Agentless v1.5.0 使用 BGE 作为嵌入模型与 FAISS 做相似性搜索,为加速补丁验证同时保持性能,单实例运行超时从默认 300s 改为 180s;OpenHands v0.29.1 未使用 YaRN 上下文扩展,将运行限制在最多 60 次迭代并总结历史以防超过 32K 上下文,总结配置为 llm_config="condenser", keep_first=1, max_size=32,失败轨迹不重试。

引用:若认为工作有帮助,可引用论文 “GLM-4 series: Open Multilingual Multimodal Chat LMs | 开源多语言多模态对话模型”。

其他细节(如完整模型清单、各基准分数表格、下载链接与许可证等)暂未提供。