SuperAPI AI 工具集

local-llm-free

智能体与模型

查看项目

更新于 10-15 19:57

技能介绍

用途:让 ComfyUI 的实时画布智能体在本地免费、离线、无需订阅和 API Key 运行,由面板的 Ollama 后端驱动本地模型。

主要能力:提供 artokun/gemma4-comfyui-mcp 模型,基于 Google Gemma 4 做 QLoRA 微调,训练数据为 1,055 条经服务器验证的工具调用轨迹,覆盖全部 178 个工具(113 个 MCP 工具 + 65 个面板实时画布工具),因此在工具选择与参数格式上比通用模型更可靠。权重、适配器与训练数据开放(HF:artokun/gemma4-comfyui-mcp,数据集 artokun/comfyui-mcp-trajectories)。

使用方式:先安装 Ollama(https://ollama.com/download,Linux 可用 curl -fsSL https://ollama.com/install.sh | sh),再按显存拉取模型: ollama pull artokun/gemma4-comfyui-mcp:e4b(默认,约 3.5 GB 显存 q4) ollama pull artokun/gemma4-comfyui-mcp:12b(约 8 GB 显存) ollama pull artokun/gemma4-comfyui-mcp:e2b(最小,约 2 GB 显存) 然后在 ComfyUI 侧边栏面板选择后端 Ollama (local) 并 Connect;:e4b 为内置默认,拉取后无需额外配置,可用面板模型选择器或 COMFYUI_MCP_OLLAMA_MODEL 覆盖。非面板 MCP 客户端可搭配紧凑工具模式(--compact)。

适用场景与限制:本地模型保留工具调用能力,但视觉能力有限或没有,能生成和编辑工作流却无法对自身输出做视觉评判;思考能力有限,复杂多阶段图构建可能需要引导。音频方面这些微调模型无法听音频,面板仅在所选模型属于已验证集合(gemma4:e2b、gemma4:e4b、nemotron3:33b)时才接受音频。连接后首次请求因冷加载会较慢(30 秒以上),属正常现象。显存建议:约 2-3 GB 用 :e2b,约 4-7 GB 用 :e4b,8 GB 以上用 :12b。完整文档见 https://comfyui-mcp.artokun.io/docs/local-llms。