SuperAPI AI 工具集

ollama-launch

智能体与模型

查看项目

更新于 10-16 08:00

技能介绍

用途:该技能用于启动并验证本地 Ollama LLM 服务器,当需要本地 LLM 推理时使用,例如 RLM 蒸馏(seal 阶段摘要)、seal 快照、嵌入,以及任何调用本地 Ollama API 的工具。典型触发场景包括:seal 报错 Connection refused to 127.0.0.1:11434、RLM 蒸馏对新文件显示 [DISTILLATION FAILED]、任何本地调用 Ollama API 的工具。

依赖:需要 Python 3.8+,仅使用标准库,无需外部包。安装依赖命令:pip-compile ./requirements.in 与 pip install -r ./requirements.txt。requirements.txt 为依赖锁定文件,当前为空(仅标准库)。

使用方式:先做预检,检查 Ollama 是否已在运行:curl -sf http://127.0.0.1:11434/api/tags > /dev/null && echo "✅ Ollama running" || echo "❌ Ollama not running"。若已运行则无需操作;否则在后台启动:ollama serve &>/dev/null &,等待并验证(2-3 秒):sleep 3 后再执行上述 curl 检查。随后验证模型可用性:RLM 蒸馏使用 .env 中定义的模型,可用 ollama list 列出模型;若模型缺失则拉取,例如 ollama pull qwen2:7b。

故障排查:启动后仍 Connection refused 可等待更久(sleep 5),模型可能仍在加载;出现 ollama: command not found 表示未安装 Ollama,需让用户从 https://ollama.com 安装;端口 11434 被占用时用 lsof -i :11434 定位进程。

集成点:Learning Loop Seal 阶段的 RLM 合成会调用 Ollama 做蒸馏;RLM Factory 的 /rlm-factory:distill 需要 Ollama 进行批量摘要;任何需要本地向量嵌入的工具也依赖它。

限制:资料未提供该技能支持的操作系统范围、模型清单、性能指标或收费信息,暂未提供。