用途:帮助用户将 Ollama 集成到项目中,在本机或远程服务器上运行 Llama、Mistral、Gemma 等大语言模型,构建不依赖云端的 AI 应用。主要能力:安装与启动指引、连接校验、模型拉取/列出/删除、文本生成、对话、嵌入与语义搜索、流式输出、RAG 系统搭建,覆盖 Python 与 Node.js。使用方式:第一步向用户询问 Ollama 服务 URL(本地常用 http://localhost:11434),不要默认本地;第二步检查是否已安装运行,可访问该 URL 或执行 curl <OLLAMA_URL>/api/version;第三步确保服务运行,macOS/Linux 用 ollama serve,Docker 用 docker start ollama;第四步在技能目录下执行 python scripts/validate_connection.py <OLLAMA_URL> 校验连接并列出模型。模型管理命令:ollama pull llama3.2、ollama list、ollama rm llama3.2。Node.js 安装 npm install ollama。实现时默认使用流式响应,通过 stream: true 与异步迭代逐 token 输出;代码中引用 references/python_api.md 与 references/nodejs_api.md 获取完整示例。限制与注意:技能文档要求不要硬编码敏感信息、用环境变量配置、校验并清理用户输入;网络失败、模型缺失、内存不足、性能慢等问题需按文档排查;具体收费、价格与效果资料暂未提供。
ollama
智能体与模型
更新于 10-15 20:05