SuperAPI AI 工具集
合作ENAI 行业资讯收藏
Skill 广场cli-anything-ollama

cli-anything-ollama

智能体与模型

查看项目

更新于 10-15 12:39

技能介绍

cli-anything-ollama 是一个通过 Ollama REST API 实现本地大语言模型推理与模型管理的命令行界面工具，面向 AI 智能体与需要管理模型、生成文本、进行对话和生成嵌入向量的高级用户，无需图形界面即可完成相关操作。

用途

该工具用于在命令行环境下管理 Ollama 本地模型并执行推理相关任务。它通过 Ollama REST API 与本地或远程 Ollama 服务通信，适合被 AI 智能体以程序化方式调用，也适合偏好命令行的用户进行探索性使用。

主要能力

工具按命令组组织功能：

  • Model（模型管理）：list（列出本地可用模型）、show（显示模型详细信息，包括参数、模板、许可证）、pull（从 Ollama 模型库下载模型）、rm（从本地存储删除模型）、copy（将模型复制为新名称）、ps（列出当前已加载到内存中的模型）。
  • Generate（生成）：text（根据提示生成文本）、chat（发送对话补全请求，支持多轮对话及从 JSON 文件读取消息）。
  • Embed（嵌入）：text（为文本生成嵌入向量，支持一次传入多个输入）。
  • Server（服务）：status（检查 Ollama 服务是否运行）、version（显示 Ollama 服务版本）。
  • Session（会话）：status（显示当前会话状态）、history（显示当前会话的对话历史）。

所有命令同时支持人类可读输出（默认，表格、颜色、格式化文本）与机器可读输出（--json 标志，返回结构化 JSON，供智能体消费）。

使用方式

安装：该 CLI 作为 cli-anything-ollama 包的一部分安装，命令为 pip install cli-anything-ollama。前置条件为 Python 3.10+，且必须已安装并运行 Ollama（ollama serve）。

基本命令：cli-anything-ollama --help 显示帮助；不带子命令调用时进入交互式 REPL 模式，支持 Tab 补全与历史记录；cli-anything-ollama model list 列出可用模型；cli-anything-ollama --json model list 以 JSON 输出，供智能体使用。

常用示例：

  • 拉取与查看模型：cli-anything-ollama model pull llama3.2；cli-anything-ollama model show llama3.2。
  • 生成文本：cli-anything-ollama generate text --model llama3.2 --prompt "Explain quantum computing in one sentence"（默认流式）；cli-anything-ollama --json generate text --model llama3.2 --prompt "Hello" --no-stream（非流式 JSON 输出）。
  • 对话：cli-anything-ollama generate chat --model llama3.2 --message "user:What is Python?"；多轮对话可多次传入 --message，或使用 --file messages.json 从 JSON 文件读取。
  • 嵌入：cli-anything-ollama embed text --model nomic-embed-text --input "Hello world"，可传入多个 --input。
  • 连接远程主机：cli-anything-ollama --host http://192.168.1.100:11434 model list。

状态管理：CLI 会维护轻量会话状态，包括当前主机 URL（可通过 --host 配置）、REPL 中多轮对话的聊天历史、以及 REPL 提示中显示的最近使用模型。

面向 AI 智能体的使用建议：以编程方式使用时始终使用 --json 标志获取可解析输出；检查返回码（0 表示成功，非零表示错误）；失败时解析 stderr 获取错误信息；generate/chat 使用 --no-stream 以获取完整响应；在执行其他命令前先用 server status 确认 Ollama 正在运行。

适用场景

适合需要在无图形界面环境下管理 Ollama 模型、进行文本生成与多轮对话、生成嵌入向量，以及希望以结构化 JSON 输出被智能体程序化调用的场景。也适合通过 --host 操作远程 Ollama 主机。

限制

资料中未说明具体的功能边界、性能表现或收费情况，相关信息暂未提供。使用前需满足 Python 3.10+ 与运行中的 Ollama 服务等前置条件。

更多信息：完整文档见包内 README.md，测试覆盖见包内 TEST.md，方法论见 cli-anything-plugin 的 HARNESS.md。版本 1.0.1。