SuperAPI AI 工具集

ollama

通用与其它

查看项目

更新于 10-15 22:33

技能介绍

用途:该技能面向使用 Ollama 进行开发的场景,帮助在本机运行大模型并通过 API 与之交互,包括构建聊天应用、嵌入检索、视觉分析、云端模型调用及服务器配置排错。

主要能力:支持 /api/generate 文本生成、/api/chat 对话、/api/embed 嵌入、流式响应、结构化输出(JSON Schema)、工具调用与视觉模型(如 llava)。提供 OpenAI 兼容层,可用 OpenAI 的 Python/JavaScript 库,base_url 设为 http://localhost:11434/v1/,api_key 填 ollama(必填但被忽略)。支持本地模型(gemma3、llama3.2、qwen3)与云端模型(后缀 -cloud,如 gpt-oss:120b-cloud),云端需 ollama signin 或 OLLAMA_API_KEY。

使用方式:本地 API 默认 http://localhost:11434/api,云端为 https://ollama.com/api。常用命令:ollama signin、ollama run gemma3、ollama pull gemma3、ollama ps、ollama list;检查版本 curl http://localhost:11434/api/version。环境变量包括 OLLAMA_HOST、OLLAMA_CONTEXT_LENGTH、OLLAMA_MODELS、OLLAMA_ORIGINS、HTTPS_PROXY。

适用场景:本地聊天机器人、RAG 嵌入检索、图像问答、代理受限环境部署、Docker 部署、IDE 集成等。

限制:本地接口默认无鉴权,云端模型需登录或 API 密钥;默认上下文 2048 tokens;GPU 加载受 CUDA/ROCm 与显存影响;远程访问需设置 OLLAMA_HOST;代理仅支持 HTTPS_PROXY。错误码含 400、404、429、500、502。具体收费与价格暂未提供。