用途：该技能面向私有、离线或隐私优先的本地大模型推理场景，适用于搭建开发用本地 LLM、气隙环境、个人硬件（Mac/Linux/Windows 含 GPU）运行模型、团队共享推理端点，以及在采用云端 LLM API 前进行原型验证。
先决条件：8GB 以上内存（7B 以上模型建议 16GB）、GPU 加速需 NVIDIA 显卡（6GB 以上显存）或 Apple Silicon Mac、Docker（容器化部署）、20GB 以上磁盘用于模型存储。
基本用法：安装 Ollama 使用 curl -fsSL https://ollama.com/install.sh | sh，随后 ollama serve 启动服务，ollama pull llama3.1:8b 拉取模型，ollama run 运行推理，ollama list 查看已装模型，并可拉取指定量化版本如 llama3.1:8b-instruct-q4_K_M。
主要能力：支持 Ollama 开放 OpenAI 兼容 API（/v1/chat/completions、/v1/embeddings、/api/tags、/api/ps），可用 Python 客户端 ollama 或 OpenAI SDK 调用。提供 docker-compose 方式组合 Ollama、Open WebUI 与 LiteLLM 代理，LiteLLM 配置可统一路由本地模型。支持通过 Modelfile 定制系统提示与参数并 ollama create 生成专用模型。GPU 方面支持 NVIDIA（nvidia-smi 验证、CUDA_VISIBLE_DEVICES 多卡）与 Apple Silicon Metal 加速，可用环境变量 OLLAMA_NUM_PARALLEL、OLLAMA_MAX_LOADED_MODELS、OLLAMA_FLASH_ATTENTION 调优。提供 systemd 服务配置、健康检查与监控（/api/ps、/metrics）。
限制与安全：生产环境建议绑定 127.0.0.1 并使用反向代理，Open WebUI 需开启 WEBUI_AUTH=true，远程访问建议 nginx 加 TLS 并限制来源网段。资料未提供收费与价格信息。