用途:通过 LangChain 调用 Ollama 本地或远程大模型,覆盖聊天、补全、嵌入、工具调用与结构化输出等场景。
主要能力:ChatOllama 支持多轮聊天、流式输出、工具绑定(bind_tools)、with_structured_output 生成 JSON/Pydantic 结果,以及 reasoning 参数控制推理模式(DeepSeek-R1 等模型可分离 reasoning_content)。OllamaLLM 用于原始文本补全,支持 temperature、num_predict、top_k、top_p、seed、format、keep_alive 等参数。OllamaEmbeddings 生成查询与文档向量,可用于 RAG 或相似度检索。三者均可通过 base_url 连接远程 Ollama 服务。
使用方式:安装 pip install -U langchain-ollama;拉取模型如 ollama pull llama3.1;Linux 用 ollama serve 启动服务,Mac 自动运行。常用 CLI 还有 ollama list、ollama ps、ollama rm。
适用场景:本地模型聊天与流式应用、函数/工具调用、结构化数据抽取、推理模型问答、文本嵌入与向量检索。
限制:需本地或远程 Ollama 服务与已下载模型;部分能力(如工具调用、推理模式)依赖具体模型支持;资料未提供收费、价格与性能数据。