用途:在隔离网络或离线环境中,把 AI 编码查询智能路由到本地 LLM,并结合 Serena MCP 提供语义级代码理解,实现安全、可离线的开发辅助。
主要能力:
- 服务发现:自动探测 Ollama、LM Studio、Jan、Open WebUI、LocalAI、vLLM、llama.cpp、Kobold.cpp、GPT4All 等本地服务的在线状态与可用模型,并区分 OpenAI 风格与原生 API。
- 任务分类与模型选择:将查询归类为 coding、reasoning、analysis、documentation,再据此选择合适模型并执行。
- Serena 优先:所有代码相关任务先调用 Serena MCP 获取符号、引用、悬停类型信息与诊断,再拼装增强提示词路由给 LLM;若返回含代码修改,则通过 Serena 在符号级应用编辑。
- 环境适配:检测 Windows/Linux/macOS、WSL 与容器环境,必要时把 localhost 替换为 host.docker.internal。
必要用法:
- 前置条件:安装并运行 Serena MCP Server(主要工具),并至少运行一个本地 LLM 服务。
- 安装 Serena:pip install serena;或 uvx --from git+https://github.com/oraios/serena serena start-mcp-server。
- 验证本地服务:curl http://localhost:11434/api/version(Ollama)、curl http://localhost:1234/v1/models(LM Studio)、curl http://localhost:1337/v1/models(Jan)。
- 基本流程:发现服务 → 分类任务 → 选择模型 → 执行查询;代码任务先经 Serena 取上下文再路由。
适用场景:离线或隔离网络下的编码问答、代码导航、重构影响分析、类型与文档查询、诊断与快速修复。
限制:资料未提供具体收费、价格、性能指标或效果数据;实际可用性取决于本地已部署的 LLM 服务与 Serena 环境。