SuperAPI AI 工具集
合作ENAI 行业资讯收藏
Skill 广场multi-llm-mcp-server

multi-llm-mcp-server

智能体与模型

查看项目

更新于 10-16 02:07

技能介绍

用途

multi-llm-mcp-server 是一个 MCP 服务器，旨在让 Claude Code 能够完成两件事：一是把任务委派给 Codex CLI 执行，二是并行或单独地查询多个大语言模型提供商（GPT、Kimi、DeepSeek、Qwen，以及可选的 Claude），用于对比与交叉验证。它基于 FastMCP 构建。

主要能力

服务器提供以下工具：

工具 用途
ask 带会话支持地查询单个模型
ask_many 并行查询多个模型
wait_many 轮询多模型任务完成状态
review 让多个模型分析同一段内容
ask_codex 通过 Codex CLI 执行任务
wait_codex 轮询 Codex 任务完成状态
clear_session 清除指定对话会话
clear_all_sessions 清除全部会话
list_sessions 查看活跃会话
health_check 检查服务器状态与已配置的提供商

支持的模型提供商标识（大小写不敏感）：gpt（OpenAI，如 gpt-4、gpt-3.5-turbo 等）、deepseek（deepseek-chat、deepseek-coder）、kimi（Moonshot AI，moonshot-v1-8k、moonshot-v1-32k）、qwen（阿里 Qwen，qwen-turbo、qwen-plus、qwen-max）、claude（Anthropic，需手动启用）。

Claude 提供商默认被注释禁用，启用方式为：编辑 LLM_MIX.py 取消 PROVIDERS 中 claude 块的注释，把 claude 加入 ModelName 字面量类型，设置 ANTHROPIC_API_KEY 环境变量，并重启 MCP 服务器。

安装与配置

前置条件为 Python 3.10+：

pip install fastmcp openai

ask_codex 功能为可选，需安装 Codex CLI，确保 codex 在 PATH 中并已完成认证。

环境变量（按需为要使用的模型配置 API Key）：

Windows（需要重启终端/IDE）： setx OPENAI_API_KEY "your-key" setx DEEPSEEK_API_KEY "your-key" setx MOONSHOT_API_KEY "your-key" setx DASHSCOPE_API_KEY "your-key" setx ANTHROPIC_API_KEY "your-key" # 可选，用于 Claude

Linux/macOS： export OPENAI_API_KEY="your-key" export DEEPSEEK_API_KEY="your-key" export MOONSHOT_API_KEY="your-key" export DASHSCOPE_API_KEY="your-key" export ANTHROPIC_API_KEY="your-key"

添加到 Claude Code（路径需调整为 LLM_MIX.py 的实际位置）：

claude mcp add --scope user llm-mix -- python /absolute/path/to/LLM_MIX.py

Windows 下使用完整 Python 路径：

claude mcp add --scope user llm-mix -- "C:\Python310\python.exe" "C:\Projects\multi-llm-mcp\LLM_MIX.py"

验证安装：

claude mcp list

使用方式

1）健康检查——建议先确认已配置的内容：

health_check()

示例响应： { "status": "healthy", "codex_available": true, "configured_models": ["gpt", "deepseek", "kimi", "qwen"], "missing_keys": ["ANTHROPIC_API_KEY"] }

2）带会话的单模型查询：

ask( model="deepseek", prompt="Explain dependency injection in Python", session_id="di-tutorial" )

同一会话中追问：

ask( model="deepseek", prompt="Show me a FastAPI example", session_id="di-tutorial" )

完成后清除：

clear_session(session_id="di-tutorial")

3）多模型并行查询：

result = ask_many( models=["gpt", "deepseek", "kimi", "qwen"], prompt="What are the trade-offs between monorepo and polyrepo?" )

若任务仍在运行：

if result["status"] == "running": wait_many(job_id=result["job_id"])

响应格式示例： { "success": true, "status": "completed", "responses": { "gpt": "Monorepos provide...", "deepseek": "The main trade-offs...", "kimi": "Let me break this down...", "qwen": "From an architectural perspective..." } }

4）多模型评审：

review( models=["gpt", "deepseek"], content=""" def process_data(items): result = [] for i in items: if i > 0: result.append(i * 2) return result """, instruction="Review this code for performance and readability" )

5）Codex CLI 集成：

只读（适合代码分析）： ask_codex( sandbox_mode="read-only", prompt="Analyze the project structure and list all Python modules" )

工作区写入（用于文件修改）： ask_codex( sandbox_mode="workspace-write", prompt="Refactor the authentication module to use async/await" )

危险模式（完全系统访问，谨慎使用）： ask_codex( sandbox_mode="danger-full-access", prompt="Install dependencies and run tests" )

处理长任务： result = ask_codex( sandbox_mode="workspace-write", prompt="Migrate all print statements to logging" )

if result["status"] == "running": wait_codex(job_id=result["job_id"])

适用场景

  • 多模型对比与交叉验证，例如让 gpt、deepseek、kimi 同时回答同一设计问题。
  • 代码审查：用多个模型分析同一段代码的安全性与可读性。
  • 借助 Codex 进行分析、重构、实现与测试的迭代开发流程。
  • 通过会话管理进行迭代式、依赖上下文的深入对话（例如持续讨论限流器设计并逐步收起为 Python 实现）。

Codex 沙箱模式的定位：read-only 可读文件、分析代码、不修改，适合代码评审、分析、文档生成；workspace-write 可修改工作区内文件，适合重构、修 bug、实现功能；danger-full-access 拥有完整系统访问权限，适合系统设置、安装依赖（应谨慎使用）。

最佳实践

  • 进行复杂工作流前，先用 health_check 验证配置。
  • 用 Codex 探索代码库时先使用只读模式。
  • 会话 ID 应具描述性，例如 "auth-refactor" 而非 "session1"。
  • 多模型查询最适合主观或复杂的设计问题；单模型会话最适合迭代式、依赖上下文的对话。
  • 切换主题时始终清除会话，避免上下文污染。
  • 用 wait_* 工具轮询长任务，而不要重复发起同一请求。

限制与故障排查

  • 需要 Python 3.10+，且需自行准备各提供商的 API Key。
  • Claude 提供商默认未启用，需要手动编辑 LLM_MIX.py 并设置 ANTHROPIC_API_KEY。
  • ask_codex 依赖本机已安装并完成认证的 Codex CLI。
  • 工具在 Claude Code 中不可见时：用 claude mcp list 验证 MCP 是否注册，检查 Python 路径（Linux/macOS 用 which python，Windows 用 where python），可用显式 Python 路径重新添加。
  • Codex 认证失败时，先直接运行 codex 并按提示登录，再回到 Claude Code 重试。
  • 模型 API Key 未检测到时，用 health_check 检查配置，检查环境变量是否设置（Linux/macOS 用 echo $OPENAI_API_KEY，Windows 用 echo %OPENAI_API_KEY%），设置后重启 IDE/终端。
  • 长任务会返回 job_id，需要用 wait_codex 或 wait_many 持续轮询。
  • 会话会累积，可用 list_sessions 查看、clear_session 清除指定会话，或用 clear_all_sessions 全部清除。
  • 关于收费、价格与具体可用模型版本等，资料未提供，暂未提供相关信息。