用途
quelllm-mcp 是一个 MCP(Model Context Protocol)服务器,将 quelllm.fr 的开源权重 LLM 目录以工具形式暴露给兼容 MCP 的客户端。它面向需要在编码助手或 AI 客户端中快速查询、对比开源模型并做部署成本估算的开发者。
主要能力
- 列出 quelllm.fr 目录中的开源权重 LLM(官方描述为 190+,仓库简介亦称 250+)。
- 对比模型:按参数量、各量化级别所需显存(VRAM)、速度与许可证进行比较。
- 估算显存(VRAM)。
- 估算成本:对比 API 调用与自托管两种方式的费用。
- 数据来源为 quelllm.fr/api/(CC BY 4.0,无需 API 密钥,支持 CORS),本地缓存 1 小时以避免限流。
- API 定价数据(GPT-5、Claude Opus 4.7、Gemini 2.5、DeepSeek、Mistral)与硬件定价(RTX 50 系列、Mac M4)为 2026-05 硬编码,建议每半年核实。
使用方式
项目尚未发布到 PyPI,需从源码安装,或使用 uv 免安装运行。
在 Claude Code 中使用:将配置加入 ~/.claude.json 或项目的 .mcp.json。若使用 pip 安装,使用相应配置;也可用 uvx 零安装运行。
在 Claude Desktop 中使用:编辑 ~/Library/Application Support/Claude/claude_desktop_config.json(macOS)。
在 Cursor / Continue / Cline 中使用:大多数 MCP 客户端接受相同的 JSON 配置。
本地开发:仓库提供本地开发方式。
适用场景
- 在 Claude Code、Cursor、Continue、Cline 等 MCP 兼容客户端中查询与对比开源权重模型。
- 为特定硬件估算模型量化后的显存占用。
- 比较使用 API 与自托管部署的成本。
- 仓库还提供按语言划分的模型选择指南,说明模型选择、内存权衡与可重复的评估任务;这些是基于来源的指南,并非新的硬件基准测试。
限制与说明
- 尚未发布到 PyPI,需从源码安装或用 uv 运行。
- API 与硬件定价为硬编码,截至 2026-05,建议每半年核实。
- 测试套件位于 tests/,覆盖全部 6 个工具及 v1.1.0 输出不变量,不访问网络(本地 fixture + mock httpx),并在 mcp SDK 不可导入时进行 stub,因此也可在 Python 3.9 上运行。
- 采用 MIT 许可证,详见 LICENSE。
- 欢迎提交 Issue 与 PR,尤其是:API 定价更新(每半年)、硬件新增(新 GPU、Mac Mx 系列)、新工具(例如 find_alternatives_to(model_id)、recommend_gpu(budget_eur))。
- 作者:Mohamed Meguedmi(LinkedIn、Hugging Face),La Gazette IA 与 QuelLLM.fr 创始人。
- 源码:https://github.com/MGM-FALCON/quelllm-mcp