SuperAPI AI 工具集

claude-code-local

claude-code-local 是一个让 Claude Code 完全在 Apple Silicon Mac 本机运行的开源项目。它通过一个基于 Apple MLX 的 Python 服务器(proxy/server.py)直接以 Anthropic Messages API 格式应答 Claude Code,无需云端模型和 API Key,代码和数据不离开电脑,支持离线与空气隔离环境。项目提供安装与启动脚本、工具调用解析测试、带缓存优化的原生终端编码智能体、会话续接工具以及桌面启动器,并按 Mac 内存自动选择可运行的本地模型。适用于 NDA、法律、医疗等对隐私敏感的工作流。

访问官网

工具介绍

用途

claude-code-local 的目标是让 Claude Code 在 Mac 本机运行本地 AI 模型,从而在不使用云端模型、不配置 API Key 的情况下继续使用 Claude Code 的编码体验。官方描述为“不联网、无 API Key、无需等待”,并称“你的 Mac 芯片运行 AI,Claude Code 照常工作,任何内容都不离开你的电脑”。项目面向 NDA、法律、医疗等工作流,强调私有、离线、可用于空气隔离环境。

主要能力

  • MLX 原生 Anthropic API 服务器:proxy/server.py 使用 Apple MLX 在本机芯片上运行开放模型,直接以 Anthropic Messages API 格式应答 Claude Code,支持流式输出。
  • 工具调用适配:把不同模型自身的工具调用格式(Gemma 4、Qwen、Llama JSON 等)转换为 Claude Code 工具调用,并修复损坏的工具 JSON。
  • 提示缓存复用:在轮次之间复用 prompt cache,避免长会话反复读取全部上下文。
  • 测试脚本:scripts/test_parse_tool_calls.py(无需模型即可测试工具调用解析器)和 scripts/test_mlx_server.py(针对运行中的服务器测试多步工具调用)。
  • 原生终端编码智能体:agent/agent.py 是单文件终端编码智能体,使用简短固定的系统提示以在每轮保持缓存;bench/agent_bench.py 可复现其缓存数据。
  • 会话续接:bin/keepgoing 和 bin/keepgoing.py 可找到该文件夹中上一次 Claude Code 对话,并用免费的云端或本地模型继续。
  • 安装与检测脚本:install.sh、setup.sh 和 scripts/doctor.sh 检查 Mac、选择与内存匹配的模型、安装全部组件并创建桌面启动器。
  • 多种启动模式:launchers/ 与共享库 launchers/lib/claude-local-common.sh 提供双击即可运行的模式。

使用方式

环境要求:

  • Apple Silicon Mac(M1 或更新)
  • Python 3.12(setup 会代为安装)
  • Claude Code:npm install -g @anthropic-ai/claude-code

安装流程:运行 setup.sh,脚本会查看 Mac 内存并选择一个能装下的模型,下载模型、安装服务器,并在桌面放置 Claude Local.command。双击即可开始本地编码。setup.sh 会把服务器安装为指向本仓库 proxy/server.py 的符号链接,因此修改后只需重启服务器。

常见问题提示:如果被要求登录 Claude 账号,说明 claude 版本过旧,更新命令为 npm install -g @anthropic-ai/claude-code。

用量限制后的续接:当 Claude 显示达到用量限制时,在 Claude Code 中输入 exit,然后运行 keep going,会出现一个短菜单,可选择免费云端模型(来自 OpenRouter,需添加免费 key)或本机上的模型继续同一对话。也可把状态栏指向 scripts/statusline-keepgoing.sh 以在窗口底部显示提醒。

隐私验证:启动器会按 Anthropic 的文档设置关闭 Claude Code 自身的后台网络流量;在会话中可用 lsof -a -i -p "$(pgrep -d, -f claude)" 查看每个 Claude 进程的网络连接,官方称唯一连接是 localhost:4000。唯一例外是用户主动选择免费云端模型时,该对话会发送到 OpenRouter。

辅助终端:Trinidad Head 被推荐用于运行本地模型(Mac 和 PC 均支持),提供玻璃质感窗口、每个窗口不同颜色、更大更易读的文字、提问气泡高亮、复制粘贴支持等特性。

可运行的模型

官方称有 6 个可选模型,包括 Muse-Glimmer 30B(多模态,可读图片,abliterated)、Gemma 4 31B、Qwen 3.5 122B(65 tok/s)、DeepSeek V4 Flash(1M 上下文)等。表中数字称在 M5 Max(128 GB)上测得,另有标注为厂商报告的行。项目还列出多款第三方模型的原始发布与 MLX 构建(Qwen、Gemma、Hermes、Muse Glimmer、Nemotron 等),以及自有 abliterated 构建(huggingface.co/divinetribe)。官方提示 abliterated 模型的内置拒答被调低,并非普遍升级,各模型许可证仍然适用,需负责任使用。

适用场景

  • 已到 Claude 用量限制但仍需继续在相同项目上工作;
  • 对数据外发敏感、要求 NDA/法律/医疗合规的本机编码;
  • 离线或空气隔离环境;
  • 16 GB MacBook 也可运行,内存越大效果越好。

限制与说明

  • 仅支持 Apple Silicon Mac(M1 或更新)。
  • 具体模型尺寸、速度与内存需求详情在完整指南中(本页未提供完整表格数值)。
  • 官方 Agent-12 排行榜分数来自其自身精简测试工具 Anvil,并非在 Claude Code 内测得;Claude Code 每轮发送更多内容,同一模型在其中的得分与耗时可能不同。
  • 因供应链顾虑项目已移除 LiteLLM 并重新检查全部依赖。
  • 启动模式中除 Code 和 Native Engine 外的部分需要 setup.sh 未安装的额外组件。

相关替代方案

官方列举了其他在自选模型上运行 Claude Code 的方式:Ollama(自 v0.14 起原生支持 Anthropic Messages API,且不限于 Mac)、claude-code-router(在多提供商与模型间路由请求)、claude-code-proxy(把 Claude Code 请求转为 OpenAI 风格 API)。本项目额外提供的是面向 Apple Silicon 调优、并针对本地模型实际输出工具调用格式的 MLX 原生服务器。

许可与其他

项目使用 MIT License。作者为 Matt Macosko(Humboldt, California),联系邮箱 matt@ineedhemp.com。项目还提及 Nice Dreamz software、YouTube 演示与 Discord,以及贡献者名单。