用途:为本地 Gemma 4 12B 推理栈提供跨平台安装向导,自动完成 llama-server 的安装,方式包括下载二进制或按 Metal、CUDA、Vulkan、ROCm 编译。
主要能力:提供两种使用模式。模式 B(任务委派,推荐)由 run_agent.py 将精简提示直接发送给 llama-server,无代理开销、无 29K 系统提示,典型有界任务实测约 2 秒。模式 A(可选,交互式代理)通过代理让 Claude Code 经由 Gemma 路由,每会话约 29K token 系统提示开销,首轮需 30–60 秒,官方不建议用于任务委派。
必要用法:先启动服务 python3 scripts/run_server.py,再用 curl http://localhost:8089/health 确认返回 {"status":"ok"}。模式 B 示例:python3 scripts/run_agent.py agents/refactor-expert.md target.py output.md "List the top 3 issues." --cli llama;可加 --max-tokens 300。模式 A 通过 python3 scripts/enable_global_routing.py 安装 launchd/systemd/NSSM 守护进程,用 disable_global_routing.py 移除。
内置角色(作为 PERSONA_FILE 传入):refactor-expert.md(代码质量)、security-auditor.md(OWASP 审计)、architect-review.md(C4/SOLID 结构评审)、red-team-reviewer.md(对抗性利用分析)、compliance-reviewer.md(编码规范漂移检测)、pr-reviewer.md(diff 评审)、test-writer.md(单元测试生成)、debate-synthesizer.md(多视角综合)、output-validator.md(输出护栏/幻觉检查)、self-critic.md(反思循环)、performance-analyst.md(瓶颈与扩展分析)。
脚本:run_server.py 启动 llama-server;run_agent.py 任务路由(模式 B,6 种后端);enable_global_routing.py 安装模式 A 代理守护进程;disable_global_routing.py 移除;routing_proxy.py 为模式 A 的 API 兼容代理(端口 4000)。
限制:资料未提供支持的操作系统版本、硬件要求、模型下载来源、许可证与收费信息,暂未提供。