llmfit 技能用于基于来源证据、面向本地节点的模型适配决策,涵盖硬件清单、适配判定、评分与排序输出、硬件档案、方案与存储估算,以及只读 REST 查询。其核心设计是将公式化估算与实测推理明确分开。
使用方式:首先运行离线预检脚本,从仓库根目录执行 python3 .agent-skills/llmfit/scripts/preflight.py --json,或从已安装技能根目录执行 python3 "$SKILLS_ROOT/llmfit/scripts/preflight.py" --json;仅在检查指定源码检出时添加 --repo PATH --expect-commit FULL_SHA。该脚本不会启动 llmfit 或发起网络/提供商请求。随后运行 llmfit --version 与 llmfit --help 确认二进制与范围,若不可用则停在安装或源码构建交接处,未经明确批准不运行安装器、包管理器、cargo build、容器拉取或模型下载。
主要能力:通过 llmfit system --json 采集只读硬件证据;通过 llmfit recommend --json --limit N(可选 --use-case)或 llmfit fit --json -n N 运行静态适配查询,用 llmfit info "MODEL" 查看单行信息;通过 llmfit plan "MODEL" --context 8192 --json 为指定模型生成可复现方案。适配判定依据 memory_required / memory_available 比值:≤0.60 为 Perfect,≤0.85 为 Good,≤0.98 为 Marginal,>0.98 为 Too Tight;recommended_ram_gb 不影响判定,offload 路径最高为 Good,Too Tight 不代表可运行。存储输出是容量算术,不是可用磁盘证据。
适用场景与限制:适用于模型选型、硬件容量模拟和本地部署前可行性判断。API 方面,回环启动加 GET 路由在获批启动后为只读,/api/v1/plan 仍属估算。下载、TUI/提供商拉取、llmfit bench、凭据/网络、--share PR 创建均需单独批准。报告的吞吐量不得表述为基准测试结果。通用服务或推理性能调优应路由至 performance-optimization。