用途：在 CPU、Metal、CUDA、HIP/ROCm、Vulkan、SYCL 及混合或多 GPU 系统上操作、配置、基准测试和排障 llama.cpp。每个启动方案都视为针对特定构建、模型、主机与负载的假设，先发现能力、检查模型与启动日志，再测量目标边界。
主要能力：只读预检（llama-cli --version、--help、--list-devices，llama-server --version、--help，llama-bench --help）；安装与后端选择；GGUF 模型获取、转换、检查、许可核对、量化与容量规划；llama-cli 推理与 llama-server 服务、兼容 API、模板、结构化输出、嵌入、重排与工具；线程、批大小、上下文、缓存、卸载、并发与多 GPU 调优；故障诊断。
使用方式：先记录版本或提交、安装方式、系统架构、CPU/内存、加速器与显存、驱动、设备、模型来源与量化、上下文、并发与负载。使用文档中的参数前先读已安装命令的 --help。用 --list-devices 和模型加载日志验证后端，构建成功或接受 GPU 参数不等于加速生效。先在回环或本地输入做有界 CLI 冒烟测试，建立基线后再逐项调整。服务首次绑定 127.0.0.1，等待 /health 就绪，查询 /v1/models 后发代表性请求。
适用场景：本地推理、服务化、性能对比与排障。
限制：训练、微调、量化方法论、评估设计或引擎选型应使用 ml-engineering；Ollama、LM Studio、LlamaIndex 用各自产品技能；语言绑定用对应文档。不要仅凭命令行推断加速器使用；不要意外将未认证服务暴露到回环之外；不要输出未脱敏的密钥或环境配置；不要在不可信环境启用 llama-server 内置文件系统或 shell 工具；不要覆盖聊天模板而未检查元数据与模型卡；不要跨模型、量化、提交、后端、上下文、批大小或负载比较基准数字；llama-bench 的每秒 token 数不是 TTFT。资料未提供具体安装命令、价格与平台支持细节。