SuperAPI AI 工具集

lmstudio-cli

智能体与模型

查看项目

更新于 10-15 15:07

技能介绍

LM Studio CLI 技能适用于“真正要操作 LM Studio 本身”的任务:确认 lms 是否存在、检查本地或远程 LM Studio 服务器是否在运行、发现精确的模型 ID、判断 OpenAI 兼容端点是否够用,以及把下游工具接到正确的 base URL 和模型标识符上。官方说明特别指出,不要把它当作通用本地 LLM 对比技能;广义的提供商比较或平台选择应转向调研类工作,而下游工具专属的扫描或应用安全工作应交给对应工具的技能(例如 strix)——前提是 LM Studio 本身已被验证。

适用场景包括:用户直接提到 LM Studio、lms 或 LM Studio 服务器;需要验证 LM Studio 是否运行在本地或其他已授权主机上;在接入另一个工具前需要 /v1/models 返回的精确模型 ID;需要在 LM Studio 的 OpenAI 兼容端点与原生 REST API 之间做选择;在智能体或 CLI 使用模型前需要加载、检查或确认模型;下游工具使用 OpenAI 兼容端点但用户需要 LM Studio 专属的设置帮助;远程或无头 LM Studio 工作流失败、需要一条确定性的验证路径。

使用方式按步骤展开。第一步先识别操作模式:本地原生 CLI 模式(本机应装有 LM Studio 且 lms 可用)、远程 HTTP 模式(只需测试或消费已授权的 LM Studio 端点)、LM Studio 原生管理模式(需要超出通用 OpenAI 兼容调用的模型加载/列出/卸载行为)、下游接线模式(LM Studio 已在运行,需要把另一个工具指向它)。应选择能回答该请求的最小模式。第二步检查本地 lms 是否存在,预期做本地 CLI 操作时先用 command -v lms 和 lms --help 验证;如果 lms 缺失,不要臆造本地 CLI 输出,仅在主机/端点被明确授权时才继续做远程 HTTP 验证。第三步验证服务器状态或端点可达性:本地原生检查用 lms server status 或 lms server status --json --quiet;远程或客户端式冒烟测试用 curl -fsS http://HOST:PORT/v1/models,可选的最小响应测试用 curl 向 /v1/chat/completions 发送包含 model、messages、temperature、max_tokens 的 JSON;也可用 python3 scripts/check_lmstudio_endpoint.py --base-url http://HOST:PORT/v1 作为可复用解析器。第四步发现精确模型标识符,不要猜测模型名,可用 lms ls、lms ls --llm、lms ps --json 或 curl /v1/models;如需精确的已加载实例或运行时状态,优先 lms ps 或原生 REST API。第五步仅在需要时升级到 LM Studio 原生管理:当 OpenAI 兼容不够用时,使用 curl http://HOST:PORT/api/v1/models 以及 /api/v1/models/load(可带 model、context_length、echo_load_config 等字段),本地可用 lms load MODEL_KEY --identifier my-model 与 lms ps --json;涉及上下文长度、加载状态或实例特定问题时才走这条路径。第六步谨慎接线下游工具,对期望 OpenAI 兼容服务器的工具传入精确模型 ID 和 base URL,如 export LLM_API_BASE="http://HOST:PORT/v1" 与 export STRIX_LLM="openai/MODEL_ID";某些 OpenAI 兼容客户端即使 LM Studio 本身不需要真实提供商密钥也强制要求 API key 字段,此时只在该下游工具配置中设置客户端所需的占位密钥,不要把它说成 LM Studio 的鉴权要求。第七步报告操作事实而非猜测,良好报告应包含:本地是否存在 lms、服务器是在本地还是远程或两者都已验证、测试的确切 base URL、发现的精确模型 ID、用户只需要 OpenAI 兼容调用还是 LM Studio 原生管理、下游工具所需的最终环境变量或配置片段。

文档还给出示例流程与最佳实践,例如本地已装 LM Studio 时用 command -v lms、lms server status --json --quiet、lms ps --json;远程主机接下游工具时用 curl /v1/models、检查脚本和两个 export;需要更大上下文长度时走 /api/v1/models 与 /api/v1/models/load;无头环境排障时先验证 lms --help、运行 lms server status --json --quiet、必要时开启详细日志,并把本地守护进程/服务器故障与下游 OpenAI 客户端故障分开。最佳实践包括:把本地 CLI 可用性与远程 HTTP 可达性分开看待;使用 LM Studio 返回的精确模型 ID 而非手工缩写;下游工具接线优先用 OpenAI 兼容端点,模型管理问题优先用原生 REST/CLI;远程私有网络主机视为敏感,只探测用户已授权的端点;只有简单的 /v1/models 路径不够时才升级到加载状态或上下文长度指引;保持边界清晰,lmstudio-cli 负责验证与配置 LM Studio 本身,端点正常工作后的事情归下游工具技能所有。

参考文件包括 references/cli-and-server-basics.md、references/endpoints-and-escalation.md、references/downstream-tool-wiring.md、scripts/check_lmstudio_endpoint.py,以及 LM Studio CLI 文档、LM Studio OpenAI 兼容文档、LM Studio REST API 文档。关于具体支持的平台、收费或定价信息,资料中暂未提供。