SuperAPI AI 工具集

lm-studio

通用与其它

查看项目

更新于 10-16 06:14

技能介绍

用途:在本地用 LM Studio 运行大语言模型,通过命令行工具 lms 与 REST API v1 管理完整生命周期(设置、使用、清理)。适用本地推理、离线调用、以 OpenAI/Anthropic 兼容接口替换云端服务的场景。

主要能力:lms status 检查运行状态;lms server start --port 1234 启动服务器;lms get 下载模型(支持 --mlx、--gguf、@q4_k_m 量化);lms ls 列出模型;lms load 加载模型到内存,可配 --gpu、--context-length 4096、--identifier、--ttl、--host;lms chat 直接对话,支持 -p、-s、--stats;lms ps 查看已加载;lms unload --all、lms server stop、lms daemon down 清理。

API:提供三种接口——原生 /api/v1/chat(有状态会话、MCP、reasoning、上下文长度覆盖)、OpenAI 兼容 /v1/chat/completions(工具、结构化输出)、Anthropic 兼容 /v1/messages(需 0.4.1+)。可用 curl 或把 OpenAI/Anthropic SDK 的 base_url 指向 http://localhost:1234,api_key 在未启用认证时任意值即可。

限制与注意:首次使用前须打开一次 LM Studio 以注册 CLI 到 PATH;--cors 仅供浏览器或 VS Code 等访问,属安全风险,仅在需要时开启;lms load 的 --ttl 无默认值,lms chat 默认 3600 秒;lms import 默认移动原文件,可用 --copy 或 --symbolic-link;认证为可选项,启用后令牌只生成一次需及时保存;flash_attention 与 eval_batch_size 仅适用于 llama.cpp 引擎;加载失败可用 lms runtime ls 排查引擎。具体价格、平台授权和效果数据暂未提供。