lms 是 LM Studio 官方推出的命令行工具(CLI),用于脚本编写和自动化本地大语言模型(LLM)工作流程。它随 LM Studio 一起发布,采用 MIT 开源许可证,并在 GitHub 上持续开发。通过 lms,你可以直接在终端中加载/卸载模型、启动/停止 API 服务器、查看模型列表,甚至调试原始的 LLM 输入。

博主博客

一、安装与引导

lms 随 LM Studio 桌面版一同安装,无需额外下载。但在使用之前,需要至少运行一次 LM Studio 桌面应用

完成上述步骤后,打开终端,根据操作系统运行以下引导命令:

  • macOS / Linux
    ~/.lmstudio/bin/lms bootstrap
    
  • Windows
    cmd /c %USERPROFILE%/.lmstudio/bin/lms.exe bootstrap
    

引导完成后,打开一个新的终端窗口,输入 lms 即可验证安装是否成功。终端中将显示 lms 的版本信息及可用子命令列表。

二、核心命令详解

1. 查看状态 —— lms status

打印 LM Studio 的当前运行状态。这是快速确认 LM Studio 是否正常运行的首选命令。

2. 模型管理

列出已下载的模型 —— lms ls

列出当前 LM Studio 模型目录中的所有已下载模型。该目录对应 LM Studio 桌面应用中“My Models”选项卡所设置的路径。

列出已加载的模型 —— lms ps

列出当前已加载到内存中的模型。与 lms ls 不同,ps 显示的是正在运行的模型。

加载模型 —— lms load

将指定模型加载到内存中,准备进行推理。常用选项包括:

  • --gpu:控制 GPU 卸载比例,可选 maxauto0.01.0 之间的数值。--gpu=1.0 表示尝试将 100% 的计算卸载到 GPU。
  • --context-length:设置上下文长度。
  • --identifier:为模型分配一个自定义标识符,便于后续引用。

示例:

lms load TheBloke/phi-2-GGUF --identifier="my-model" --gpu=0.8

此外,lms load --estimate-only <model> 可以在实际加载前打印模型所需的预估 GPU 显存和总内存占用。

卸载模型 —— lms unload

从内存中卸载已加载的模型。使用 --all 参数可以卸载所有已加载的模型。

3. 服务器控制

启动本地服务器 —— lms server start

启动 LM Studio 的本地 API 服务器。可以通过 --port 指定端口,--bind 指定绑定地址。

示例:

lms server start --port 8001 --bind 127.0.0.1

停止本地服务器 —— lms server stop

停止正在运行的本地 API 服务器。

4. 日志调试 —— lms log stream

这是一个强大的调试工具,可以实时查看发送到模型的原始输入字符串。这对于排查提示词模板问题或非预期的 LLM 行为非常有帮助。

运行后,终端将实时输出每次推理请求的完整输入内容,包括时间戳、模型标识符和原始提示词。

三、高级命令

1. 终端聊天 —— lms chat

直接在终端中与加载的模型进行对话。无需打开 LM Studio 图形界面即可快速测试模型。

2. 下载模型 —— lms get

从命令行直接下载模型。这对于自动化部署或批量下载非常实用。

3. 推理运行时管理 —— lms runtime

管理 LM Studio 的推理运行时,无需打开应用程序即可执行以下操作:

命令 功能
lms runtime ls 列出已安装的运行时
lms runtime get 下载新的运行时
lms runtime select 切换当前活动的运行时
lms runtime remove 卸载指定的运行时
lms runtime update 更新已安装的运行时

4. 其他命令

  • lms version:查看 CLI 版本
  • lms create:创建带有脚手架的新项目
  • lms daemon:管理无头守护进程
  • lms link:管理 LM Link 远程连接

四、实用技巧

  1. 获取帮助:任何子命令都可以通过 --help 查看详细用法,例如 lms load --help

  2. 自动补全:在 zsh、bash 等交互式终端中,可以使用 Tab 键获取命令补全提示。

  3. 脚本自动化lms 的所有命令都支持在 Shell 脚本中调用,非常适合构建自动化的 LLM 工作流。

  4. 路径说明lms 可执行文件位于 LM Studio 的工作目录 ~/.lmstudio/bin/ 下,更新 LM Studio 时会同步更新 lms 版本。

总结

lms 为 LM Studio 用户提供了强大而灵活的命令行操作能力。从模型加载、服务器控制到日志调试和运行时管理,它几乎覆盖了本地 LLM 工作流的所有关键环节。无论你是想快速测试模型、构建自动化脚本,还是深入调试提示词问题,lms 都是一个不可或缺的工具。