LM Studio lms CLI环境命令使用介绍
常用命令速查表
| 功能 | 命令示例 | 说明 |
|---|---|---|
| 下载模型 | lms get "模型名" |
从Hugging Face下载 |
| 查看本地模型 | lms ls |
获取加载路径 |
| 加载模型 | lms load "路径" --gpu=max |
载入内存/显存 |
| 查看运行中模型 | lms ps |
监控状态 |
| 终端聊天 | lms chat --model "别名" |
直接对话 |
| 卸载模型 | lms unload "别名" |
释放内存 |
| 启动API | lms server start |
开启HTTP服务 |
| 删除模型 | rm -rf ~/.lmstudio/models/... |
手动清理磁盘 |
如何查看 lms chat 的 tokens信息
在一个终端执行命令:
lms log stream --stats
输出参考：
...输入...
...思考...
...内容...
stopReason: eosFound
tokensPerSecond: 15.512929629173787
numGpuLayers: -1
timeToFirstTokenSec: 1.324
totalTimeSec: 134.472
promptTokensCount: 42
predictedTokensCount: 2087
totalTokensCount: 2129
另外一个终端执行
lms chatchat的时候就可以切换到日志终端去查看输出的状态tokens信息
版权所有 © 【代码谷】 欢迎非商用转载，转载请按下面格式注明出处，商业转载请联系授权，违者必究。（提示：点击下方内容复制出处）
源文： LM Studio lms CLI环境命令使用介绍 ，链接：https://www.daimagu.com/article/2604071246439981.html，来源：代码谷
评论