跳到主要内容

LM Studio桌面版 v0.4.7

大小 567.13MB
版本 0.4.7
语言 简体中文
分类 网络软件
软件介绍

LM Studio桌面版功能定位:把大语言模型装进本机

LM Studio桌面版 0.4.7 把大语言模型的下载、加载与对话收进同一个桌面窗口,安装完成后无需联网也能聊天、写代码、整理文字,安装包体积 567.13MB,界面语言为简中,覆盖 Windows、macOS、Linux 三个平台。模型权重保存于本地磁盘,问答内容不经过外部服务器,适合处理不便上传的资料。主界面分为模型库、对话区和参数面板三块,模型库按名称、参数量、量化格式列出筛选条件,选中条目点击下载即可把权重文件写入指定目录,省去手动寻找文件和填写路径的步骤,装好之后离线可用。

模型下载与量化版本挑选

软件内置的模型目录以 GGUF 与 MLX 两类文件为主,同一模型常提供 2bit、4bit、8bit 等不同量化版本。量化位数越低,文件越小、内存占用越少、推理速度越快,输出质量会随之下降。以 70 亿参数模型为例,Q4_K_M 量化版本约 4GB,8bit 版本接近 8GB。挑选时先看本机显存与内存:16GB 内存的机器适合加载 7B 至 8B 的 Q4 模型,32GB 内存可以尝试 13B 至 14B。下载界面会显示文件大小、量化等级和缓存状态,下载完成后条目变为可用,在对话区直接选择即可加载。

使用方法:加载模型与对话操作指南

打开软件,左侧竖排图标依次是模型库、聊天和开发者三个入口。进入聊天页,顶部下拉框用于选择已下载的模型,右侧齿轮按钮打开运行参数。点击模型名称旁的下箭头,可以设置上下文长度与 GPU 卸载层数,显存不足时把卸载层数调到 20 至 30 之间,剩余部分交给 CPU 计算。输入框内回车换行、Ctrl+Enter 发送,右侧回形针按钮用于上传 PDF 或 TXT 文件建立本地知识库问答。对话内容以 Markdown 渲染,代码块右上角带复制按钮,右上角菜单可把整段历史导出为文本文件。

参数调节面板与本地 API 服务

右侧参数面板开放温度、Top P、上下文长度、重复惩罚等选项。温度取值范围 0 至 2,写代码、做摘要时设为 0.2 至 0.5,创作类文本设为 0.8 至 1.0。上下文长度决定单次可读取的字符量,4096 适合短问答,8192 以上适合长文档分析,数值越高内存占用越大。切换到开发者页,找到服务器开关,选定端口后(默认 1234)开启,本机就得到一个兼容 OpenAI 格式的接口。其他程序把请求地址指向 http://localhost:1234/v1,填入任意非空密钥即可调用本机模型,原有代码结构不必改动。

硬件配置建议与运行注意事项

苹果 M 系列芯片统一内存效率较高,16GB 机型能流畅运行 7B 的 Q4 模型。Windows 平台上,NVIDIA 显卡搭配 CUDA 可获得最快推理速度,没有独立显卡时由 CPU 承担计算,速度明显下降。加载模型前关闭浏览器多余标签与虚拟机,为推理留出内存余量;出现显存溢出报错时,降低 GPU 卸载层数或改用位数更低的量化文件。软件更新后旧模型仍保留在本地目录,可在设置里修改模型存放路径,把它挪到 D 盘等空间充足的磁盘。口袋网提供的安装包经过核对,版本号与官方 0.4.7 一致。