简介

LM Studio 是一个专业的本地大型语言模型管理和运行工具，提供直观的图形界面来浏览、下载和运行各种开源 LLM。它专为技术用户和模型研究者设计，提供了丰富的模型配置选项和系统监控功能，是探索和测试本地 LLM 的理想工具。

开源项目：GitHub 仓库

主要功能

• 模型浏览器：内置模型市场，可浏览和下载各种开源 LLM（Llama、Mistral 等）。
• 本地模型加载：支持加载 GGUF、GGML 格式的模型文件。
• 详细配置：可调整温度、最大 token、上下文长度等参数。
• 系统监控：实时显示 CPU、内存、GPU 使用情况。
• API 服务器：可启动 OpenAI 兼容的本地 API 服务。
• 聊天界面：内置对话界面，可直接与模型交互。
• 模型比较：支持同时加载多个模型进行对比测试。

适用场景

LM Studio 适用于多种场景：模型研究与评估——测试和比较不同 LLM 的表现；应用开发——为应用提供本地 LLM 后端；提示词工程——测试和优化提示词效果；离线使用——无网络环境下运行 AI 模型；学习探索——学习大语言模型的工作原理和使用方法。

安装与使用

# 在 LM Studio 中：
# 1. 进入「Server」页面
# 2. 选择模型
# 3. 点击「Start Server」

# API 默认地址：http://localhost:1234/v1

同类工具对比

官网与入口

官网：https://lmstudio.ai

GitHub：https://github.com/lmstudio-ai/lmstudio

使用方式：提供桌面应用下载，支持 macOS、Windows、Linux。内置模型市场和聊天界面，开箱即用。

价格与版本

LM Studio 完全免费使用，包括所有核心功能

使用技巧

常见问题

小结