简介

Anything LLM 是一个功能强大的本地 AI 助手应用，支持在个人电脑上流畅运行多种大语言模型。它提供直观的图形界面，集成了向量数据库和知识库功能，可以将文档、网页等内容转化为可检索的知识源，是个人用户和小型团队构建本地 AI 应用的理想选择。

开源项目：GitHub 仓库

主要功能

• 多模型支持：原生支持 OpenAI、Anthropic Claude、Azure OpenAI、Ollama、本地模型等多种后端。
• 向量数据库：内置 LanceDB 向量数据库，支持文档向量化存储和语义检索。
• 知识库管理：支持从 PDF、Word、TXT、Markdown 等文档构建专属知识库。
• 多工作区：可创建多个独立工作区，每个工作区有独立的对话历史和知识库。
• 对话历史：完整保存对话记录，支持搜索和导出。
• 多用户支持：支持多用户协作，各用户数据相互隔离。
• API 接口：提供 RESTful API，便于与其他应用集成。

适用场景

Anything LLM 适用于多种场景：个人 AI 助手——本地运行的智能助手，数据完全私有；知识库问答——基于公司或个人文档构建的智能问答系统；学习辅助——将学习资料转化为可对话的知识库；文档分析——长文档的智能摘要、问答和分析；团队协作——小团队共享的 AI 知识管理工具。

安装与使用

# 拉取镜像
docker pull mintplexlabs/anything-llm

# 运行容器
docker run -p 3000:3000 
  -v ~/anything-llm:/app/server/storage 
  mintplexlabs/anything-llm

同类工具对比

官网与入口

官网：https://useanything.com

GitHub：https://github.com/Mintplex-Labs/anything-llm

使用方式：提供桌面应用（Windows/Mac/Linux）和 Docker 部署两种方式。桌面应用开箱即用，Docker 适合服务器部署。

价格与版本

社区版完全免费使用，需自备 LLM API Key 或本地模型

使用技巧

常见问题

小结