[!NOTE] 我们也在开发 Open Computer,它为 AI Agents 提供完整的计算机环境。
这将把 AnythingLLM 的 agent 能力提升到一个新的水平,并为 AI Agent 的使用带来一种新颖的 UX 范式。
⭐ 给仓库加星以获取最新更新!
AnythingLLM: 您一直在寻找的一站式 AI 应用。
与您的文档对话,使用 AI 智能体,高度可配置,支持多用户,且无需繁琐的设置。
<img src="https://img.shields.io/badge/chat-mintplex_labs-blue.svg?style=flat&logo=data:image/png;base64,iVBORw0KGgoAAAANSUhEUgAAACAAAAAgCAMAAABEpIrGAAAAIGNIUk0AAHomAACAhAAA+gAAAIDoAAB1MAAA6mAAADqYAAAXcJy6UTwAAAH1UExURQAAAP////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////r6+ubn5+7u7/3+/v39/enq6urq6/v7+97f39rb26eoqT1BQ0pOT4+Rkuzs7cnKykZKS0NHSHl8fdzd3ejo6UxPUUBDRdzc3RwgIh8jJSAkJm5xcvHx8aanqB4iJFBTVezt7V5hYlJVVuLj43p9fiImKCMnKZKUlaaoqSElJ21wcfT09O3u7uvr6zE0Nr6/wCUpK5qcnf7+/nh7fEdKTHx+f0tPUOTl5aipqiouMGtubz5CRDQ4OsTGxufn515hY7a3uH1/gXBydIOFhlVYWvX29qaoqCQoKs7Pz/Pz87/AwUtOUNfY2dHR0mhrbOvr7E5RUy8zNXR2d/f39+Xl5UZJSx0hIzQ3Odra2/z8/GlsbaGjpERHSezs7L/BwScrLTQ4Odna2zM3Obm7u3x/gKSmp9jZ2T1AQu/v71pdXkVISr2+vygsLiInKTg7PaOlpisvMcXGxzk8PldaXPLy8u7u7rm6u7S1tsDBwvj4+MPExbe4ueXm5s/Q0Kyf7ewAAAAodFJOUwAABClsrNjx/QM2l9/7lhmI6jTB/kA1GgKJN+nea6vy/MLZQYeVKK3rVA5tAAAAAWJLR0QB/wIt3gAAAAd0SU1FB+cKBAAmMZBHjXIAAAISSURBVDjLY2CAAkYmZhZWNnYODnY2VhZmJkYGVMDIycXNw6sBBbw8fFycyEoYGfkFBDVQgKAAPyMjQl5IWEQDDYgIC8FUMDKKsmlgAWyiEBWMjGJY5YEqxMAqGMWFNXAAYXGgAkYJSQ2cQFKCkYFRShq3AmkpRgYJbghbU0tbB0Tr6ukbgGhDI10gySfBwCwDUWBsYmpmDqQtLK2sbTQ0bO3sHYA8GWYGWWj4WTs6Obu4ami4OTm7exhqeHp5+4DCVJZBDmqdr7ufn3+ArkZgkJ+fU3CIRmgYWFiOARYGvo5OQUHhEUAFTkF+kVHRsLBgkIeyYmLjwoOc4hMSk5JTnINS06DC8gwcEEZ6RqZGlpOfc3ZObl5+gZ+TR2ERWFyBQQFMF5eklmqUpQb5+ReU61ZUOvkFVVXXQBSAraitq29o1GiKcfLzc29u0mjxBzq0tQ0kww5xZHtHUGeXhkZhdxBYgZ4d0LI6c4gjw
d7siQQraOp1AivQ6CuAKZCDBBRQQQNQgUb/BGf3cqCCiZOcnCe3QQIKHNRTpk6bDgpZjRkzg3pBQTBrdtCcuZCgluAD0vPmL1gIdvSixUuWgqNs2YJ+DUhkEYxuggkGmOQUcckrioPTJCOXEnZ5JS5YslbGnuyVERlDDFvGEUPOWvwqaH6RVkHKeuDMK6SKnHlVhTgx8jeTmqy6Eij7K6nLqiGyPwChsa1MUrnq1wAAACV0RVh0ZGF0ZTpjcmVhdGUAMjAyMy0xMC0wNFQwMDozODo0OSswMDowMB9V0a8AAAAldEVYdGRhdGU6bW9kaWZ5ADIwMjMtMTAtMDRUMDA6Mzg6NDkrMDA6MDBuCGkTAAAAKHRFWHRkYXRlOnRpbWVzdGFtcAAyMDIzLTEwLTA0VDAwOjM4OjQ5KzAwOjAwOR1IzAAAAABJRU5ErkJggg==" alt="Discord">
👉 AnythingLLM for desktop (Mac, Windows, & Linux)! Download Now
与您的文档对话。使用 AI Agents 自动化复杂工作流。高度可配置,支持多用户,久经考验——默认本地运行,零配置摩擦。

产品概览
AnythingLLM 是一款一站式 AI 应用,让您能够构建一个私有的、功能完备的 ChatGPT——无需任何妥协。连接您喜爱的本地或云端 LLM,导入您的文档,几分钟内即可开始聊天。开箱即用,内置智能体、多用户支持、向量数据库和文档流水线——无需额外配置。
AnythingLLM 还支持多用户,您可以控制每个用户的访问权限和体验,同时不会损害实例的安全性或隐私,也不会影响您的知识产权。
AnythingLLM 的酷炫功能
- 动态模型路由 - 根据您定义的规则,自动将聊天路由到最适合该对话的提供商和模型。
- 自动与用户管理的记忆 - 让您的 LLM 记住关于您或您工作区的重要信息。
- 计划任务 - 使用 cron 计划运行具有完整代理能力的重复任务或提示。
- 智能技能选择 为您的模型启用无限工具,同时每次查询减少高达 80% 的 token 使用量
- 无代码 AI 代理构建器
- MCP 兼容性
- 多模态支持(包括闭源和开源 LLM!)
- 自定义 AI 代理
- 👤 多用户实例支持和权限管理 仅限 Docker 版本
- 🦾 工作区内的代理(浏览网页等)
- 💬 用于您网站的自定义可嵌入聊天小部件 仅限 Docker 版本
- 📖 支持多种文档类型(PDF、TXT、DOCX 等)
- 直观的聊天 UI,支持拖拽上传和来源引用。
- 适用于任何云部署的生产就绪方案。
- 支持所有流行的闭源和开源 LLM 提供商。
- 针对大型文档集的内置优化——比其他聊天 UI 成本更低、响应更快。
- 完整的开发者 API,用于自定义集成!
- ...以及更多——几分钟内安装,亲自体验。
支持的 LLM、嵌入模型、语音模型和向量数据库
大语言模型 (LLMs):
- 任何兼容 llama.cpp 的开源模型
- OpenAI
- OpenAI (通用)
- Azure OpenAI
- AWS Bedrock
- Anthropic
- NVIDIA NIM (聊天模型)
- Google Gemini Pro
- Ollama (聊天模型)
- LM Studio (所有模型)
- LocalAI (所有模型)
- Together AI (聊天模型)
- Fireworks AI (聊天模型)
- Perplexity (聊天模型)
- OpenRouter (聊天模型)
- DeepSeek (聊天模型)
- Mistral
- Groq
- Cohere
- KoboldCPP
- LiteLLM
- Text Generation Web UI
- Apipie
- xAI
- Z.AI (聊天模型)
- Novita AI (聊天模型)
- PPIO
- Gitee AI
- Moonshot AI
- Microsoft Foundry Local
- CometAPI (聊天模型)
- Docker Model Runner
- PrivateModeAI (聊天模型)
- SambaNova Cloud (聊天模型)
- Lemonade by AMD
- Minimax
- Cerebras (聊天模型)
- oMLX
嵌入模型:
- AnythingLLM 原生嵌入器 (默认)
- OpenAI
- Azure OpenAI
- Gemini
- LocalAI (所有)
- Ollama (所有)
- LM Studio (所有)
- Lemonade
- OpenRouter
- LiteLLM
- Cohere
- Voyage AI
- Mistral
- 通用 OpenAI 兼容嵌入 API
语音转录模型:
- AnythingLLM 内置 (默认)
- OpenAI
TTS (文本转语音) 支持:
- 原生浏览器内置(默认)
- PiperTTSLocal - 在浏览器中运行
- OpenAI TTS
- ElevenLabs
- 任何兼容 OpenAI 的 TTS 服务。
STT(语音转文本)支持:
- 原生浏览器内置(默认)
向量数据库:
技术概览
此 monorepo 由六个主要部分组成:
frontend:一个基于 viteJS + React 的前端,您可以运行它以轻松创建和管理 LLM 可使用的全部内容。server:一个 NodeJS express 服务器,用于处理所有交互并执行所有 vectorDB 管理和 LLM 交互。collector:一个 NodeJS express 服务器,用于处理和解析来自 UI 的文档。docker:Docker 说明和构建流程 + 从源码构建的信息。embed:用于生成和创建 web embed widget 的子模块。browser-extension:用于 chrome browser extension 的子模块。
🛳 自托管
Mintplex Labs 和社区维护了多种部署方法、脚本和模板,您可以使用它们来在本地运行 AnythingLLM。请参阅下表,了解如何在您首选的环境中部署或自动部署。
| Docker | AWS | GCP | Digital Ocean | Render.com |
|---|---|---|---|---|
![]() | ![]() |
| Railway | RepoCloud | Elestio | Northflank |
|---|---|---|---|
![]() |
或者在不使用 Docker 的情况下设置生产环境 AnythingLLM 实例 →
如何设置开发环境
yarn setup要填写每个应用程序部分所需的.env文件(从仓库根目录开始)。- 在继续之前,请先去填写这些文件。确保
server/.env.development已填写,否则功能将无法正常工作。
- 在继续之前,请先去填写这些文件。确保
yarn dev:server在本地启动服务器(从仓库根目录开始)。yarn dev:frontend在本地启动前端(从仓库根目录开始)。yarn dev:collector然后运行文档收集器(从仓库根目录开始)。
遥测与隐私
Mintplex Labs Inc 的 AnythingLLM 包含一个遥测功能,用于收集匿名使用信息。
关于 AnythingLLM 的遥测与隐私的更多信息
为什么?
我们使用这些信息来帮助我们了解 AnythingLLM 的使用情况,帮助我们优先处理新功能和错误修复的工作,并帮助我们提高 AnythingLLM 的性能和稳定性。
选择退出
在您的服务器或 docker .env 设置中将 DISABLE_TELEMETRY 设置为 "true" 以退出遥测。您也可以在应用内通过前往侧边栏 > Privacy 并禁用遥测来实现此操作。
您明确跟踪哪些内容?
我们仅跟踪有助于我们做出产品和路线图决策的使用详情,具体包括:
-
您的安装类型(Docker 或 Desktop)
-
文档添加或删除的时间。不包含关于文档的任何信息。仅记录该事件的发生。这让我们对使用情况有一个大致的了解。
-
正在使用的向量数据库类型。这有助于我们在该提供商更新到达时优先处理相关更改。
-
正在使用的 LLM 提供商类型及模型标签。这有助于我们在该提供商或模型(或其组合)更新时优先处理相关变更。例如:推理模型与普通模型、多模态模型等。
-
聊天发送的时间。这是最常规的“事件”,能让我们了解该项目在所有安装实例中的日常活动情况。同样,仅发送事件——我们不会获取聊天本身的内容或性质信息。
您可以通过查找所有调用 Telemetry.sendTelemetry 的位置来验证这些说法。此外,这些事件会被写入输出日志,因此如果已启用,您也可以查看发送的具体数据。不会收集 IP 或其他身份信息。遥测服务提供商是 PostHog - 一个开源的遥测收集服务。
我们非常重视隐私,希望您理解,我们希望了解我们的工具是如何被使用的,而不使用烦人的弹窗调查,以便我们能构建出值得使用的产品。匿名数据_绝不_与第三方共享,永远如此。
[在源代码中查看所有遥测事件](https://github.com/search?q=repo%3AMintplex-Labs%2Fanything-llm%20.sendTelemetry(&type=code)
其他出站连接
如果您禁用遥测,您仍会看到对以下服务的出站连接:
- 如果使用外部工具、LLM、Embedding 模型或向量数据库,您仍会看到到相应服务提供商的出站连接。
cdn.anythingllm.com用于从我们的镜像 CDN 拉取模型。这不会被遥测跟踪,并且实际上对处于 VPN 受限地区的用户很有用。github/githubusercontent.com有一些各种各样的扁平文件是从这些域名下载的,用于上下文窗口缓存。
基本上,如果遥测被禁用,我们不会收集任何数据。然而,根据您的设置,您仍可能看到出站连接,并将受相应服务提供商的服务条款约束。
👋 贡献
- 为 AnythingLLM 做贡献 - 如何为 AnythingLLM 做贡献。
💖 赞助商
高级赞助商
所有赞助商














































🌟 贡献者
🔗 更多产品
- AnythingLLM Mobile (MIT Licensed): 一款移动应用程序,允许您在移动设备上使用 AnythingLLM。
- AnythingLLM Browser Extension: 一款浏览器扩展,允许您在浏览器中使用 AnythingLLM。
- AnythingLLM Embed: 一个组件,允许您将 AnythingLLM 嵌入到您的网站中。
版权所有 © 2026 Mintplex Labs。
本项目采用 MIT 许可证。




