开始：至顶网

用过大模子的齐知说念，咱们不怕它不回话，生怕它乱回话，尽头是一眼还看不出来的那种。即即是起初进的AI模子也会说谎，防不堪防。对企业来说，幻觉，还是成为繁强大模子应用的严重劣势性问题。

除了幻觉，通用大模子无法餍足企业骨子业务需求还波及到学问局限性、信息安全等问题，企业彰着不行将私域数据上传到第三方平台考验。在这种情况下，怎么将土产货学问库和大模子连气儿起来，构建一个专属的AI学问库，成为了关节问题。

AnythingLLM恰是为责罚这个问题而生的通用框架。

AnythingLLM是什么？

从旨趣上看，构建专属学问库可分为三个部分，一是通过LLM处理应然话语；二是镶嵌模子把复杂的数据简化，转念成易于处理的神情；三是向量数据库挑升存储和管束那些转念后的数据。

那么插足正题，AnythingLLM到底是什么？AnythingLLM是由Mintplex Labs Inc.斥地的一个全栈应用神情，是一款高效、可定制、开源的企业级文档聊天机器东说念主责罚决议。它简略将任何文档、资源或内容片断转念为诳言语模子在聊天中不错利用的有关险阻文。

AnythingLLM复古简直所有的主流大模子和多种文档类型，可定制化，而且装配和建立简易。现在适用于MacOS、Linux和Windows操作系统，也不错使用Docker装配。官方还是作念好了各个版块的应用，凯旋下载对应版块，像泛泛软件同样装配启动即可。

一键装配，复古自界说模子，复古多种文档类型，可定制化

先看几个官方解答的用户问题，进一步了解AnythingLLM。

1、使用AnythingLLM要用钱吗？

AnythingLLM Desktop是免费的，也不错通过GitHub Repo自托管。AnythingLLM云托管起价为每月25好意思元，专为需要AnythingLLM功能但但愿领有AnythingLLM托管实例的企业或团队而构建。

2、怎么使用 AnythingLLM？

AnythingLLM有几种规格，具体取决于用例。AnythingLLM Desktop是用户在野心情上装配应用神情最简易的方法；AnythingLLM for Docker旨在使用最少的斥地东说念主员树立建立一个齐全的多用户实例；AnythingLLM托管则是官方的SaaS居品。

3、我的文档保存在那儿？

岂论用哪种方法使用AnythingLLM，用户的文档和信息齐存储在运行AnythingLLM的机器上，用户数据与实例相断绝，以确保数据不会浮现或与其他客户分享存储。

4、为什么用AnythingLLM而不是带插件的ChatGPT？

AnythingLLM使用户不错统统贬抑与任何LLM和向量数据库的拜访、权限和数据分享，简略统统离线运行，仅由土产货运行的办事提供复古。使用AnythingLLM无用挂念第三方秘密问题，何况不错拜访众人的开源和闭源LLM、任何向量数据库责罚决议。

奈何用AnythingLLM？

AnythingLLM默许通过Ollama来使用LLama2 7B、Mistral 7B、Gemma 2B等模子，也不错调用OpenAI、Gemini、Mistral等大模子的API办事。因此在使用前，需要启动Ollama办事，若是莫得装配Ollama，需要自行下载装配，这里使用后端办事器模式，具体操作本文不再赘述。

掀开装配好的AnythingLLM进行树立。先建立LLM Preference，遴荐思用的大模子；再建立Embedding Preference，Embedding Preference不错把土产货贵府向量化，这样就不错证实问题匹配对应的贵府片断；建立Vector Database，遴荐默许的LanceDB即可，这是一款无办事器向量数据库，可镶嵌到应用神情中，复古向量搜索、全文搜索和SQL。

新建职责区（workspace），每个职责区不错选择不同的模子，也不错修改向量数据库和代理树立。对于职责区的认识，官方是这样表现的：职责区的功能雷同于线程，同期增多了文档的容器化。职责区不错分享文档，但职责区之间的内容不会彼此插手或浑浊，因此您不错保合手每个职责区的险阻娴雅晰。简易交融，职责区就是管束多样文献的。

以上建立完成后就会出现对话界面，这时你就领有了我方土产货的诳言语模子。接下来上传贵府到职责区，不错上传土产货文档，也不错粘贴网址，将其更新到职责区就不错运垄断用了。

AnythingLLM很酷的少量是复古多用户模式，有3种扮装的权限管束，这少量对企业应用很裂缝。系统会默许创建一个管束员（Admin）账号，领有一说念的管束权限。第二种扮装是Manager账号，可管束所有职责区和文档，然则不行管束大模子、镶嵌模子和向量数据库。世俗用户账号，则只可基于已授权的职责区与大模子对话，不行对职责区和系统树立作念任何篡改。

AnythingLLM具有多用户管束、丰富文档复古、高效资本优化及云部署友好等上风。但从使用体验上看开云体育(中国)官方网站，一些用户反映现在它给出的回话还不够准确，笃信这套系统改日不错在文本调回和重排等方面，进一规律优和完善。