1、MarxKB知识共享系统简介

今天跟大家分享的内容是，如何在本地搭建自己的本地知识库问答系统 MaxKB，与其他问答知识库相比，他真正做到了开箱即用，零代码集成，支持ChatGPT、百度千帆、Lama2、Lama3，通义千问等几十种大语言模型，操作界面简介，小白也能快速上手。【注意在正式搭建知识库问答系统之前，请确保你的Windows系统已经升级到了专业版本，同时拥有一张独立的显卡！！】

2、搭建本地知识库问答系统 MarxKB的优势

在部署好MarxKB后，你可以添加个人笔记，工作文档，甚至在线网页到知识库里面，然后通过建立索引加上大语言模型对这些知识库的理解实现对文档内容的实时搜索与问答。所有的程序和文档都不会离开你的电脑，完全运行在本地。

3、在电脑上安装Docker

到目前为止，MarksKB目前在Windows系统上，只能通过Docker的镜像来部署，因此我们需要提前在电脑上安装Docker。打开下面的Docker应用程序下载地址：

https://www.docker.com/products/docker-desktop/

在下载Docker后，在本地电脑上完成安装，注意在安装过程中，我们需要确保"Use WSL 2 instead of Hyper-V (recommended)"这一功能被启用，docker的具体安装过程可以参看下图所示的教程，必要时可以重启电脑。

4、使用docker安装MarxKB镜像

在完成docker的安装后，我们先打开终端，然后在终端输入下面的指令

docker pull 1panel/maxkb

将docker镜像下载到本地电脑上，

整个MaxKb的镜像大小为2GB左右。

👉[CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）]()👈

5、为MaxKB镜像创建一个容器

打开Docker图形化界面，左侧菜单栏点击Images图标，然后你就会看到刚刚下载的docker镜像，点击右侧的三角图标就可以重新创建容器了，

弹出的界面点击向下的箭头，展开选项，容器名称选择MarskB，第一个端口默认是8080，第二个端口是在应用程序运行后需要访问的端口，这里我们也将其设置为8080，

下一步，在本地设备上，创建一个存放知识库数据的文件夹，并记住这个文件夹的路径，随后回到刚才的Docker界面，找到Volumes项，这这里填入刚才的知识库路径，随后在Container path这一栏中填入“/var/lib/postgresql/data”，最后点击RUN按钮，这样一个MarKB容器就算是搭建完毕了！

我们用浏览器打开下面的网址，

http://127.0.0.1:8080

就可以启动了MarKB应用界面了，不过这里需要提供登录账号和密码，

登录账号和密码可以关注下面的微信公众号，并回复关键词“MarKB”即可获取，

6、在MarKB上创建知识库

初次登录到MarKB后，需更改登录用户名和登录密码。完成修改后，导航到创建知识库页面，在这里，你需要为将创建的知识库命名，并输入几段简要内容进行描述，随后就是根据自己的需要创建自己的知识库系统，这里的知识库系统有两种，一种是用某个网站上作为建设知识库的数据来源，另外一种则是直接使用本地文本。

这里我们使用"通用型"，也就是通过使用本地文本的方式来搭建知识库，点击进入“文档上传”界面，这里上传你的知识库数据，这些数据格式既可以是txt，也可以是word、pdf、ppt等，在确定需要上传的文档后，点击右下角的**“创建并导入**”按钮。

在导入文档后，在“设置分段规则”这里我们选择“智能分段”，随后点击开始导入按钮。

文档导入过程的时间长短取决于文档内容的多少，文档内容阅读导入时间就越长。

7、配置本地大语言模型

在MarKB应用界面内，点击系统设置，然后再进入模型设置界面，在这里，你可以看到MarKB目前能够支持的大语言模型，如百度千帆、Azure OpenAI、ChatGPT、ollama等类型的模型。这里除了ollama可以本地使用外，其他平台的大语言模型均需要你提供对应的API密钥。

由于本期演示的主要内容就是通过本地启用本地大语言模型来构建自己的知识库系统，所以接下来我们探讨如何在本地部署并启用ollama上的大语言模型，首先请确保你的设备上已经安装了ollma，如果还没有安装，那么可以通过下面的地址来下载ollma本地安装包，然后快速完成安装。

https://ollama.com/download

你可以在ollma的官方网站主页上查看可以在本地运行的大型语言模型的列表！

这里我们使用最近开源的大语言模型llama3来作为运行本地知识库的大语言模型，到ollama模型列表界面，选中并打开llama3模型界面，在界面最底部找到下载llama3模型的命令，

如果你的设备显存足够大，那么你可以使用指令：

ollama run llama3:70b

来下载大语言模型llama3，反之，你就使用参数较低的8B模型，指令如下：

ollama run llama3

在模型下载完毕后，你就可以在终端直接和本地部署的大语言模型llama3对话了，关闭界面后，下次使用只需再次运行命令即可！

8、将大语言模型和本地知识库相互关联

回到MarKB的系统设置界面内，点击模型设置，模型名称随便写，模型类型写大语言模型，模型列表这里，如果你使用ollama下载了大语言模型，那么么这里的列表中将会有相应的模型，

下面的API密钥随便写，API域名则写入下面的内容：

http://host.docker.internal:11434

具体演示请见下图：

完成内容填写后，点击提交。

9、创建本地知识库应用

回到MarKB主界面，点击应用，然后创建应用，随后依次填写应用名称、应用描述，AI模型这里选中我们刚刚关联到MarKB上的大语言模型，如下所示：

打开多轮对话，接下来需要将这个应用关联到前面我们创建的知识库，

在接下来的界面内，你就会看到我们先前创建本地问答系统知识库了，点击它使大语言模型和知识库相结合，

完成后，点击创建按钮即可，如下所示：

到这里，一个使用大语言模型理解本地文档的问答系统就算建好了，点击下图所示的按钮就打开对话页面，

MaxKB使用演示情况如下图所示：

在大模型时代，我们如何有效的去学习大模型？

现如今大模型岗位需求越来越大，但是相关岗位人才难求，薪资持续走高，AI运营薪资平均值约18457元，AI工程师薪资平均值约37336元，大模型算法薪资平均值约39607元。

掌握大模型技术你还能拥有更多可能性：

• 成为一名全栈大模型工程师，包括Prompt，LangChain，LoRA等技术开发、运营、产品等方向全栈工程；

• 能够拥有模型二次训练和微调能力，带领大家完成智能对话、文生图等热门应用；

• 薪资上浮10%-20%，覆盖更多高薪岗位，这是一个高需求、高待遇的热门方向和领域；

• 更优质的项目可以为未来创新创业提供基石。

可能大家都想学习AI大模型技术，也_想通过这项技能真正达到升职加薪，就业或是副业的目的，但是不知道该如何开始学习，因为网上的资料太多太杂乱了，如果不能系统的学习就相当于是白学。为了让大家少走弯路，少碰壁，这里我直接把都打包整理好，希望能够真正帮助到大家_。

👉[CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）]()👈

一、AGI大模型系统学习路线

很多人学习大模型的时候没有方向，东学一点西学一点，像只无头苍蝇乱撞，下面是我整理好的一套完整的学习路线，希望能够帮助到你们学习AI大模型。

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

二、640套AI大模型报告合集

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。

三、AI大模型经典PDF书籍

随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

四、AI大模型各大场景实战案例

结语

【一一AGI大模型学习 所有资源获取处（无偿领取）一一】
所有资料 ⚡️ ，朋友们如果有需要全套 《LLM大模型入门+进阶学习资源包》，扫码获取~

👉[CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）]()👈