小白也能看懂的MaxKB+大模型实现定制化本地知识库实战教程
MaxKB是一款基于大语言模型(LLM)和检索增强生成(RAG)技术的开源知识库问答系统,旨在提升企业的知识管理与服务水平。它通过全流程自动化的知识采集与构建、智能搜索、以及高准确性的回复机制,帮助企业有效处理特定领域请求,降低模型幻觉的影响。MaxKB支持本地部署,保障安全性,并能够快速实现业务AI助手的上线,提高工作效率与用户体验,助力企业实现“提质增效”的目标。因为官方文档对于技术小白有一定
MaxKB是一款基于大语言模型(LLM)和检索增强生成(RAG)技术的开源知识库问答系统,旨在提升企业的知识管理与服务水平。它通过全流程自动化的知识采集与构建、智能搜索、以及高准确性的回复机制,帮助企业有效处理特定领域请求,降低模型幻觉的影响。MaxKB支持本地部署,保障安全性,并能够快速实现业务AI助手的上线,提高工作效率与用户体验,助力企业实现“提质增效”的目标。
官方文档:基于大模型和 RAG 的知识库问答系统
因为官方文档对于技术小白有一定的门槛,这里给大家选取了一种来适合小白进行本地部署的方案。
在线安装(Win和Mac)
一、安装Docker
windows安装docker
安装Docker参考教程:Windows Docker 安装 | 菜鸟教程
安装之后,可以打开 PowerShell 并运行以下命令检测是否运行成功:
docker run hello-world
在成功运行之后应该会出现以下信息:
MacOS/Linux安装Docker
安装Docker参考教程:MacOS Docker 安装 | 菜鸟教程
安装之后打开终端,执行以下命令验证是否安装成功:
docker-v
显示当前Docker安装版本号即为成功。
二、使用Docker部署MaxKb
MaxKB 支持一键启动,仅需执行以下命令:
WIndows系统
docker run -d --name=maxkb --restart=always -p 8080:8080 -v C:/maxkb:/var/lib/postgresql/data -v C:/python-packages:/opt/maxkb/app/sandbox/python-packages registry.fit2cloud.com/maxkb/maxkb
参数说明:
-
docker run
: 启动一个新的容器实例。 -
-d
: 在后台运行容器(分离模式)。 -
--name=maxkb
: 给容器指定一个名称为maxkb
。 -
--restart=always
: 设置容器在失败后自动重启。 -
-p 8080:8080
: 将主机的8080端口映射到容器的8080端口。 -
-v C:/maxkb:/var/lib/postgresql/data
: 将主机的C:/maxkb
目录挂载到容器的/var/lib/postgresql/data
目录,用于数据持久化。 -
-v C:/python-packages:/opt/maxkb/app/sandbox/python-packages
: 将主机的C:/python-packages
目录挂载到容器的/opt/maxkb/app/sandbox/python-packages
目录,用于存放Python包。 -
registry.fit2cloud.com/maxkb/maxkb
: 指定要使用的Docker镜像地址。
Mac/Linux系统
docker run -d --name=maxkb --restart=always -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data -v ~/.python-packages:/opt/maxkb/app/sandbox/python-packages registry.fit2cloud.com/maxkb/maxkb
参数说明:
-
docker run
: 启动一个新的容器实例。 -
-d
: 在后台运行容器(分离模式)。 -
--name=maxkb
: 给容器指定一个名称为maxkb
。 -
--restart=always
: 设置容器在失败后自动重启。 -
-p 8080:8080
: 将主机的8080端口映射到容器的8080端口。 -
-v ~/.maxkb:/var/lib/postgresql/data
: 将主机的~/.maxkb
目录挂载到容器的/var/lib/postgresql/data
目录,用于数据持久化。 -
-v ~/.python-packages:/opt/maxkb/app/sandbox/python-packages
: 将主机的~/.python-packages
目录挂载到容器的/opt/maxkb/app/sandbox/python-packages
目录,用于存放Python包。 -
registry.fit2cloud.com/maxkb/maxkb
: 指定要使用的Docker镜像地址。
待所有容器状态显示为healthy
后,可通过浏览器访问 MaxKB:
http://127.0.0.1:8080
- 默认登录信息 用户名:
admin
- 默认密码:
MaxKB@123..
配置大模型
本次大模型对接使用 阿波罗AI(提供一站式大模型对接服务,稳定快速可靠的API中转)
为什么用中转API呢?
- 价格低:比官方API价格优惠很多。
- 稳定性高:比官方更稳定,有的逆向模型比官方更聪明。
- 简单易用:300+模型聚合成一个API,不需要去模型对应的平台注册账号,申请API_kEY。
详情查看:模型列表
代理地址填 https://api.ablai.top/v1 (没有账号需要 注册)
添加模型
选择OpenAI (因为阿波罗AI所有模型兼容OpenAI的对话格式)
按照下图的方式添加大语言模型
添加向量模型
也可以使用自带的maxkb-embedding
自带的速度对文件的向量化处理和分段质量可能稍微差一些,自己评估。
添加成功后可以在模型列表看到刚刚添加成功的模型,我们创建应用或者解析知识库的时候选择对应的大语言模型和向量模型即可。
添加其他类型的模型同理。
到此MaxKB知识库的基本配置已经完成了,大家可以创建应用和上传文档、网页构建自己的定制知识库了。
构建知识库和应用
MaxKB的强大之处在于可以基于知识库构造工作流,制作适合自己工作的应用,这是非常有意思的过程。快去体验吧!
更多推荐
所有评论(0)