AnythingLLM是一个全栈应用程序,可以使用现成的商业大语言模型或流行的开源大语言模型,构建一个私有ChatGPT,不再受制于人,本地运行,能够与您提供的任何文档智能聊天。官网地址 https://anythingllm.com/ Docker 安装文档 https://docs.anythingllm.com/installation-docker/overview,以下是详细的安装步骤。

使用Docker部署AnythingLLM

1.安装

  1. 创建存储目录:用于存储AnythingLLM的配置和数据。
mkdir -p /opt/anythingllm
  1. 设置目录权限:避免权限不足导致部署失败。
chown -R 1000:1000 /opt/anythingllm && chmod -R 755 /opt/anythingllm
  1. 拉取并启动AnythingLLM镜像:
# 使用国内镜像源拉取镜像
docker pull docker.1ms.run/mintplexlabs/anythingllm:latest

# 启动容器
docker run -d \
  --name anythingllm \
  -p 3001:3001 \
  --network host \
  -v /opt/anythingllm:/app/server/storage \
  -e STORAGE_DIR="/app/server/storage" \
  -e OLLAMA_BASE_URL="http://127.0.0.1:11434" \
  --restart always \
docker.1ms.run/mintplexlabs/anythingllm
  1. 验证部署:
# 查看进程
docker ps
CONTAINER ID   IMAGE                                     COMMAND                  CREATED         STATUS                   PORTS     NAMES
741794bc32ea   docker.1ms.run/mintplexlabs/anythingllm   "/bin/bash /usr/loca…"   7 minutes ago   Up 3 minutes (healthy)             anythingllm

# 查看日志
docker logs -f --tail=100 741794bc32ea

2.配置

  1. 访问AnythingLLM界面:在公司内网的任意一台电脑上,打开浏览器,输入「服务器内网IP:3001」(如192.168.1.100:3001),即可进入AnythingLLM 初始化界面。
  2. 设置 Ollama

  1. 验证配置:返回AnythingLLM主界面,创建新对话,输入任意问题,若能正常收到回复,说明配置成功。此时公司内网所有电脑,只要输入「服务器内网IP:3001」,即可访问智能体,实现全员共享。
Logo

Agent 垂直技术社区,欢迎活跃、内容共建。

更多推荐