0、先搞好docker

dify采用docker compose,提前准备好docker(找好可用的镜像源,非常重要)

普遍的都是阿里云、网易的源,但24年06月后就大多不可用了

最后搜集了前三个源,可用。

docker配置文件,没有就新建:/etc/docker/daemon.json


{
    "registry-mirrors": [
	"https://docker.1ms.run",
	"https://docker.1panel.live",
	"https://hub.rat.dev",
        "https://registry.docker-cn.com",
        "http://hub-mirror.c.163.com",
        "https://docker.mirrors.ustc.edu.cn",
        "https://kfwkfulq.mirror.aliyuncs.com",
        "https://docker.13140521.xyz"
    ]
}

1、下载Dify

直接选择从gitee下载

dify: Dify 是一个易用的 LLMOps 平台,旨在让更多人可以创建可持续运营的原生 AI 应用

2、启动Dify

在下载后的dify目录下执行

cd docker
cp .env.example .env
docker compose up -d

docker compose 期间会下载镜像,一定要配置好镜像源

3、ollama环境变量配置

因为 ollama是本地运行的,而 dify是运行在docker中的,ollama默认只有127.0.0.1可访问。

需先在本机设置环境变量

OLLAMA_HOST=0.0.0.0

设置完后ollama需要重启

4、Dify集成ollama

可以照着配了

注意基础url填写

本机ip:ollama port, 例如
http://192.168.1.2:11434

不要写 127.0.0.1,因为dify在docker里,ollama在本机

Logo

Agent 垂直技术社区,欢迎活跃、内容共建。

更多推荐