Dify集成ollama
因为ollama是本地运行的,而dify是运行在docker中的,ollama默认只有127.0.0.1可访问。dify采用dockercompose,提前准备好docker(找好可用的镜像源,非常重要)docker配置文件,没有就新建:/etc/docker/daemon.json。不要写127.0.0.1,因为dify在docker里,ollama在本机。dockercompose期间会下载镜
·
0、先搞好docker
dify采用docker compose,提前准备好docker(找好可用的镜像源,非常重要)
普遍的都是阿里云、网易的源,但24年06月后就大多不可用了
最后搜集了前三个源,可用。
docker配置文件,没有就新建:/etc/docker/daemon.json
{
"registry-mirrors": [
"https://docker.1ms.run",
"https://docker.1panel.live",
"https://hub.rat.dev",
"https://registry.docker-cn.com",
"http://hub-mirror.c.163.com",
"https://docker.mirrors.ustc.edu.cn",
"https://kfwkfulq.mirror.aliyuncs.com",
"https://docker.13140521.xyz"
]
}
1、下载Dify
直接选择从gitee下载
dify: Dify 是一个易用的 LLMOps 平台,旨在让更多人可以创建可持续运营的原生 AI 应用
2、启动Dify
在下载后的dify目录下执行
cd docker
cp .env.example .env
docker compose up -d
docker compose 期间会下载镜像,一定要配置好镜像源
3、ollama环境变量配置
因为 ollama是本地运行的,而 dify是运行在docker中的,ollama默认只有127.0.0.1可访问。
需先在本机设置环境变量
OLLAMA_HOST=0.0.0.0
设置完后ollama需要重启
4、Dify集成ollama
可以照着配了
注意基础url填写
本机ip:ollama port, 例如
http://192.168.1.2:11434
不要写 127.0.0.1,因为dify在docker里,ollama在本机
更多推荐

所有评论(0)