dify接入ollama部署的本地模型
若 Dify 为 Docker 部署,建议填写局域网 IP 地址,例如:http://192.168.1.100:11434 或 Docker 容器的内部 IP 地址,例如:http://host.docker.internal:11434。故地址为http://host.docker.internal:8000.将 URL 设置为 http://host.docker.internal:8000
·
在 Dify 中接入 Ollama
在设置中找到“模型供应商” > “ollama” > “添加”。
将 URL 设置为 http://host.docker.internal:8000,让 Docker 通过内部地址访问。
PS:
基础 URL:
此处需填写 Ollama 服务地址。此处我用Docker 容器部署,ollama绑定的端口改成了8000。故地址为http://host.docker.internal:8000.
官方文档描述:
如果填写公开 URL 后仍提示报错,请参考常见问题,修改环境变量并使得 Ollama 服务可被所有 IP 访问。
若 Dify 为 Docker 部署,建议填写局域网 IP 地址,例如:http://192.168.1.100:11434 或 Docker 容器的内部 IP 地址,例如:http://host.docker.internal:11434。
若为本地源码部署,可填写 http://localhost:11434。
更多推荐


所有评论(0)