docker-compose安装ollama、本地大模型deepseek、qwen
4.ollama拉取deepseek:7b模型并运行。1.创建并配置docker-compose.yml。5.ollama拉取qwen2.5:7b模型并运行。6.docker查询容器日志。2.拉取镜像并启动服务。
·
1.创建并配置docker-compose.yml
services:
ollama:
restart: always
image: ollama/ollama
container_name: ollama
ports:
- "11434:11434"
environment:
- OLLAMA_HOST=0.0.0.0:11434
- OLLAMA_MODELS=/data/models
volumes:
- ./models/:/data/models
2.拉取镜像并启动服务
docker-compose up -d
3.进入容器
docker exec -it ollama /bin/bash
4.ollama拉取deepseek:7b模型并运行
ollama run deepseek-r1:7b
5.ollama拉取qwen2.5:7b模型并运行
ollama run qwen2.5:7b
6.docker查询容器日志
docker logs ollama
更多推荐

所有评论(0)