一、介绍

Ollama：一个开源的大型语言模型平台，旨在让用户能够轻松地在本地运行、管理和与大型语言模型进行交互。

Deepseek：杭州深度求索人工智能基础技术研究有限公司推出的人工智能项目

OpenWebUI：一款开源的、用户友好型 AI 交互界面工具

二、部署

安装前准备：预安装Ubuntu Linux，我这里使用Ubuntu 24.04.1 LTS版本，开启ssh并关闭防火墙,更新所有软件报

admin@ollama:~$ lsb_release -a
No LSB modules are available.
Distributor ID: Ubuntu
Description:    Ubuntu 24.04.1 LTS
Release:        24.04
Codename:       noble

admin@ollama:~$ sudo -i
root@ollama:~# sudo apt install openssh-server
root@ollama:~# sudo systemctl status ssh
root@ollama:~# sudo systemctl enable ssh
root@ollama:~# sudo ufw disable
root@ollama:~# systemctl stop ufw

1、安装Ollama

root@Ollama:~# sudo apt install curl

root@Ollama:~# curl -fsSL https://ollama.com/install.sh | sh
root@Ollama:~# ollama --version

2、拉取Deepseek模型

root@Ollama:~# ollama run deepseek-r1:1.5b

3、安装OpenWebUI

curl -LsSf https://astral.sh/uv/install.sh | sh

DATA_DIR=~/.open-webui uvx --python 3.11 open-webui@latest serve

三、常见问题解决

如没有crul包，则执行以下操作
root@ollama:~# sudo apt update
root@ollama:~# apt list
root@Ollama:~# sudo apt install curl
如没有snapd、astral-uv，则执行以下操作
root@Ollama:~# sudo apt install snapd
root@Ollama:~# sudo snap install astral-uv --classic

打开OpenWebUI页面卡顿，可在用户设置中关闭OpenAI API

四、Ollama常见命令

服务管理命令

• 启动服务：ollama serve，启动 Ollama 后台服务。
• 停止服务：ollama stop，停止正在运行的 Ollama 服务。
• 查看版本：ollama -v或ollama --version或ollama version，显示当前 Ollama 工具的版本信息。

模型管理命令

• 拉取模型：ollama pull model_name，从模型注册表中拉取一个模型到本地。
• 推送模型：ollama push model_name，将本地模型推送到模型注册表。
• 列出模型：ollama list或ollama ls，列出本地所有可用的模型。
• 显示模型信息：ollama show model_name，查看特定模型的详细信息。
• 删除模型：ollama rm model_name，删除本地已安装的模型。
• 复制模型：ollama cp old_model new_model，复制一个模型到另一个位置或给定名称的地方。
• 创建模型：ollama create /path/to/Modelfile或ollama create model_name -f modelfile_path，使用 Modelfile 创建一个新模型。

其他命令

• 查看帮助：ollama --help或ollama help，显示所有可用命令及其说明。也可以使用ollama help command_name查看具体某个命令的帮助信息。
• 清理缓存：ollama prune或ollama clean，清理未使用的模型缓存，释放磁盘空间。