1、安装ollama

Linux 下可以使用一键安装脚本,我们打开终端,运行以下命令:

curl -fsSL https://ollama.com/install.sh | sh

2、验证ollama安装情况

ollama --version

如果显示版本号,则说明安装成功。

3、拉取并测试中文 Qwen 模型

# 推荐:80亿参数,平衡性能与效果(适合16GB内存PC)
ollama pull qwen3:8b

# 或者:40亿参数,CPU友好(无独立显卡也可流畅运行)
ollama pull qwen3:4b

# 测试模型是否可用
ollama run qwen3:8b

在交互式终端中输入:“你好,你是谁?”
若模型能流畅回复中文内容,说明模型已就绪。

4、启动ollama服务,并后台运行

nohup ollama serve > ollama.log 2>&1 &

验证服务是否运行成功:

ps aux | grep ollama
curl http://localhost:11434/api/tags

若返回 JSON 格式的模型列表(如 qwen3:8b),说明服务已正常启动。

Logo

Agent 垂直技术社区,欢迎活跃、内容共建。

更多推荐