手把手教你在linux服务器部署ollama和deepseek
- Ollama:
- Ollama 是一个开源项目,专注于开发和部署大型语言模型(LLMs)。它提供了工具和框架,帮助用户轻松地在本地或云端运行和微调这些模型,适用于自然语言处理任务,如文本生成、翻译、问答等。
- 简而言之,Ollama 是一个平台,旨在让更多人能够使用和定制大型语言模型。
- DeepSeek-R1:
- DeepSeek-R1 是深度求索公司开发的一款智能助手,基于大型语言模型。它能够执行多种任务,如文本生成、代码编写、数据分析等,广泛应用于企业、教育和个人领域。
- 简单来说,DeepSeek-R1 是一个多功能AI助手,旨在提升工作效率和解决复杂问题。
总结:
- Ollama 是用于开发和部署大型语言模型的工具。
- DeepSeek-R1 是基于这些模型的具体应用,提供智能助手服务。


步骤一:安装ollama
打开官方网址:https://ollama.com/download/linux
下载Ollama linux版本:

[root@localhost ~]#yum install pciutils lshw -y
备注:
- pciutils 主要用于查看和分析 PCI 总线上的设备信息。
- lshw 提供全面的硬件信息,可以查看计算机各个硬件组件的详细数据。
[root@localhost ~]# curl -fsSL https://ollama.com/install.sh | sh

在Service中增加下面两行:
[root@localhost ~]# vi /etc/systemd/system/ollama.service
Environment="OLLAMA_HOST=0.0.0.0"
Environment="OLLAMA_ORIGINS=*"
然后重启ollama服务:
[root@localhost ~]#systemctl daemon-reload
[root@localhost ~]#systemctl restart ollama
验证服务是否开启,11434是核心端口,必须开启。
[root@localhost ~]# ss -anlp|grep 11434
登录验证
浏览器直接访问192.168.40.190:11434

出现Ollama is running,即正常。
步骤二:部署deepseek-r1模型
还是在ollama官网https://ollama.com/download/linux上,点击Models,选择deepseek-r1,不同版本对应的体积大小不同,体积越大模型越精细化,只需要复制命令即可,我这里选择7b。

[root@localhost ~]#ollama run deepseek-r1:7b


如果安装完看到success,说明安装成功了。
配置够大也以装671b参数的。

更多推荐



所有评论(0)