大模型本地部署之----ollama安装指南

最新版--下载方式

Download Ollama on macOS

因github下载较慢,可以网上搜索github加速工具下载

 ----download后加版本号

例如:  https://github.com/ollama/ollama/releases/download/v0.6.5/OllamaSetup.exe

通过网盘分享的文件:ollama-v0.6.5.zip
链接: https://pan.baidu.com/s/1zpPj99lsRiTrvOehbP3b2w?pwd=yatx 提取码: yatx 
--来自百度网盘超级会员v7的分享

下载完成后找到文件

---默认点击安装C盘目录

---因占用C盘故命令行cmd执行修改安装目录操作执行

安装之前先设置指定模型安装目录位置--配置环境变量--新建D:\data\ollamamodel

开始安装-ollama-指定安装目录

执行后点击install等待安装即可

安装完成后

即安装运行成功

部分环境变量安装参考

添加系统环境变量OLLAMA_MODELS:

变量名:OLLAMA_MODELS,

变量值:path/to/your/models(该路径用于存储模型文件)

添加系统环境变量OLLAMA_HOST:

变量名:OLLAMA_HOST

变量值:0.0.0.0(表示允许其他电脑访问 Ollama)

添加系统环境变量OLLAMA_PORT:

变量名:OLLAMA_PORT

变量值:11434(11434是ollama默认端口,也可修改为其他接口)

添加系统环境变量OLLAMA_PORT:

变量名:OLLAMA_ORIGIN

变量值:*(允许任意源跨域访问)

环境变量添加完成后重启电脑

模型下载

官网参考选取模型

---常用模型

ollama run deepseek-r1:1.5b

ollama run deepseek-r1:7b

ollama run qwen2.5

ollama run llama3

Logo

Agent 垂直技术社区,欢迎活跃、内容共建。

更多推荐