背景:macos 15.4

1.在ollama官网上直接下载安装包进行安装

https://ollama.com

2.安装完成以后使用终端来看看安装是否成功:

ollama --version

这样环境就搞定了

3.从ollama下载开源大模型

启动ollama:

ollama serve

如果已经启用会显示端口已经占用了 

mac可以直接使用终端进行拉取:

ollama pull deepseek-r1:14b

这里以r1的14b为例子进行下载,会占用9个g的空间

下载的时候可能会中断几次,耐心等待下完即可

4.然后直接运行使用下载好的模型即可:

这样看到一个对话框就说明成功咯!!!!

接下来可以进行本地对话,直接利用ai模型的强大能力

你可以使用/set nothink这个命令来关闭展示思考过程,这样会直接输出ai的回答

到这里就算是部署成功咯!!!

同时还可以拉取其他开源的大模型部署,使用ollama list来查看目前已经部署好的模型即可

可以看到我这里部署了两个大模型

最后可以使用/bye来退出ollama,结束所有对话

Logo

Agent 垂直技术社区,欢迎活跃、内容共建。

更多推荐