文章目录

ollama安装

ollama是什么

Ollama 是一个专注于本地运行大型语言模型的工具。它允许用户在本地环境中部署和运行各种开源语言模型（如 LLaMA、GPT-J 等），而不需要依赖云服务。Ollama 的主要优势在于其本地化运行的能力，这使得用户可以在不依赖互联网连接的情况下使用强大的语言模型。

DeepSeek是什么

DeepSeek是由深度求索公司开发的人工智能模型，功能丰富，能聊天、写作、写代码、分析数据、翻译及教育辅导，理解能力强，学习速度快，多场景适用，未来潜力无限。

下载地址

下载地址：https://ollama.com/download/windows

非C盘安装

在CMD窗口输入

.\OllamaSetup.exe /DIR=F:\llm\OLLAMA

在这里插入图片描述
安装完成可以在系统右下角看到ollama
在这里插入图片描述
目录大小4.7G
在这里插入图片描述

验证是否安装成功

netstat -ano | findstr 11434

输入ollama -h可以查看其它命令

配置大模型目录

我们现在的模型目录，默认是在C盘，如果C盘空间不够大，需要把它转移到其它位置。
在这里插入图片描述
复制文件到新目录
在这里插入图片描述

新建一个环境变量

OLLAMA_MODELS ：F:\llm\OLLAMA_MODELS

在这里插入图片描述
删除原文件

rm -rf "C:\Users\MagicBook\.ollama"

一定要重启操作系统，确保环境变量生效！！！

大模型下载

安装deepseek-r1:1.5b

在ollama library页面可以看到ollama可以下载的模型。
在这里插入图片描述
在命令行窗口运行命令就可以自动下载并运行。

ollama run deepseek-r1:1.5b

数字后面的b是billion，十亿的意思。
在这里插入图片描述

所以 ，网络主播们说的deepseek-r1:671b是一个671亿参数的大模型是错误的，应该是6710亿。

deepseek-r1:1.5b：这是一个参数量为 15 亿（1.5 billion） 的模型
deepseek-r1:7b：这是一个参数量为 70 亿（7 billion） 的模型

在这里插入图片描述

大模型文件已经下载在指定盘符，但C盘依然有小部分文件生成，好在占用空间不大。
在这里插入图片描述
在这里插入图片描述
小模型效果似乎并不理想。

安装deepseek-r1:7b

ollama run deepseek-r1:7b

在这里插入图片描述
在这里插入图片描述

ChatBox安装

下载ChatBox
在这里插入图片描述
设置

模型提供方：OLLAMA API
API域名：http://127.0.0.1:11434
模型：deepseek-r1:7b
上下文的消息数量上限：10
严谨与想象(Temperature)：0.7

保存

在这里插入图片描述

参考资料

AMD 显卡 部署deep seek记录及踩坑（windows 10）
关于ollama非C盘安装以及模型非C盘存放方式
AMD ollama显卡调用方案
自定义Ollama安装路径

Logo
AI Agent技术社区

Agent 垂直技术社区，欢迎活跃、内容共建。

更多推荐

让 Codex 桌面版拥抱 DeepSeek-V4：协议桥接与模型网关接入实践

4SAPI 提供了一套标准的 Chat Completions 接口，完全兼容 DeepSeek V4 Pro 等模型，使用时只需将 base URL 和密钥替换为平台分配的值即可。这样一来，既保留了桥接层的协议转换能力，又获得了网关带来的额外弹性。这样的模型网关，则进一步提升了链路的稳定性和密钥管理的便捷度，尤其适合团队或对服务可用性有更高要求的场景。│Codex 桌面版│ ──────────

avatar AI Agent技术社区
cover

别再迷信“突破限制”：Gemini 3.5-flash 边界测试实战复盘

avatar AI Agent技术社区

Hermes Agent 上下文压缩机制深度剖析：长对话场景下的有损压缩策略

大语言模型的上下文窗口是有限资源。在长对话场景中，Token 数量不可避免地逼近模型的上下文长度上限，此时系统面临两难选择：截断历史导致信息丢失，或超出限制导致 API 报错。Hermes Agent 的上下文压缩引擎（`ContextCompressor`）实现了一套三阶段有损压缩算法，在保持对话连续性的同时将 Token 消耗控制在安全阈值内。本文从源码层面详细分析该机制的算法设计、边界处理、

avatar AI Agent技术社区