一、先决条件

        自己的电脑/服务器,配置有多高是多高。

        vscode,大家应该都有吧,这次用来给文件夹一键换源

二、开始部署

        1.下载LM Studio软件

去 LM Studio 官网,找到适配自己系统的版本,疯狂 “下一步” 完成安装。

笔者用版本0.3.9-6-x64。LM操作是最简单的,适合大家入门。

        2.换源

由于hugging face实在太卡经常进不去,大家直接换成国内镜像,下载快,轻松加载

首先找到LM Studio安装文件夹

拖拽至vsc图标上,用vscode打开,点击搜索

将文件夹中全部的huggingface.co替换为hf-mirror.com,进行全局替换

        3.搜索并下载deepseek模型(量力而为)

给大家优先推荐几个模型

(一)1.5B 参数:入门友好型

        适合配置普通的电脑,像只有 4GB 左右 RAM,显卡是集成的(比如 NVIDIA GTX 1050 这种),或者用现代 CPU 的电脑。处理简单任务绰绰有余,像基础文本处理、简单代码补全等,轻松拿捏。

(二)7/8B 参数:中级进阶型

        8 - 10GB 的 RAM,搭配 NVIDIA GTX 1660 以上的独立显卡,或者好一点的集显,基本就能带得动。适用于处理稍微复杂点的任务,比如小型项目开发、数据分析脚本编写等。

(三)70B 参数:高端发烧型(一般电脑带不动的)

        想要玩转这个版本,电脑至少得有 40GB RAM,显卡得是 NVIDIA RTX 3090 及以上的 “顶配”。像大型项目架构设计、复杂算法优化这类高难度任务,它才能发挥出真正实力。

搜索选择适合自己的模型下载,下载后直接点击就可以开始部署

        4.开始chat

完结撒花,新年希望大家暴富,路过看官可以点个赞,谢谢!

元宵节快乐。

Logo

Agent 垂直技术社区,欢迎活跃、内容共建。

更多推荐