1. 项目概述：为什么要在本地运行DeepSeek并与MATLAB联动？

作为一名长期在科学计算和算法开发一线工作的工程师，我最近被一个需求“卡”住了：手头有一个复杂的数值仿真项目，核心算法用MATLAB写得非常成熟，但其中涉及的自然语言处理（NLP）任务，比如从实验报告文本中自动提取参数、理解用户用自然语言描述的模型调整指令，用MATLAB原生工具处理起来既笨重效果又一般。与此同时，像DeepSeek这类大型语言模型（LLM）在代码生成、逻辑推理和文本理解上展现出的能力让人无法忽视。于是，一个很自然的想法冒了出来：能不能让MATLAB这个“计算引擎”和DeepSeek这个“智能大脑”联手干活？

这个项目的核心，就是探索如何将DeepSeek模型部署在本地计算机上，并建立起它与MATLAB之间的通信桥梁。这绝不是简单调用一个在线API那么简单。本地部署意味着数据不出域、响应延迟低、可完全定制化，对于处理涉密科研数据或需要高频交互的场景至关重要。而MATLAB作为工程和科研领域的“瑞士军刀”，其强大的矩阵运算、可视化能力和丰富的工具箱，与LLM的语义能力结合，能催生出许多前所未有的自动化工作流，比如智能数据分析助手、基于自然语言的仿真参数配置、自动报告生成等等。

简单来说，这相当于给你的MATLAB实验室配备了一位24小时在线的、精通多门学科的AI研究员助理。接下来，我将详细拆解从零开始实现这一目标的完整路径，包括模型选择、本地部署、通信接口搭建以及实战应用案例。无论你是MATLAB资深用户，还是对LLM本地应用感兴趣的开发者，这份指南都将提供可直接复现的步骤和避坑经验。

2. 核心方案选型与架构设计

在动手之前，我们必须厘清几个关键问题：用DeepSeek的哪个模型？以什么形式在本地运行？MATLAB又如何与它“对话”？这直接决定了后续所有工作的复杂度和最终效果。

2.1 模型版本与格式选择

DeepSeek官方提供了多个模型，例如 DeepSeek-V2 、 DeepSeek-Coder 等。对于本地部署，我们首要关注的是模型的开源情况和硬件需求。

  • 推荐选择：DeepSeek-Coder 或 DeepSeek-Math 系列的小规模版本 。例如 deepseek-coder-6.7b-instruct 。原因如下：
    1. 硬件友好 ：参数量为67亿的模型，在消费级GPU（如RTX 3090/4090， 24GB显存）上可以量化后流畅运行。如果只有CPU，虽然速度慢，但大内存（32GB+）机器也能跑起来。
    2. 任务匹配 ：我们的目标是与MATLAB联动，涉及大量代码生成、逻辑推理和数学问题，Coder或Math系列模型在这些任务上进行了专项优化，效果更精准。
    3. 格式通用 ：这些开源模型通常提供 gguf 格式。这是一种优化的模型格式，可以被绝大多数本地推理引擎（如 llama.cpp , Ollama ）直接加载，部署最简单。

注意 ：切勿尝试在个人电脑上部署千亿参数的全量模型。务必根据你的显卡显存选择模型尺寸。一个粗略的估算：FP16精度下，模型所需显存（GB）约为参数量（十亿）的两倍。 6.7B 的模型约需13.4GB显存。通过4-bit或5-bit量化，可以将显存需求降低到4-8GB，这对许多消费级显卡就变得可行了。

2.2 本地推理引擎选型

这是本地运行模型的核心软件。我们需要一个高效、易用、支持 gguf 格式并提供API的引擎。

  • 首选：Ollama 。它是我测试后最推荐给MATLAB用户的方案。

    • 优点 ：安装极其简单（一条命令），内置模型库，自动处理模型下载与转换。最关键的是，它原生提供了一个类OpenAI的HTTP API服务，这意味着MATLAB可以通过标准的HTTP请求与它通信，无需额外复杂的绑定。
    • 工作原理 ：Ollama在后台作为一个服务运行，加载你指定的模型。MATLAB通过发送HTTP POST请求到 http://localhost:11434/api/generate 来获取模型的生成结果。

  • 备选：llama.cpp 。

    • 优点 ：性能极致，量化支持最丰富，社区活跃。适合对推理速度有极致要求、愿意多花时间配置的进阶用户。
    • 缺点 ：需要自行编译或下载可执行文件，配置API服务需要额外的步骤（如使用 llama.cpp 的 server 示例），对新手门槛稍高。

本项目将基于Ollama进行 ，因为它能让我们快速聚焦于MATLAB与LLM联动的核心逻辑，而非陷入部署的泥潭。

2.3 MATLAB与Ollama的通信架构

整个系统的数据流非常清晰：

  1. MATLAB端 ：作为客户端和主控程序。它准备提示词（Prompt），通过内置的 webwrite 函数（或 matlab.net.http 包）向本地Ollama服务发送HTTP请求。
  2. Ollama服务端 ：运行在本地，监听特定端口（默认11434）。它接收请求，加载指定的DeepSeek模型进行推理，并将生成的文本结果封装成JSON格式返回。
  3. 通信协议 ：使用简单的RESTful API。MATLAB发送一个包含 model , prompt , stream (是否流式输出)等字段的JSON结构体。Ollama返回一个包含 response 字段的JSON结构体。

这种基于HTTP的松耦合架构好处明显：MATLAB和Ollama相互独立，可以分别升级或替换；你也可以在同一台机器上运行多个不同的模型服务，让MATLAB按需调用。

3. 详细实施步骤：从零搭建联动环境

现在，我们进入具体的实操环节。请严格按照顺序执行。

3.1 第一步：获取与准备DeepSeek模型文件

虽然Ollama可以自动拉取模型，但提前准备好模型文件能避免网络问题，也更可控。

  1. 访问模型仓库 ：前往Hugging Face等开源模型平台，搜索 deepseek-coder-6.7b-instruct-gguf 。你会找到很多由社区量化好的不同版本（如Q4_K_M, Q5_K_S等）。 Q4_K_M 在精度和速度上是一个很好的平衡点。
  2. 下载模型文件 ：选择一个可信的发布者，下载对应的 .gguf 文件。例如 deepseek-coder-6.7b-instruct.Q4_K_M.gguf 。
  3. 存放模型 ：在本地创建一个专用文件夹，如 C:\LLM_Models 或 ~/llm_models ，将下载的 .gguf 文件放入其中。记住这个路径。

3.2 第二步：安装与配置Ollama

Ollama的安装过程非常简单。

  1. 下载安装 ：访问Ollama官网，根据你的操作系统（Windows/macOS/Linux）下载安装包。Windows和macOS是图形化安装，Linux可通过命令行安装。
  2. 验证安装 ：打开终端（Windows为Command Prompt或PowerShell，macOS/Linux为Terminal），输入 ollama --version 。如果显示版本号，说明安装成功。
  3. 导入本地模型 （关键步骤）：Ollama默认从它的库拉取模型。我们需要让它使用我们下载的本地文件。
    • 在终端中，导航到你存放模型的目录。
    • 创建一个名为 Modelfile 的文本文件（无后缀），内容如下： 
      FROM ./deepseek-coder-6.7b-instruct.Q4_K_M.gguf
    • 在终端执行命令，创建自定义模型： 
      ollama create deepseek-coder-local -f ./Modelfile
      这条命令创建了一个名为 deepseek-coder-local 的模型，它指向我们本地的gguf文件。
  4. 运行模型服务 ：在终端中启动这个模型。 
    ollama run deepseek-coder-local
    首次运行会加载模型，稍等片刻。当出现 >>> 提示符时，说明模型已在交互模式下运行，同时HTTP API服务也在后台启动了（默认端口11434）。

实操心得 ：如果你希望Ollama在后台静默运行API服务，而不进入交互命令行，可以使用 ollama serve 命令启动服务，然后在另一个终端用 ollama run deepseek-coder-local 拉取模型到内存。但直接 ollama run 是最简单的一步到位方法。

3.3 第三步：在MATLAB中构建通信函数

这是项目的核心代码部分。我们需要在MATLAB中编写一个函数，用于向Ollama发送请求并解析回复。

  1. 创建MATLAB函数文件 ：新建一个 .m 文件，命名为 call_deepseek.m 。
  2. 编写核心函数 ： 
    function response = call_deepseek(prompt, model_name, varargin)
    % CALL_DEEPSEEK 调用本地Ollama服务的DeepSeek模型
    %   response = CALL_DEEPSEEK(prompt, model_name) 发送提示词，返回完整响应。
    %   response = CALL_DEEPSEEK(prompt, model_name, 'stream', true) 启用流式输出。
    %
    %   输入：
    %       prompt - 字符串，发送给模型的提示词。
    %       model_name - 字符串，Ollama中的模型名，如 'deepseek-coder-local'。
    %       varargin - 可选参数对，如 'stream', true。
    %   输出：
    %       response - 字符串，模型的回复内容。

    % 默认参数
    stream = false;
    for i = 1:2:length(varargin)
        switch lower(varargin{i})
            case 'stream'
                stream = varargin{i+1};
            otherwise
                warning('忽略未知参数: %s', varargin{i});
        end
    end

    % Ollama API 端点
    api_url = 'http://localhost:11434/api/generate';

    % 构建请求JSON数据
    request_body = struct();
    request_body.model = model_name;
    request_body.prompt = prompt;
    request_body.stream = stream;
    % 可以添加更多参数，如 temperature, top_p, num_predict等
    % request_body.options = struct('temperature', 0.7, 'num_predict', 512);

    % 将结构体转换为JSON字符串
    json_body = jsonencode(request_body);

    % 设置HTTP选项
    options = weboptions('MediaType', 'application/json', ...
                         'Timeout', 60, ... % 超时时间可根据需要调整
                         'RequestMethod', 'post');

    % 发送HTTP POST请求
    try
        if stream
            % 流式响应处理（进阶功能，此处简化）
            warning('流式输出模式需要更复杂的处理，本次返回完整响应。');
            raw_response = webwrite(api_url, json_body, options);
            response = raw_response.response;
        else
            % 标准非流式响应
            raw_response = webwrite(api_url, json_body, options);
            response = raw_response.response;
        end
    catch ME
        error('调用DeepSeek API失败: %s\n请确保Ollama服务正在运行，且模型名正确。', ME.message);
    end
end
  3. 测试连接 ：确保Ollama终端正在运行。在MATLAB命令窗口中执行： 
    test_prompt = '用MATLAB写一个函数，计算斐波那契数列的前N项。';
reply = call_deepseek(test_prompt, 'deepseek-coder-local');
disp(reply);
    如果一切正常，你将看到DeepSeek模型生成的MATLAB代码。这标志着桥梁已经打通！

4. 高级应用与实战场景解析

基础通信建立后，我们可以设计更强大的交互模式，将LLM深度集成到MATLAB工作流中。

4.1 场景一：智能代码生成与补全

这是最直接的应用。你可以在MATLAB编辑器中，通过快捷键调用一个脚本，将当前选中的代码或自然语言描述发送给DeepSeek，让它生成或优化代码。

实现思路 ：

  1. 创建一个MATLAB Live Script或App，包含一个文本输入框（用于描述需求）和一个代码输出区域。
  2. 编写提示词模板，将用户需求、上下文代码（可选）和指令（如“生成高效、带注释的MATLAB代码”）组合起来。
  3. 调用 call_deepseek 函数，将生成的代码直接插入到编辑器中或显示在输出区域。

示例提示词设计 ：

你是一个MATLAB专家。请根据以下需求生成代码。
需求：{用户输入的需求描述}
要求：
1. 代码必须高效，避免使用循环，优先使用向量化操作。
2. 添加详细的注释。
3. 函数接口定义为：function [output] = functionName(input)
请直接输出代码，不要额外解释。

4.2 场景二：自然语言驱动数据分析

假设你有一组数据 data 在MATLAB工作区，你想知道它的统计特性、适合的可视化方式，甚至建立预测模型。

实现思路 ：

  1. 数据上下文传递 ：这是难点。不能直接发送大量数据。解决方案是发送数据的 元信息和摘要统计 。 
    % 构建数据上下文字符串
data_info = sprintf('变量名: data。尺寸: %s。数据类型: %s。前5行示例: %s。摘要统计：均值=%.2f, 标准差=%.2f。', ...
    mat2str(size(data)), class(data), mat2str(data(1:min(5,end), :)), mean(data(:)), std(data(:))));
  2. 组合提示词 ： 
    你是一个数据分析助手。我有一段数据，信息如下：{data_info}。
我的问题是：{用户的问题，例如“这组数据有什么特点？用什么图可视化最好？”}
请用专业但简洁的语言回答，并给出具体的MATLAB绘图函数建议。
  3. 将回答解析后，甚至可以进一步自动调用 eval 或 feval 来执行DeepSeek建议的绘图命令（需谨慎，确保安全）。

4.3 场景三：仿真参数智能配置与错误诊断

面对一个复杂的Simulink模型或仿真脚本，其中包含大量需要调节的参数。你可以用自然语言描述想要达到的效果（如“让系统超调量小于5%，调节时间加快”），让DeepSeek分析模型日志或代码，推荐需要调整的参数及其取值范围。

实现思路 ：

  1. 将模型的配置文件、关键代码片段或错误日志作为文本输入。
  2. 提示词示例： 
    以下是一个控制系统仿真脚本的部分代码和运行后的错误信息。
代码片段：{code_snippet}
错误信息：{error_log}
请分析可能的原因，并给出修改建议。如果需要调整PID参数，请给出具体的参数范围建议。
  3. 这种应用对模型的逻辑推理和领域知识要求较高，可能需要更专业的模型或进行提示词工程（Prompt Engineering）的精细调优。

5. 性能优化与调试技巧

本地部署的体验很大程度上取决于性能和稳定性。以下是一些关键优化点。

5.1 推理速度优化

  • 量化是王道 ：如果感觉速度慢，首先尝试更低比特的量化版本（如从Q5_K_M换到Q4_K_M甚至Q3_K_L）。这会在几乎不损失实用精度的前提下显著提升速度、降低显存占用。
  • 调整生成参数 ：在请求的 options 中设置 num_predict 来限制生成的最大令牌数，避免模型“喋喋不休”。对于代码补全，256-512通常足够。
  • 使用GPU加速 ：确保Ollama使用了GPU。在运行模型时，Ollama通常会自动检测并使用CUDA（NVIDIA）或Metal（macOS）。可以通过 ollama run deepseek-coder-local 的启动信息确认。

5.2 提示词工程技巧

与DeepSeek有效对话的关键在于写好提示词。

  • 角色设定 ：开头明确模型角色，如“你是一个严谨的MATLAB数值计算专家”。
  • 任务清晰 ：用指令性语言明确任务，如“请完成以下函数”、“请解释以下错误”。
  • 格式约束 ：要求模型以特定格式输出，如“将答案放在‘### ANSWER ###’之后”、“只输出JSON格式”。
  • 上下文管理 ：对于长对话，需要维护历史。可以在MATLAB中保存对话数组，每次将历史记录作为上下文的一部分发送。注意，这会增加令牌消耗，可能触发模型上下文长度限制。

5.3 常见错误排查

即使按照步骤操作，也可能会遇到问题。这里有一个快速排查清单：

问题现象 可能原因 解决方案
MATLAB报错：连接被拒绝 Ollama服务未启动 检查终端是否运行着 ollama run 命令。
API返回404错误 模型名称不正确 在终端执行 ollama list ，确认 deepseek-coder-local 是否存在。
响应速度极慢，CPU占用高 模型在CPU上运行，或量化程度低 确认GPU是否被使用。尝试下载更低比特的量化模型。
模型输出乱码或无关内容 提示词不清晰，或模型“幻觉” 优化提示词，增加约束。在请求中降低 temperature 参数值（如设为0.1）以减少随机性。
内存不足（OOM）错误 模型太大，或同时运行其他占用显存的程序 关闭不必要的程序。换用更小的模型（如1.3B或更低的量化版）。
生成的代码有语法错误 模型并非完美 将生成的代码视为“草稿”，在MATLAB中运行前需人工审查和调试。这是当前技术的局限性。

一个重要的安全提醒 ：由于MATLAB可以通过 eval 函数执行字符串代码， 绝对不要 在未经严格审查的情况下，直接执行模型生成的、尤其是涉及文件操作或系统调用的代码。始终应该在受控的沙盒环境或仔细检查后运行。

6. 扩展思路：构建更稳定的生产级集成

上述方法适合研究和原型开发。如果希望构建更稳定、可维护的集成，可以考虑以下方向：

  1. 封装成MATLAB类 ：将Ollama调用、对话历史管理、提示词模板等功能封装成一个MATLAB类（如 classdef DeepSeekClient ），提供 generateCode 、 analyzeData 等高级方法，使用起来更面向对象。
  2. 引入异步调用 ：对于长文本生成，使用MATLAB的异步HTTP请求或并行计算工具箱，避免界面卡死。
  3. 模型微调 ：如果拥有特定领域的MATLAB代码数据集，可以考虑对DeepSeek-Coder模型进行LoRA等方式的微调，使其生成的代码更符合你所在领域的规范或习惯。
  4. 结合MATLAB Production Server ：将核心的LLM交互逻辑部署为MATLAB Production Server上的一个RESTful服务，其他MATLAB客户端甚至其他编程语言都可以调用，实现企业级应用。

本地运行DeepSeek并与MATLAB联动，打开了一扇新的大门。它不仅仅是让MATLAB“能说话”，更是将符号计算、数值仿真与语义理解、创造性生成相结合的一次实践。我个人的体会是，初期最大的挑战往往不是技术实现，而是如何设计有效的提示词和交互流程，让AI真正理解工程师的意图。从简单的代码补全开始，逐步尝试更复杂的场景，你会不断发现这种结合的潜力。最后分享一个小技巧：为常用的提示词模板（如代码审查、数据可视化建议）在MATLAB中创建快捷方式或Live Script模板，能极大提升日常工作效率。这个组合工具的价值，会在你反复使用和磨合中变得越来越明显。

# DeepSeek
Logo
AI Agent技术社区

Agent 垂直技术社区，欢迎活跃、内容共建。

更多推荐

cover

【花雕动手做】行空板 K10 系列实验之人工智能调用语音合成（TTS）模块

avatar AI Agent技术社区
cover

苏州企业AI Agent智能体从概念到落地：2026年开发者必须关注的技术范式与工程实践

avatar AI Agent技术社区
cover

GitHub 狂揽 4万+ Star！这个项目直接让你省下 60–95% 的 Token

avatar AI Agent技术社区