这里我来分享一下，如何使用 ollama 和 cherry studio 还有 MCP 搭建本地的 aiagent 以及 本地知识库。

让你在离线的情况下，可以在本地使用 大模型，为自己干一些事情。

在开始前我们先来 快速扫盲一下。

一: AI 核心概念通俗详解：

现在想象一下下面的场景：

核心隐喻：
想象你刚买了一套毛坯房，现在你要雇佣一个 “全能装修队” 来干活。

  • 你 = 房东 (User)
  • AI 软件 = 装修公司

1. 角色与概念对照表

1. AI 模型 (AI Model)

  • 角色比喻： 瘫痪的天才设计师
  • 通俗解释： 装修队的智力核心。他读过全世界的图纸，智商极高，但身体动不了，被锁在小黑屋里，只能靠“说话”指挥。
  • 主流代表： DeepSeek-V3, GPT-4o, Claude 3.5 Sonnet。
  • 局限性： 如果不给他工具，他甚至不知道今天几号。

2. System Prompt (系统提示词)

  • 角色比喻： 员工守则 / 入职合同
  • 通俗解释： 这是房东（或开发商）在设计师入职第一天写在墙上的死规定。
  • 举例： “不管房东问什么，必须用中文回答”、“你是一个严谨的律师，不能开玩笑”。
  • 作用： 给设计师的大脑装上“紧箍咒”，规定人设和底线。

3. User Prompt (用户提示词)

  • 角色比喻： 房东的点菜单
  • 通俗解释： 你走进房间对装修队喊的那句话。
  • 举例： “把客厅的灯换成更亮的”、“帮我算一下预算够不够”。
  • 作用： 启动整个工作的开关。

4. Function Calling (函数调用)

  • 角色比喻： 设计师开出的施工单
  • 通俗解释： 设计师（AI）意识到光靠脑子想不出来（比如“现在几点了”），必须用工具时，他写的一张请求纸条。
  • 注意： 这只是一个“请求”，设计师自己没有手，他需要别人帮他递工具。
  • 关键点： 让 AI 从“只会聊天”变成“能想办法动手”。

5. MCP Client (MCP 客户端)

  • 角色比喻： 装修队包工头 / 现场经理
  • 通俗解释： 你直接面对的那个软件界面。他身体健康，跑上跑下，连接所有人。
  • 职责：
    1. 听你的命令（User Prompt）。
    2. 传话给设计师（Model）。
    3. 看到设计师的施工单（Function Calling）后，亲自去拿工具干活。
  • 主流代表： Cherry Studio, Claude Desktop, Cursor。

6. MCP Server (MCP 服务端)

  • 角色比喻： 专业分包商 / 专用工具箱
  • 通俗解释： 包工头（Client）手里拿的具体工具。
  • 举例：
    • Filesystem Server = 档案柜钥匙（读取你电脑里的文件）。
    • Fetch Server = 联网手机（去互联网搜索信息）。
    • SQLite Server = 仓库账本（查询数据库）。
  • 作用： 真正干脏活累活的接口。

7. AI Agent (智能体)

  • 角色比喻： 整个全能装修团队
  • 通俗解释： 上面所有东西的集合体。
  • 公式： Agent = 大脑(模型) + 手脚(工具/MCP) + 记忆 + 规划能力
  • 能力： 能够独立完成复杂的、多步骤的任务（例如：“调研某公司并写出报告，存为PDF”）。

2. 它们是如何配合干活的？（工作流演示）

场景： 你对 Cherry Studio 说：“帮我读一下 D盘/预算.xlsx，看看买 5000 块的沙发会不会超支？”

  1. User Prompt (你)： 下达指令。
  2. MCP Client (包工头)： 把指令传给 AI 模型 (设计师)。
  3. AI 模型 (设计师)： 思考后发现自己看不到硬盘，于是写下 Function Calling (施工单)：“请求调用 读取文件 功能”。
  4. MCP Client (包工头)： 收到单子，拿出 MCP Server (档案柜钥匙)，打开 D 盘读取数据：“剩余预算 4000 元”。
  5. MCP Client (包工头)： 把数据回报给 AI 模型 (设计师)。
  6. AI 模型 (设计师)： 脑子计算：5000 > 4000，结论是超支。
  7. 最终回复： “老板，买这个沙发会超支 1000 块，建议换个便宜的。”

3. 为什么要用 MCP？(标准化协议的意义)

在 MCP 出现之前，每个软件（包工头）用的螺丝刀规格都不一样。

  • 想让 A 软件读文件，得写一套代码。
  • 想让 B 软件读文件，得重写一套代码。

MCP (Model Context Protocol) 就像是规定了 “USB 接口标准”。

  • 只要你有一个 MCP Server（比如读文件的工具），不管是插在 Cherry Studio 上，还是插在 Claude 上，即插即用。
  • 总结： 它是连接 AI 大脑和外部数据的通用万能插座。

4. 现阶段主流工具推荐 (小白入门)

如果你想自己在电脑上搭建这一套，推荐以下组合：

类别 推荐工具 说明
大脑 (Model) DeepSeek-V3 目前性价比最高的模型，聪明且便宜（甚至开源免费）。
本地引擎 Ollama “保姆车”。帮你把 DeepSeek 这种大模型下载并运行在你自己的电脑上。
包工头 (Client) Cherry Studio “精美中控台”。颜值高，支持 MCP，支持连 Ollama，对小白最友好的界面。
工具 (Server) Filesystem / Search 通常在 Cherry Studio 里配置，赋予 AI 读文件和联网的能力。

一句话总结：
用 Ollama 运行模型，用 Cherry Studio 当操作界面，通过 MCP 挂载各种工具，你就拥有了一个属于自己的超级 AI Agent。

二: 相关软件安装和配置

有了第一小节的扫盲，本节从 安装对应的软件开始实战吧。

1. nodejs npm 安装

使用命令行安装:

# 下载并安装 nvm：
curl -o- https://raw.githubusercontent.com/nvm-sh/nvm/v0.40.3/install.sh | bash

# 代替重启 shell
\. "$HOME/.nvm/nvm.sh"

# 下载并安装 Node.js：
nvm install 24

# 验证 Node.js 版本：
node -v # Should print "v24.12.0".

# 验证 npm 版本：
npm -v # Should print "11.6.2".

或者直接从官网下载

https://nodejs.org/zh-cn/download
在这里插入图片描述

在.bashrc 中配置以下系统环境变量

export PATH=$PATH:/home/leo/sda_1.6t/bin/node-v24.12.0-linux-x64/bin

在命令行查看软件版本:

❯ node -v
v24.12.0
❯ npm -v
11.6.2

2. ollama 安装


# 建议使用这个， 不过 ollama 版本不是最新的
curl -fsSl https://chfs.sxxpqp.top:8443/chfs/shared/ai/ollama/install.sh | sh


# 这个是最新的，下载比较慢
curl -fsSL https://ollama.com/install.sh | sh

ollama 模型搜索地址

https://ollama.com/library/bge-m3

还有一种安装方法：

  • 从github 下载对应的 ollama-linux-amd64.tar.zst
  • 使用下面的脚步从本地安装
#!/bin/sh
# This script installs Ollama on Linux and macOS.
# It detects the current operating system architecture and installs the appropriate version of Ollama.

# Wrap script in main function so that a truncated partial download doesn't end
# up executing half a script.
main() {

set -eu

red="$( (/usr/bin/tput bold || :; /usr/bin/tput setaf 1 || :) 2>&-)"
plain="$( (/usr/bin/tput sgr0 || :) 2>&-)"

status() { echo ">>> $*" >&2; }
error() { echo "${red}ERROR:${plain} $*"; exit 1; }
warning() { echo "${red}WARNING:${plain} $*"; }

TEMP_DIR=$(mktemp -d)
cleanup() { rm -rf $TEMP_DIR; }
trap cleanup EXIT

available() { command -v $1 >/dev/null; }
require() {
    local MISSING=''
    for TOOL in $*; do
        if ! available $TOOL; then
            MISSING="$MISSING $TOOL"
        fi
    done

    echo $MISSING
}

OS="$(uname -s)"
ARCH=$(uname -m)
case "$ARCH" in
    x86_64) ARCH="amd64" ;;
    aarch64|arm64) ARCH="arm64" ;;
    *) error "Unsupported architecture: $ARCH" ;;
esac

VER_PARAM="${OLLAMA_VERSION:+?version=$OLLAMA_VERSION}"

###########################################
# macOS
###########################################

if [ "$OS" = "Darwin" ]; then
    NEEDS=$(require curl unzip)
    if [ -n "$NEEDS" ]; then
        status "ERROR: The following tools are required but missing:"
        for NEED in $NEEDS; do
            echo "  - $NEED"
        done
        exit 1
    fi

    DOWNLOAD_URL="https://ollama.com/download/Ollama-darwin.zip${VER_PARAM}"

    if pgrep -x Ollama >/dev/null 2>&1; then
        status "Stopping running Ollama instance..."
        pkill -x Ollama 2>/dev/null || true
        sleep 2
    fi

    if [ -d "/Applications/Ollama.app" ]; then
        status "Removing existing Ollama installation..."
        rm -rf "/Applications/Ollama.app"
    fi

    status "Downloading Ollama for macOS..."
    curl --fail --show-error --location --progress-bar \
        -o "$TEMP_DIR/Ollama-darwin.zip" "$DOWNLOAD_URL"

    status "Installing Ollama to /Applications..."
    unzip -q "$TEMP_DIR/Ollama-darwin.zip" -d "$TEMP_DIR"
    mv "$TEMP_DIR/Ollama.app" "/Applications/"

    if [ ! -L "/usr/local/bin/ollama" ] || [ "$(readlink "/usr/local/bin/ollama")" != "/Applications/Ollama.app/Contents/Resources/ollama" ]; then
        status "Adding 'ollama' command to PATH (may require password)..."
        mkdir -p "/usr/local/bin" 2>/dev/null || sudo mkdir -p "/usr/local/bin"
        ln -sf "/Applications/Ollama.app/Contents/Resources/ollama" "/usr/local/bin/ollama" 2>/dev/null || \
            sudo ln -sf "/Applications/Ollama.app/Contents/Resources/ollama" "/usr/local/bin/ollama"
    fi

    if [ -z "${OLLAMA_NO_START:-}" ]; then
        status "Starting Ollama..."
        open -a Ollama --args hidden
    fi

    status "Install complete. You can now run 'ollama'."
    exit 0
fi

###########################################
# Linux
###########################################

[ "$OS" = "Linux" ] || error 'This script is intended to run on Linux and macOS only.'

IS_WSL2=false

KERN=$(uname -r)
case "$KERN" in
    *icrosoft*WSL2 | *icrosoft*wsl2) IS_WSL2=true;;
    *icrosoft) error "Microsoft WSL1 is not currently supported. Please use WSL2 with 'wsl --set-version <distro> 2'" ;;
    *) ;;
esac

SUDO=
if [ "$(id -u)" -ne 0 ]; then
    # Running as root, no need for sudo
    if ! available sudo; then
        error "This script requires superuser permissions. Please re-run as root."
    fi

    SUDO="sudo"
fi

NEEDS=$(require curl awk grep sed tee xargs)
if [ -n "$NEEDS" ]; then
    status "ERROR: The following tools are required but missing:"
    for NEED in $NEEDS; do
        echo "  - $NEED"
    done
    exit 1
fi

# Function to download and extract with fallback from zst to tgz
download_and_extract() {
    local url_base="$1"
    local dest_dir="$2"
    local filename="$3"

    # Check if .tar.zst is available
    if curl --fail --silent --head --location "${url_base}/${filename}.tar.zst${VER_PARAM}" >/dev/null 2>&1; then
        # zst file exists - check if we have zstd tool
        if ! available zstd; then
            error "This version requires zstd for extraction. Please install zstd and try again:
  - Debian/Ubuntu: sudo apt-get install zstd
  - RHEL/CentOS/Fedora: sudo dnf install zstd
  - Arch: sudo pacman -S zstd"
        fi

        status "Downloading ${filename}.tar.zst"
        curl --fail --show-error --location --progress-bar \
            "${url_base}/${filename}.tar.zst${VER_PARAM}" | \
            zstd -d | $SUDO tar -xf - -C "${dest_dir}"
        return 0
    fi

    # Fall back to .tgz for older versions
    status "Downloading ${filename}.tgz"
    curl --fail --show-error --location --progress-bar \
        "${url_base}/${filename}.tgz${VER_PARAM}" | \
        $SUDO tar -xzf - -C "${dest_dir}"
}

for BINDIR in /usr/local/bin /usr/bin /bin; do
    echo $PATH | grep -q $BINDIR && break || continue
done
OLLAMA_INSTALL_DIR=$(dirname ${BINDIR})

if [ -d "$OLLAMA_INSTALL_DIR/lib/ollama" ] ; then
    status "Cleaning up old version at $OLLAMA_INSTALL_DIR/lib/ollama"
    $SUDO rm -rf "$OLLAMA_INSTALL_DIR/lib/ollama"
fi
status "Installing ollama to $OLLAMA_INSTALL_DIR"
$SUDO install -o0 -g0 -m755 -d $BINDIR
$SUDO install -o0 -g0 -m755 -d "$OLLAMA_INSTALL_DIR/lib/ollama"
status "Extracting from local file..."
zstd -d -c ./ollama-linux-amd64.tar.zst | $SUDO tar -xf - -C "$OLLAMA_INSTALL_DIR"

if [ "$OLLAMA_INSTALL_DIR/bin/ollama" != "$BINDIR/ollama" ] ; then
    status "Making ollama accessible in the PATH in $BINDIR"
    $SUDO ln -sf "$OLLAMA_INSTALL_DIR/ollama" "$BINDIR/ollama"
fi

# Check for NVIDIA JetPack systems with additional downloads
if [ -f /etc/nv_tegra_release ] ; then
    if grep R36 /etc/nv_tegra_release > /dev/null ; then
        download_and_extract "https://ollama.com/download" "$OLLAMA_INSTALL_DIR" "ollama-linux-${ARCH}-jetpack6"
    elif grep R35 /etc/nv_tegra_release > /dev/null ; then
        download_and_extract "https://ollama.com/download" "$OLLAMA_INSTALL_DIR" "ollama-linux-${ARCH}-jetpack5"
    else
        warning "Unsupported JetPack version detected.  GPU may not be supported"
    fi
fi

install_success() {
    status 'The Ollama API is now available at 127.0.0.1:11434.'
    status 'Install complete. Run "ollama" from the command line.'
}
trap install_success EXIT

# Everything from this point onwards is optional.

configure_systemd() {
    if ! id ollama >/dev/null 2>&1; then
        status "Creating ollama user..."
        $SUDO useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
    fi
    if getent group render >/dev/null 2>&1; then
        status "Adding ollama user to render group..."
        $SUDO usermod -a -G render ollama
    fi
    if getent group video >/dev/null 2>&1; then
        status "Adding ollama user to video group..."
        $SUDO usermod -a -G video ollama
    fi

    status "Adding current user to ollama group..."
    $SUDO usermod -a -G ollama $(whoami)

    status "Creating ollama systemd service..."
    cat <<EOF | $SUDO tee /etc/systemd/system/ollama.service >/dev/null
[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=$BINDIR/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"

[Install]
WantedBy=default.target
EOF
    SYSTEMCTL_RUNNING="$(systemctl is-system-running || true)"
    case $SYSTEMCTL_RUNNING in
        running|degraded)
            status "Enabling and starting ollama service..."
            $SUDO systemctl daemon-reload
            $SUDO systemctl enable ollama

            start_service() { $SUDO systemctl restart ollama; }
            trap start_service EXIT
            ;;
        *)
            warning "systemd is not running"
            if [ "$IS_WSL2" = true ]; then
                warning "see https://learn.microsoft.com/en-us/windows/wsl/systemd#how-to-enable-systemd to enable it"
            fi
            ;;
    esac
}

if available systemctl; then
    configure_systemd
fi

# WSL2 only supports GPUs via nvidia passthrough
# so check for nvidia-smi to determine if GPU is available
if [ "$IS_WSL2" = true ]; then
    if available nvidia-smi && [ -n "$(nvidia-smi | grep -o "CUDA Version: [0-9]*\.[0-9]*")" ]; then
        status "Nvidia GPU detected."
    fi
    install_success
    exit 0
fi

# Don't attempt to install drivers on Jetson systems
if [ -f /etc/nv_tegra_release ] ; then
    status "NVIDIA JetPack ready."
    install_success
    exit 0
fi

# Install GPU dependencies on Linux
if ! available lspci && ! available lshw; then
    warning "Unable to detect NVIDIA/AMD GPU. Install lspci or lshw to automatically detect and install GPU dependencies."
    exit 0
fi

check_gpu() {
    # Look for devices based on vendor ID for NVIDIA and AMD
    case $1 in
        lspci)
            case $2 in
                nvidia) available lspci && lspci -d '10de:' | grep -q 'NVIDIA' || return 1 ;;
                amdgpu) available lspci && lspci -d '1002:' | grep -q 'AMD' || return 1 ;;
            esac ;;
        lshw)
            case $2 in
                nvidia) available lshw && $SUDO lshw -c display -numeric -disable network | grep -q 'vendor: .* \[10DE\]' || return 1 ;;
                amdgpu) available lshw && $SUDO lshw -c display -numeric -disable network | grep -q 'vendor: .* \[1002\]' || return 1 ;;
            esac ;;
        nvidia-smi) available nvidia-smi || return 1 ;;
    esac
}

if check_gpu nvidia-smi; then
    status "NVIDIA GPU installed."
    exit 0
fi

if ! check_gpu lspci nvidia && ! check_gpu lshw nvidia && ! check_gpu lspci amdgpu && ! check_gpu lshw amdgpu; then
    install_success
    warning "No NVIDIA/AMD GPU detected. Ollama will run in CPU-only mode."
    exit 0
fi

if check_gpu lspci amdgpu || check_gpu lshw amdgpu; then
    download_and_extract "https://ollama.com/download" "$OLLAMA_INSTALL_DIR" "ollama-linux-${ARCH}-rocm"

    install_success
    status "AMD GPU ready."
    exit 0
fi

CUDA_REPO_ERR_MSG="NVIDIA GPU detected, but your OS and Architecture are not supported by NVIDIA.  Please install the CUDA driver manually https://docs.nvidia.com/cuda/cuda-installation-guide-linux/"
# ref: https://docs.nvidia.com/cuda/cuda-installation-guide-linux/index.html#rhel-7-centos-7
# ref: https://docs.nvidia.com/cuda/cuda-installation-guide-linux/index.html#rhel-8-rocky-8
# ref: https://docs.nvidia.com/cuda/cuda-installation-guide-linux/index.html#rhel-9-rocky-9
# ref: https://docs.nvidia.com/cuda/cuda-installation-guide-linux/index.html#fedora
install_cuda_driver_yum() {
    status 'Installing NVIDIA repository...'
    
    case $PACKAGE_MANAGER in
        yum)
            $SUDO $PACKAGE_MANAGER -y install yum-utils
            if curl -I --silent --fail --location "https://developer.download.nvidia.com/compute/cuda/repos/$1$2/$(uname -m | sed -e 's/aarch64/sbsa/')/cuda-$1$2.repo" >/dev/null ; then
                $SUDO $PACKAGE_MANAGER-config-manager --add-repo https://developer.download.nvidia.com/compute/cuda/repos/$1$2/$(uname -m | sed -e 's/aarch64/sbsa/')/cuda-$1$2.repo
            else
                error $CUDA_REPO_ERR_MSG
            fi
            ;;
        dnf)
            if curl -I --silent --fail --location "https://developer.download.nvidia.com/compute/cuda/repos/$1$2/$(uname -m | sed -e 's/aarch64/sbsa/')/cuda-$1$2.repo" >/dev/null ; then
                $SUDO $PACKAGE_MANAGER config-manager --add-repo https://developer.download.nvidia.com/compute/cuda/repos/$1$2/$(uname -m | sed -e 's/aarch64/sbsa/')/cuda-$1$2.repo
            else
                error $CUDA_REPO_ERR_MSG
            fi
            ;;
    esac

    case $1 in
        rhel)
            status 'Installing EPEL repository...'
            # EPEL is required for third-party dependencies such as dkms and libvdpau
            $SUDO $PACKAGE_MANAGER -y install https://dl.fedoraproject.org/pub/epel/epel-release-latest-$2.noarch.rpm || true
            ;;
    esac

    status 'Installing CUDA driver...'

    if [ "$1" = 'centos' ] || [ "$1$2" = 'rhel7' ]; then
        $SUDO $PACKAGE_MANAGER -y install nvidia-driver-latest-dkms
    fi

    $SUDO $PACKAGE_MANAGER -y install cuda-drivers
}

# ref: https://docs.nvidia.com/cuda/cuda-installation-guide-linux/index.html#ubuntu
# ref: https://docs.nvidia.com/cuda/cuda-installation-guide-linux/index.html#debian
install_cuda_driver_apt() {
    status 'Installing NVIDIA repository...'
    if curl -I --silent --fail --location "https://developer.download.nvidia.com/compute/cuda/repos/$1$2/$(uname -m | sed -e 's/aarch64/sbsa/')/cuda-keyring_1.1-1_all.deb" >/dev/null ; then
        curl -fsSL -o $TEMP_DIR/cuda-keyring.deb https://developer.download.nvidia.com/compute/cuda/repos/$1$2/$(uname -m | sed -e 's/aarch64/sbsa/')/cuda-keyring_1.1-1_all.deb
    else
        error $CUDA_REPO_ERR_MSG
    fi

    case $1 in
        debian)
            status 'Enabling contrib sources...'
            $SUDO sed 's/main/contrib/' < /etc/apt/sources.list | $SUDO tee /etc/apt/sources.list.d/contrib.list > /dev/null
            if [ -f "/etc/apt/sources.list.d/debian.sources" ]; then
                $SUDO sed 's/main/contrib/' < /etc/apt/sources.list.d/debian.sources | $SUDO tee /etc/apt/sources.list.d/contrib.sources > /dev/null
            fi
            ;;
    esac

    status 'Installing CUDA driver...'
    $SUDO dpkg -i $TEMP_DIR/cuda-keyring.deb
    $SUDO apt-get update

    [ -n "$SUDO" ] && SUDO_E="$SUDO -E" || SUDO_E=
    DEBIAN_FRONTEND=noninteractive $SUDO_E apt-get -y install cuda-drivers -q
}

if [ ! -f "/etc/os-release" ]; then
    error "Unknown distribution. Skipping CUDA installation."
fi

. /etc/os-release

OS_NAME=$ID
OS_VERSION=$VERSION_ID

PACKAGE_MANAGER=
for PACKAGE_MANAGER in dnf yum apt-get; do
    if available $PACKAGE_MANAGER; then
        break
    fi
done

if [ -z "$PACKAGE_MANAGER" ]; then
    error "Unknown package manager. Skipping CUDA installation."
fi

if ! check_gpu nvidia-smi || [ -z "$(nvidia-smi | grep -o "CUDA Version: [0-9]*\.[0-9]*")" ]; then
    case $OS_NAME in
        centos|rhel) install_cuda_driver_yum 'rhel' $(echo $OS_VERSION | cut -d '.' -f 1) ;;
        rocky) install_cuda_driver_yum 'rhel' $(echo $OS_VERSION | cut -c1) ;;
        fedora) [ $OS_VERSION -lt '39' ] && install_cuda_driver_yum $OS_NAME $OS_VERSION || install_cuda_driver_yum $OS_NAME '39';;
        amzn) install_cuda_driver_yum 'fedora' '37' ;;
        debian) install_cuda_driver_apt $OS_NAME $OS_VERSION ;;
        ubuntu) install_cuda_driver_apt $OS_NAME $(echo $OS_VERSION | sed 's/\.//') ;;
        *) exit ;;
    esac
fi

if ! lsmod | grep -q nvidia || ! lsmod | grep -q nvidia_uvm; then
    KERNEL_RELEASE="$(uname -r)"
    case $OS_NAME in
        rocky) $SUDO $PACKAGE_MANAGER -y install kernel-devel kernel-headers ;;
        centos|rhel|amzn) $SUDO $PACKAGE_MANAGER -y install kernel-devel-$KERNEL_RELEASE kernel-headers-$KERNEL_RELEASE ;;
        fedora) $SUDO $PACKAGE_MANAGER -y install kernel-devel-$KERNEL_RELEASE ;;
        debian|ubuntu) $SUDO apt-get -y install linux-headers-$KERNEL_RELEASE ;;
        *) exit ;;
    esac

    NVIDIA_CUDA_VERSION=$($SUDO dkms status | awk -F: '/added/ { print $1 }')
    if [ -n "$NVIDIA_CUDA_VERSION" ]; then
        $SUDO dkms install $NVIDIA_CUDA_VERSION
    fi

    if lsmod | grep -q nouveau; then
        status 'Reboot to complete NVIDIA CUDA driver install.'
        exit 0
    fi

    $SUDO modprobe nvidia
    $SUDO modprobe nvidia_uvm
fi

# make sure the NVIDIA modules are loaded on boot with nvidia-persistenced
if available nvidia-persistenced; then
    $SUDO touch /etc/modules-load.d/nvidia.conf
    MODULES="nvidia nvidia-uvm"
    for MODULE in $MODULES; do
        if ! grep -qxF "$MODULE" /etc/modules-load.d/nvidia.conf; then
            echo "$MODULE" | $SUDO tee -a /etc/modules-load.d/nvidia.conf > /dev/null
        fi
    done
fi

status "NVIDIA GPU ready."
install_success
}

main

安装对应的模型

ollama pull bge-m3:latest  # 由于将本地知识 向量化的模型， 方便检索
ollama pull qwen3:8b

这是我本地安装的模型

❯ ollama list
NAME                   ID              SIZE      MODIFIED     
bge-m3:latest          790764642607    1.2 GB    3 hours ago     
qwen2.5:7b-instruct    845dbda0ea48    4.7 GB    17 hours ago    
qwen2-math:latest      28cc3a337734    4.4 GB    17 hours ago    
deepseek-coder:6.7b    ce298d984115    3.8 GB    17 hours ago

卸载可以参考如下:

  sudo systemctl stop ollama
  sudo systemctl disable ollama
  sudo rm /etc/systemd/system/ollama.service
  sudo rm $(which ollama)
  sudo rm -r /usr/share/ollama
  sudo userdel ollama
  sudo groupdel ollama

ollama 默认linux模型安装位置：
/usr/share/ollama/.ollama/models

3. Cherry Studio 下载安装

https://www.cherry-ai.com/download

在这里插入图片描述

下载完成后，直接启动即可

Cherry-Studio-1.7.13-x86_64.AppImage

1. 使用 ollama 模型

在这里插入图片描述

在这里插入图片描述
现在就可以使用本地模型进行对话了

在这里插入图片描述

2. MCP

1. UV 和 Bun 安装

cherry studio 只使用自己的 UV 和 Bun
直接点击安装即可:
在这里插入图片描述
没有安装成功的 3 这里会是一个红色的小图标

下面是安装成功后的

在这里插入图片描述

2. 配置 mcp 服务器

github 开源的一些 mcp server

1. Filesystem

Filesystem 可以帮助我们操作 本地文件浏览器:

在这里插入图片描述

在这里插入图片描述

{
  "mcpServers": {
    "filesystem": {
      "command": "npx",
      "args": [
        "-y",
        "@modelcontextprotocol/server-filesystem",
        "/Users/username/Desktop",
        "/path/to/other/allowed/dir"
      ]
    }
  }
}

在这里插入图片描述

在这里插入图片描述

2. firecrawl-mcp

firecrawl-mcp 是一个爬虫工具

先要申请api-key

同样的使用 json 的方式，配置该 服务。YOUR_API_KEY 需要替换 自己的 key

{
  "mcpServers": {
    "mcp-server-firecrawl": {
      "command": "npx",
      "args": ["-y", "firecrawl-mcp"],
      "env": {
        "FIRECRAWL_API_KEY": "YOUR_API_KEY"
      }
    }
  }
}
3. shell-mcp

让我们的 aiagent 可以操作 本地 shell

我们可以通过 快速创建的方式 手动加

在这里插入图片描述

在这里插入图片描述

三: 测试我们的 aiagent

在第二节，软件的安装和配置中，我们其实已经搭建好了 我们的aiagent.

本节就来测试一下效果:

1. 帮我在本地写一个 c 代码

在这里插入图片描述
在这里插入图片描述

2. 查看 当前电脑的配置

此时会ai 会调用本地的 shell 命令

在这里插入图片描述

和我本地是一样的

当前电脑配置信息
🖥️ 系统信息
操作系统: Linux 6.14.0-37-generic
CPU架构: x64 (64位)
主机名: leo
系统运行时间: 8 小时
⚡ 处理器信息
CPU型号: Intel(R) Core(TM) i7-10750H CPU @ 2.60GHz
CPU核心数: 12 核
CPU频率: 4414 GHz
💾 内存信息
内存总量: 15 GB
内存可用: 8 GB
🌐 网络信息
网络接口: wlo1: 192.168.166.102
📊 配置总结
您的电脑是一台 Linux 系统，配置相当不错：

处理器: Intel Core i7-10750H (高性能移动处理器)
内存: 15GB (可用 8GB，使用率约 47%)
网络: 有线/无线网络连接正常
运行状态: 系统运行稳定，已运行 8 小时
这是一个性能不错的开发环境，适合编程和开发工作！

3. 抓取网站 数据

抓取 https://llm-stats.com/ 网站 的 Ai 模型排行榜数据， 整理一个表格

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

四: 搭建 个人知识库

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

将你的 文档 拖着到这里就可以了
在这里插入图片描述

此时 ， 模型就可以学习了。

在这里插入图片描述

在这里插入图片描述

# 人工智能
Logo
AI Agent技术社区

Agent 垂直技术社区，欢迎活跃、内容共建。

更多推荐

cover

【花雕动手做】行空板 K10 系列实验之人工智能调用语音合成（TTS）模块

avatar AI Agent技术社区
cover

苏州企业AI Agent智能体从概念到落地：2026年开发者必须关注的技术范式与工程实践

avatar AI Agent技术社区
cover

GitHub 狂揽 4万+ Star！这个项目直接让你省下 60–95% 的 Token

avatar AI Agent技术社区