把“智能厨房”搬进笔记本：端侧 AI 其实很简单

以前大家用大模型，总像是在“点外卖”。你想吃点什么（处理什么数据），得把食材打包送给云端的大厨，等人家做好了再送回来。虽然方便，但不仅得付服务费，最让人心里打鼓的是：你家的私密菜谱（敏感数据）全都经过别人的手，难免担心泄露。

现在，AMD 的新平台让咱们能在自己家里装个“智能厨房”。这就是端侧 AI——数据不出门，就在你自己的笔记本里跑。不用联网、不用付费，响应速度还比云端快。特别是搭载了 Ryzen AI 和 Radeon GPU 的新电脑，配合 AMD 最新的 AI Bundle 套件，把以前那些让人头大的环境配置全打包好了。哪怕你完全不懂代码，也能像安装普通软件一样，几分钟就把专属的本地 AI 助手搭起来。

从零开始：只需三步的“流水账”记录

咱们不整那些虚的，直接按时间线走一遍，你就知道有多简单。整个过程就像装个游戏一样直观。

第一步：下载与安装驱动
首先，去 AMD 官网的支持页面，找到对应你机型的驱动程序。认准 Adrenalin 26.1.1 或更高版本。下载安装包后双击运行，这时候别急着点“快速安装”，留意一下安装选项列表。你会看到一个叫 “AI Bundle” 的勾选框，大小大概 30 多 GB，一定要勾上！这个包里藏着 ROCm 加速核心、Ollama 管理工具和 LM Studio 可视化界面，是能让显卡和 NPU 干活的关键。

第二步：等待与重启
进度条走完可能需要一点时间，因为它在后台自动配置复杂的加速环境。安装完成后，屏幕会提示重启。这一步千万别省，重启是为了让系统重新识别硬件资源，把 CPU、GPU 和 NPU 的资源池打通。重启回来后，你的电脑就已经具备了跑大模型的“内功”。

第三步：验证环境
打开开始菜单，你应该能看到新出现的 Ollama 和 LM Studio 图标。如果能正常打开，说明安装成功。这时候不需要你去配什么环境变量，也不用敲复杂的命令，最难的步骤已经结束了。

选对模型：根据内存“量体裁衣”

很多新手容易犯的错就是贪大，直接下几十 GB 的模型，结果电脑卡死。其实选模型跟做饭一样，锅有多大就下多少米。咱们根据内存大小来推荐：

• 如果你只有 16GB 内存：
  建议从 Llama3-8B 入手。这个模型体积小、反应快，日常写写文案、查查资料完全够用。在 LM Studio 的搜索栏输入 Llama3，找那个带有 Q4_K_M 或 Q5_K_M 后缀的版本下载就行，这是经过压缩优化的，既聪明又省地儿。

• 如果你有 32GB 或更多内存：
  那就可以玩得更花了。强烈推荐试试 Qwen-14B（通义千问系列）。它在中文理解、逻辑推理甚至写代码方面都比 8B 模型强一大截。同样选择量化版本（如 Q5_K_M），32GB 内存能让它跑得飞起，还能留出空间给系统和其他软件。

记住，带 Q4、Q5 这种标记的就是量化模型，是专门为本地运行优化的，放心下。

小极客时刻：看看你的 NPU 在不在干活

虽然大部分操作都是图形界面，但偶尔我们也想看看底层状态。AMD 的 NPU（神经网络处理器）是专门干 AI 活的，功耗极低。你可以右键点击开始菜单，选择 Windows PowerShell (管理员)，然后复制下面这行命令进去回车：

Get-ItemProperty HKLM:\SYSTEM\CurrentControlSet\Control\Class\{4d36e968-e325-11ce-bfc1-08002be10318}\0000 | Select-Object DriverDesc, HardwareID

这行命令会列出你的显卡驱动信息。如果你看到输出里包含 Ryzen AI 或者相关的硬件 ID，那就说明驱动识别正常。在运行大模型时，NPU 会自动介入处理部分计算，你会发现风扇转得没以前那么凶了，这就是它在省电工作的证明。

让笔记本更持久的功耗小技巧

在本地跑 AI，大家最担心的就是耗电快。其实只要稍微设置一下，就能在保证速度的同时延长续航：

1. 限制最大处理器状态：在电源选项里，把“最大处理器状态”从 100% 调到 99%。这看似微小的一点点变化，能阻止 CPU 频繁睿频到最高电压，大幅降低发热和功耗，而对 AI 推理速度影响微乎其微。
2. 善用混合模式：在使用 LM Studio 时，如果发现电池模式下降速明显，可以手动在设置里调整"GPU Offload"的层数。少加载几层到显卡，多用 NPU 分担，虽然生成速度稍慢一点点，但能让你的笔记本在咖啡厅多撑一个小时。
3. 后台清理：跑大模型时，尽量关掉浏览器里那些吃内存的标签页。统一内存是大家一起用的，腾出空间给 AI，系统调度会更顺畅，反而更省电。

现在，你已经拥有了一个完全私有、随时待命的本地 AI 助手。无论是整理工作文档，还是辅助学习，它都在你的掌控之中，数据永远不出这台机器。这种踏实感，是任何云端服务都给不了的。

200小时GPU算力已就位，快来领取：https://marketing.csdn.net/questions/Q2604140858304426315?utm_source=AIpaper