openclaw支持Nunchaku FLUX.1-dev：模型蒸馏轻量化部署教程

想用最新的FLUX.1-dev模型生成惊艳的图片，但被它巨大的显存需求劝退了？别担心，今天我来教你一个绝佳的解决方案——通过openclaw平台，使用经过Nunchaku技术蒸馏的FLUX.1-dev轻量化版本。这个版本在保持原模型强大生成能力的同时，显存占用大幅降低，让普通显卡也能流畅运行。

简单来说，Nunchaku FLUX.1-dev就像是给原本“大胃王”的FLUX.1-dev模型做了一次“瘦身手术”，让它变得小巧精悍，但画图的本事一点没丢。接下来，我会手把手带你从零开始，在ComfyUI中部署和使用这个轻量化的文生图模型。

1. 环境准备：确保你的电脑能跑起来

在开始之前，我们先检查一下你的电脑环境是否满足基本要求。这就像做饭前要准备好锅碗瓢盆一样，基础打好了，后面才能顺利进行。

1.1 硬件要求

首先看显卡，这是最重要的部分：

• 显卡：需要NVIDIA显卡，并且支持CUDA。如果你用的是RTX 3060 12GB、RTX 4070 12GB这类主流显卡，完全没问题。
• 显存建议：推荐16GB以上显存，这样跑起来会比较流畅。如果你的显卡只有8GB显存，也不用担心，后面我会告诉你怎么选择适合的模型版本。

1.2 软件环境

软件方面需要准备这些：

• Python 3.10或更高版本：这是运行ComfyUI的基础
• Git工具：用来下载代码和插件
• PyTorch：深度学习框架，需要安装与你的系统和显卡匹配的版本

如果你不确定自己的环境是否合适，可以打开命令行，输入以下命令检查：

# 检查Python版本
python --version

# 检查CUDA是否可用（在Python中）
python -c "import torch; print(torch.cuda.is_available())"

如果显示Python 3.10.x，并且torch.cuda.is_available()返回True，那么你的环境就基本准备好了。

2. 安装Nunchaku ComfyUI插件

现在我们来安装核心的Nunchaku插件，这是让ComfyUI能够运行FLUX.1-dev轻量化版本的关键。

2.1 安装插件本体

我推荐两种安装方法，你可以根据自己喜欢的方式选择一种。

方法一：使用Comfy-CLI（最简单）

如果你喜欢命令行操作，这个方法最省心：

# 安装ComfyUI的命令行工具
pip install comfy-cli

# 安装ComfyUI（如果已经安装过可以跳过）
comfy install

# 安装Nunchaku插件
comfy noderegistry-install ComfyUI-nunchaku

# 移动插件到正确目录
mv ComfyUI-nunchaku ComfyUI/custom_nodes/nunchaku_nodes

这个方法会自动处理依赖关系，适合不想折腾的用户。

方法二：手动安装（更灵活）

如果你想完全控制安装过程，或者遇到网络问题，可以手动安装：

# 1. 下载ComfyUI主程序
git clone https://github.com/comfyanonymous/ComfyUI.git
cd ComfyUI

# 2. 安装依赖包
pip install -r requirements.txt

# 3. 进入自定义节点目录
cd custom_nodes

# 4. 下载Nunchaku插件
git clone https://github.com/mit-han-lab/ComfyUI-nunchaku nunchaku_nodes

手动安装的好处是你可以看到每一步发生了什么，如果某一步出错也容易排查。

2.2 安装Nunchaku后端

插件装好后，还需要安装后端支持。从v0.3.2版本开始，这个过程变得非常简单：

1. 启动ComfyUI（后面会详细讲怎么启动）
2. 在ComfyUI的网页界面中，找到并加载install_wheel.json工作流文件
3. 点击运行，系统就会自动安装或更新所需的后端组件

这个一键安装功能大大简化了配置过程，你不需要手动处理复杂的依赖关系。

3. 准备Nunchaku FLUX.1-dev模型文件

插件安装完成后，接下来要准备模型文件。这是最关键的一步，模型文件就像厨师的食材，没有食材就做不出好菜。

3.1 配置工作流文件

首先，我们需要把Nunchaku提供的工作流示例复制到ComfyUI能识别的位置：

# 进入ComfyUI的安装目录
cd ComfyUI

# 创建工作流目录（如果不存在的话）
mkdir -p user/default/example_workflows

# 复制Nunchaku的工作流示例
cp custom_nodes/nunchaku_nodes/example_workflows/* user/default/example_workflows/

这些工作流文件相当于预设好的“菜谱”，告诉ComfyUI怎么使用Nunchaku FLUX.1-dev模型来生成图片。

3.2 下载模型文件

现在来下载最重要的部分——模型文件。Nunchaku FLUX.1-dev需要两个部分的模型文件。

基础FLUX模型（必须下载）

这部分是FLUX模型的基础组件，包括文本编码器和VAE模型：

# 下载文本编码器模型（放到models/text_encoders目录）
hf download comfyanonymous/flux_text_encoders clip_l.safetensors --local-dir models/text_encoders
hf download comfyanonymous/flux_text_encoders t5xxl_fp16.safetensors --local-dir models/text_encoders

# 下载VAE模型（放到models/vae目录）
hf download black-forest-labs/FLUX.1-schnell ae.safetensors --local-dir models/vae

如果你已经通过其他方式下载过这些模型，也可以直接使用本地文件。只需要在对应目录创建软链接即可：

# 查看模型文件是否就位
ls -l models/text_encoders/
# 应该能看到：clip_l.safetensors 和 t5xxl_fp16.safetensors

ls -l models/vae/
# 应该能看到：ae.safetensors

Nunchaku FLUX.1-dev主模型（核心）

这是经过蒸馏的轻量化版本，根据你的显卡类型选择对应的版本：

• Blackwell架构显卡（如RTX 50系列）：选择FP4版本
• 其他NVIDIA显卡：选择INT4版本
• 显存较小（如8GB）：选择FP8版本

以INT4版本为例，下载命令如下：

# 下载INT4量化版主模型
hf download nunchaku-tech/nunchaku-flux.1-dev svdq-int4_r32-flux.1-dev.safetensors --local-dir models/unet/

下载完成后，检查一下文件是否在正确位置：

ls -l models/unet/
# 应该能看到：svdq-int4_r32-flux.1-dev.safetensors

可选：LoRA模型（提升效果）

如果你想获得更好的生成效果，还可以下载一些LoRA模型。LoRA就像给模型添加的“调味料”，可以让生成的图片有特定的风格或效果。

常见的LoRA模型有：

• FLUX.1-Turbo-Alpha：加速生成，减少推理步数
• Ghibsky Illustration：吉卜力动画风格

下载后放到models/loras/目录即可。

4. 启动ComfyUI并生成第一张图片

一切准备就绪，现在让我们启动ComfyUI，看看Nunchaku FLUX.1-dev能生成什么样的图片。

4.1 启动ComfyUI

在ComfyUI的安装目录下，运行启动命令：

# 进入ComfyUI目录
cd ComfyUI

# 启动ComfyUI
python main.py

启动成功后，你会看到类似这样的输出：

Starting server
To see the GUI go to: http://127.0.0.1:8188

在浏览器中打开这个地址（通常是http://127.0.0.1:8188），就能看到ComfyUI的网页界面了。

4.2 加载Nunchaku工作流

进入ComfyUI界面后，我们需要加载专门为Nunchaku FLUX.1-dev准备的工作流：

1. 点击右上角的“Load”按钮
2. 选择我们之前复制到user/default/example_workflows/目录下的工作流文件
3. 对于文生图任务，建议使用nunchaku-flux.1-dev.json这个工作流

这个工作流已经预设好了所有节点连接，你不需要手动搭建复杂的流程，特别适合新手使用。

4.3 设置参数并生成图片

现在到了最激动人心的环节——生成你的第一张AI图片！

在工作流界面中，找到提示词输入框（通常标有“Prompt”）。FLUX模型对英文提示词的支持更好，所以建议用英文描述你想要的画面。

举个例子，如果你想生成一幅美丽的山水画，可以输入：

A beautiful landscape with mountains and lakes, ultra HD, realistic, 8K, masterpiece, detailed

除了提示词，你还可以调整这些参数：

• 推理步数（Steps）：一般20-30步效果就不错，步数越多细节越丰富，但生成时间也越长
• 分辨率（Resolution）：默认是1024x1024，如果显存不够可以降低到768x768
• 采样器（Sampler）：推荐使用DPM++ 2M Karras或Euler
• CFG Scale：控制模型遵循提示词的程度，一般7-9之间效果较好

调整好参数后，点击右上角的“Queue Prompt”按钮，ComfyUI就会开始生成图片了。等待片刻，你就能在右侧的预览区域看到生成的图片。

第一次生成可能会稍微慢一点，因为模型需要加载到显存中。后续生成就会快很多了。

5. 使用技巧和注意事项

为了让你的使用体验更好，我分享几个实用技巧和需要注意的地方。

5.1 模型文件存放位置

这是最容易出错的地方，一定要确保模型文件放在正确的目录：

模型类型	存放目录	示例文件名
主模型	models/unet/	svdq-int4_r32-flux.1-dev.safetensors
LoRA模型	models/loras/	flux.1-turbo-alpha.safetensors
文本编码器	models/text_encoders/	clip_l.safetensors, t5xxl_fp16.safetensors
VAE模型	models/vae/	ae.safetensors

如果文件放错了位置，ComfyUI会找不到模型，导致无法生成图片。

5.2 显存优化建议

不同的模型版本对显存的需求不同，你可以根据自己的显卡情况选择：

模型版本	显存占用	适合的显卡
FP16原版	约33GB	RTX 4090 24GB等高端卡
FP8量化版	约17GB	RTX 4070 Ti 16GB等中高端卡
INT4量化版	约8-10GB	RTX 4060 Ti 16GB、RTX 4070 12GB等主流卡
FP4量化版	约6-8GB	RTX 4060 8GB等入门卡

如果你的显存比较紧张，可以尝试这些方法：

1. 降低生成分辨率（如从1024x1024降到768x768）
2. 使用更低的CFG Scale值
3. 关闭一些不必要的LoRA
4. 使用--lowvram参数启动ComfyUI

5.3 提示词编写技巧

好的提示词能让模型生成更好的图片，这里有几个小技巧：

基本结构：[主体描述], [细节描述], [风格], [画质], [其他修饰]

示例对比：

• ❌ 不好的提示词：a cat（太简单，缺乏细节）
• ✅ 好的提示词：A cute orange tabby cat sleeping on a windowsill, sunlight streaming through the window, detailed fur, photorealistic, 8K resolution

常用质量词：

• masterpiece, best quality - 提升整体质量
• detailed, intricate - 增加细节
• 8K, ultra HD - 提高分辨率感
• photorealistic - 照片般真实
• anime style - 动漫风格
• oil painting - 油画风格

5.4 常见问题解决

如果你在使用过程中遇到问题，可以尝试这些解决方法：

问题1：加载工作流时提示节点缺失

• 解决方法：通过ComfyUI Manager安装缺失的自定义节点
• 操作：在ComfyUI界面点击“Manager” → “Install Custom Nodes” → 搜索缺失的节点名称安装

问题2：生成图片时显存不足

• 解决方法：换用更低显存占用的模型版本（INT4或FP4）
• 或者：降低生成分辨率，减少批处理数量

问题3：生成的图片模糊或有瑕疵

• 解决方法：增加推理步数（建议20-30步）
• 或者：调整CFG Scale值（一般在7-12之间尝试）

问题4：FLUX.1-Turbo-Alpha LoRA关闭后效果变差

• 重要提示：如果关闭了这个加速LoRA，一定要把推理步数调到至少20步，否则生成质量会明显下降

6. 总结

通过今天的教程，你应该已经成功在openclaw平台上部署了Nunchaku FLUX.1-dev轻量化模型。让我们回顾一下关键步骤：

第一步是准备好Python环境和必要的软件工具，确保你的电脑能满足基本要求。

第二步安装Nunchaku ComfyUI插件，我推荐使用Comfy-CLI的方式，简单快捷。

第三步下载模型文件，这是最花时间但最重要的一步。记得根据你的显卡类型选择合适的量化版本。

第四步启动ComfyUI并加载工作流，然后输入提示词生成你的第一张AI图片。

Nunchaku FLUX.1-dev的最大优势在于，它通过模型蒸馏技术，在几乎不损失生成质量的前提下，大幅降低了显存需求。这意味着即使你没有顶级显卡，也能体验到FLUX.1-dev强大的文生图能力。

在实际使用中，多尝试不同的提示词组合，调整参数设置，你会发现这个模型能生成令人惊叹的图片。从写实的风景照片到奇幻的艺术创作，从产品设计到概念草图，它的应用场景非常广泛。

如果你在部署或使用过程中遇到任何问题，或者想分享自己生成的精彩作品，欢迎在评论区留言交流。技术探索的路上，我们一起进步。

---

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。