程序员的浪漫：Qwen3.5也懂‘神仙姐姐’的美

大模型也懂神仙姐姐

如果把大模型4bit量化，他还能认识神仙姐姐么？

用这张来试试：

然后这是识别的结果：

1.  **主体人物**：图片中心是一位年轻女性，看起来像是中国女演员刘亦菲（Liu Yifei）。
2.  **外貌特征**：
    *   长发：深棕色或黑色的长卷发，自然垂落在肩膀和背部。
    *   妆容：淡妆，皮肤白皙，红唇，看起来很温柔。
    *   表情：面带微笑，眼神柔和地看向
==========
Prompt: 3295 tokens, 75.737 tokens-per-sec
Generation: 100 tokens, 15.243 tokens-per-sec
Peak memory: 19.309 GB

截图：

完美！

这说明，当一个程序员老到连print(“hello world”)都写不出来的时候，他依然会记得神仙姐姐！

缘起

千问3.5的发布，除了其主要技术负责人的离职八卦外，不可否认的是其强大的实力！

尤其是27B，让很多单卡游戏显卡也能实现了本地大模型的梦，加上openclaw的崛起，简直就是珠联璧合啊！

我没有显卡，但是我有一个老款macbook，今天来试试它能不能跑千问3.5

开始

这是我的硬件配置：

CPU:m2max
MEM:32G

软件版本：

安装过程

1. 准备python环境

安装python虚拟环境管理uv：

brew install uv

# 查看版本
uv --version

其他脚步并解释步骤：

# 查询python版本（含已安装和未安装）
uv python list

# 安装3.14版本的python
uv python install 3.14

# 初始化工程
uv init mlx 

# 创建虚拟环境并激活
uv venv --python 3.14
source .venv/bin/activate

# 安装mlx-vlm
uv pip install -U mlx-vlm

uv pip install torchvision

简单介绍一下MLX-VLM：

MLX-VLM 是一个专为苹果Mac电脑设计的开源工具包，它让用户能够在本地轻松运行和微调强大的视觉语言模型（Vision Language Models, VLMs）,且本身就集成了 HuggingFace Hub，使用时直接传入模型 ID 字符串即可，无需手动下载，它会自动缓存到 ~/.cache/huggingface/hub/ 目录

网络不好的时候，可以使用国内镜像，通过设置环境变量实现：

export HF_ENDPOINT=https://hf-mirror.com

通过一句调用触发自动下载：

说明一下，这里根据网上搜索的结果，基于我的硬件配置，选择了4bit量化版本：

mlx_vlm.generate --model mlx-community/Qwen3.5-27B-4bit  --prompt "你好"

测试

经过漫长的等待（基于我的感人网速），终于下完了！

先让他跟神仙姐姐打个招呼：

mlx_vlm.generate --model mlx-community/Qwen3.5-27B-4bit --max-tokens 200 --prompt "描述一下这张图片，用中文" --image ./lyf.jpg

结果就是文章开头的那一幕(^-)

还得测试一下智商，毕竟，傻子也是认识神仙姐姐的，就用最近洗车的提示词吧：

mlx_vlm.generate --model mlx-community/Qwen3.5-27B-4bit  --max-tokens 100 --prompt "我要去离我家200米的洗车店洗车，推荐我开车去还是步行去？"

这是结果：

Prompt: <|im_start|>user
我要去离我家200米的洗车店洗车，推荐我开车去还是步行去？<|im_end|>
<|im_start|>assistant
<think>

Here's a thinking process that leads to the recommended advice:

1.  **Analyze the Request:**
    *   **Destination:** Car wash (洗车店).
    *   **Distance:** 200 meters from home (离我家 200 米).
    *   **Decision:** Drive (开车) vs. Walk (步行).
    *   **Goal:** Recommend the best option.

2.  **Evaluate Option A: Driving (开车

截图：

通过测试，还不傻！

小结

自从龙虾的兴起和囊中羞涩，追求本地大模型越来越迫切，而千问3.5的发布，着实给了一次机会。

作为一个2023款的老mac，能有这种表现，已经很满意了！