Qwen3-VL:30B部署教程：星图平台实例创建→Ollama API测试→Clawdbot模型绑定

1. 环境准备与快速部署

1.1 选择适合的镜像

在星图AI云平台开始部署前，我们需要选择正确的镜像。Qwen3-VL:30B是目前最强的多模态大模型之一，能够同时处理文本和图像，为智能办公助手提供强大的理解能力。

进入星图平台后，在社区镜像中搜索"Qwen3-vl:30b"，这个镜像已经预装了所有必要的环境，包括Ollama服务和模型文件，让我们能够快速启动。

选择技巧：如果镜像列表较长，直接在搜索框输入"Qwen3-vl:30b"就能快速找到目标镜像，避免手动翻找的麻烦。

1.2 配置计算资源

Qwen3-VL:30B作为大型多模态模型，对硬件资源有一定要求。官方推荐使用48GB显存的GPU，以确保模型能够流畅运行。

在星图平台创建实例时，系统会自动识别镜像的硬件需求，并给出推荐的配置。我们只需要按照默认推荐选择即可，无需手动调整复杂的参数。

硬件环境概览：

• GPU显存：48GB
• CPU核心：20核心
• 内存：240GB
• 系统盘：50GB
• 数据盘：40GB

这样的配置能够确保模型在推理时保持稳定的性能，特别是在处理图像和文本的多模态任务时。

1.3 启动实例并验证

实例创建完成后，系统会自动启动并初始化环境。这个过程通常需要几分钟时间，等待控制台状态变为"运行中"后，我们就可以开始测试了。

进入实例控制台，点击"Ollama控制台"快捷方式，这会打开预装好的Web交互界面。在这里我们可以进行初步的对话测试，确认模型基本功能正常。

初步测试：在Web界面中输入简单的问候语，如"你好，介绍一下你自己"，观察模型的回应。如果能够得到合理的回答，说明模型部署成功。

2. API连接与功能测试

2.1 本地API调用测试

星图云平台为每个算力实例提供了公网访问地址，这意味着我们可以直接从本地环境调用部署好的模型API。

使用Python代码测试API连通性：

from openai import OpenAI

# 配置客户端连接
client = OpenAI(
    base_url="https://您的实例地址.web.gpu.csdn.net/v1",
    api_key="ollama"
)

try:
    # 发送测试请求
    response = client.chat.completions.create(
        model="qwen3-vl:30b",
        messages=[{"role": "user", "content": "你好，请介绍一下你的能力"}]
    )
    print("API测试成功！")
    print(response.choices[0].message.content)
except Exception as e:
    print(f"连接失败，错误信息: {e}")

注意事项：

• 将base_url中的地址替换为您实际的实例地址
• API密钥固定为"ollama"，这是Ollama服务的默认设置
• 首次调用可能需要稍等片刻，因为模型需要加载到显存中

2.2 多模态能力测试

Qwen3-VL:30B的核心优势在于多模态理解能力。我们可以测试其图像理解和文本生成的综合能力。

# 多模态测试示例
def test_multimodal_capability():
    client = OpenAI(
        base_url="https://您的实例地址/v1",
        api_key="ollama"
    )
    
    # 构建包含文本和图像信息的消息
    messages = [
        {
            "role": "user",
            "content": [
                {"type": "text", "text": "请描述这张图片中的内容"},
                {"type": "image_url", "image_url": {"url": "图片URL地址"}}
            ]
        }
    ]
    
    response = client.chat.completions.create(
        model="qwen3-vl:30b",
        messages=messages,
        max_tokens=300
    )
    
    return response.choices[0].message.content

这个测试能够验证模型是否真正具备了同时处理文本和图像信息的能力。

3. Clawdbot安装与配置

3.1 安装Clawdbot

Clawdbot是一个强大的机器人框架，能够将AI模型接入各种办公平台。星图环境已经预装了Node.js和必要的依赖。

通过npm全局安装Clawdbot：

npm i -g clawdbot

安装过程通常很快，因为星图平台已经配置了镜像加速，下载速度很有保障。

3.2 初始化配置

安装完成后，使用向导模式进行初始配置：

clawdbot onboard

在配置过程中，对于大多数进阶设置，我们可以先选择跳过，后续在Web控制面板中进行更细致的调整。这样能够快速完成初步设置，尽早进入实质性的集成工作。

关键配置步骤：

1. 选择部署模式：本地模式
2. 设置管理端口：默认18789
3. 配置基础认证信息
4. 完成初步的机器人设置

3.3 启动服务并访问

启动Clawdbot网关服务：

clawdbot gateway

服务启动后，通过浏览器访问控制面板。访问地址格式为：

https://您的实例地址-18789.web.gpu.csdn.net/

端口说明：将实例地址中的默认端口（通常是8888）替换为18789，这是Clawdbot的管理端口。

4. 网络与安全配置

4.1 解决访问问题

初次访问可能会遇到页面空白的问题，这是因为Clawdbot默认只监听本地回环地址。

修改配置文件解决这个问题：

vim ~/.clawdbot/clawdbot.json

找到gateway配置部分，进行以下修改：

"gateway": {
    "bind": "lan",  // 从"loopback"改为"lan"
    "auth": {
        "mode": "token",
        "token": "csdn"  // 设置访问令牌
    },
    "trustedProxies": ["0.0.0.0/0"]  // 信任所有代理
}

修改要点：

• bind设置为"lan"允许全网访问
• 设置安全的访问令牌
• 配置代理信任规则确保正常转发

4.2 认证配置

修改配置后，刷新控制面板页面，系统会提示输入访问令牌。输入刚才设置的"csdn"即可进入管理界面。

进入控制面板后，我们可以在Overview页面看到系统状态和基本配置信息。这表明网络和认证配置已经成功。

5. 模型集成与绑定

5.1 配置模型提供商

现在我们需要将Clawdbot连接到之前部署的Qwen3-VL:30B模型。编辑配置文件：

vim ~/.clawdbot/clawdbot.json

在models配置部分添加本地Ollama服务作为模型提供商：

"models": {
    "providers": {
        "my-ollama": {
            "baseUrl": "http://127.0.0.1:11434/v1",
            "apiKey": "ollama",
            "api": "openai-completions",
            "models": [
                {
                    "id": "qwen3-vl:30b",
                    "name": "Local Qwen3 30B",
                    "contextWindow": 32000
                }
            ]
        }
    }
}

配置说明：

• baseUrl指向本地Ollama服务
• apiKey使用Ollama默认值
• 设置正确的模型标识和上下文窗口大小

5.2 设置默认模型

接下来配置Clawdbot使用我们部署的模型作为默认推理引擎：

"agents": {
    "defaults": {
        "model": {
            "primary": "my-ollama/qwen3-vl:30b"
        }
    }
}

这样配置后，所有的对话请求都会发送到我们私有部署的Qwen3-VL:30B模型进行处理。

5.3 完整配置文件参考

以下是完整的配置文件内容，供参考：

{
  "meta": {
    "lastTouchedVersion": "2026.1.24-3"
  },
  "models": {
    "providers": {
      "my-ollama": {
        "baseUrl": "http://127.0.0.1:11434/v1",
        "apiKey": "ollama",
        "api": "openai-completions",
        "models": [
          {
            "id": "qwen3-vl:30b",
            "name": "Local Qwen3 30B",
            "contextWindow": 32000
          }
        ]
      }
    }
  },
  "agents": {
    "defaults": {
      "model": {
        "primary": "my-ollama/qwen3-vl:30b"
      }
    }
  },
  "gateway": {
    "bind": "lan",
    "port": 18789,
    "auth": {
      "mode": "token",
      "token": "csdn"
    },
    "trustedProxies": ["0.0.0.0/0"]
  }
}

6. 最终测试与验证

6.1 服务重启与监控

完成所有配置后，需要重启Clawdbot服务使配置生效。同时打开一个新的终端窗口监控GPU状态：

watch nvidia-smi

这个命令会实时显示GPU的使用情况，包括显存占用、计算利用率等指标。

6.2 功能测试

在Clawdbot的控制面板中，进入Chat页面发送测试消息：

观察nvidia-smi的输出，如果看到显存占用增加，GPU利用率上升，说明模型正在正常工作。

测试要点：

• 发送文本消息测试基础对话能力
• 尝试发送图片测试多模态理解能力
• 观察响应速度和答案质量
• 监控GPU使用情况确认模型加载正确

6.3 性能优化建议

根据测试结果，可以进行一些性能调优：

1. 调整并发数：根据GPU能力设置合适的并发请求数
2. 优化上下文长度：根据实际需求调整上下文窗口大小
3. 配置缓存策略：启用合适的缓存机制提升响应速度
4. 监控资源使用：定期检查GPU和内存使用情况

7. 总结与下一步

通过本教程，我们成功在星图AI云平台完成了Qwen3-VL:30B模型的私有化部署，并将其集成到Clawdbot框架中。现在我们已经拥有了一个既能理解文本又能分析图像的多模态智能助手。

当前成果：

• 星图平台实例创建与配置
• Qwen3-VL:30B模型部署与测试
• Ollama API服务连通性验证
• Clawdbot安装与基础配置
• 模型绑定与集成测试

下一步计划： 在后续教程中，我们将重点介绍如何将这个私有化部署的智能助手接入飞书平台，实现真正的办公场景应用。包括：

• 飞书开发者账号配置
• 机器人权限申请与配置
• 消息推送与接收机制
• 实际办公场景应用案例

同时我们也会介绍如何将当前环境打包成镜像，发布到星图镜像市场，方便其他用户快速部署相同的环境。

---

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。