本地局域网内LLM配置

配置本地LLM的几个关键信息

  • 端口号:49999
  • 模型名称:Qwen3-32B
  • 连接字符:http://IP:端口/v1
  • API Key:自己取名即可,此处为hhhccc

以下是配置需要填写的内容

  • API Key:请自行填写,此处为hhhccc
    在这里插入图片描述

通过OpenAI-API-compatible配置成功

在这里插入图片描述

管理凭据

在这里插入图片描述

再次添加同类模型报错

在这里插入图片描述

配置模型至chatflow

待添加验证,迟点发出

Logo

Agent 垂直技术社区,欢迎活跃、内容共建。

更多推荐