genie-backend\src\main\resources\application.yml

修改

base_url: 'http://192.168.200.63:11434'

apikey: 'ollama-api-key'  #可以为空

interface_url: '/v1/chat/completions' 

 model: 'qwen3:8b' # 我用的是这个模型 通过 192.168.200.63:11434/api/tags 可以查看可用模型名

    # 添加额外参数确保兼容性 --实际使用中不添加在java的llm调用处有解析异常

    extParams:

      stream: false

      format: "json"

修改后续所有的 model_name: qwen3-8b   # qwen3-8b 是settings里面配置的 做了一个模型名映射, 直接填写 qwen3:8b 无法识别

genie-tool\.env_template

修改

OPENAI_BASE_URL=http://192.168.200.63:11434/v1

QUERY_DECOMPOSE_MODEL=openai/qwen3:8b

QUERY_DECOMPOSE_THINK_MODEL=openai/qwen3:8b

SEARCH_REASONING_MODEL=openai/qwen3:8b

SEARCH_ANSWER_MODEL=openai/qwen3:8b

REPORT_MODEL=openai/qwen3:8b

CODE_INTEPRETER_MODEL=openai/qwen3:8b

以上配置已测试通过 本机使用4090显卡 执行速度很快

Logo

Agent 垂直技术社区,欢迎活跃、内容共建。

更多推荐