京东 joyagent-jdgenie 智能体使用ollama本地大模型配置


genie-backend\src\main\resources\application.yml
修改
base_url: 'http://192.168.200.63:11434'
apikey: 'ollama-api-key' #可以为空
interface_url: '/v1/chat/completions'
model: 'qwen3:8b' # 我用的是这个模型 通过 192.168.200.63:11434/api/tags 可以查看可用模型名
# 添加额外参数确保兼容性 --实际使用中不添加在java的llm调用处有解析异常
extParams:
stream: false
format: "json"
修改后续所有的 model_name: qwen3-8b # qwen3-8b 是settings里面配置的 做了一个模型名映射, 直接填写 qwen3:8b 无法识别

genie-tool\.env_template
修改
OPENAI_BASE_URL=http://192.168.200.63:11434/v1
QUERY_DECOMPOSE_MODEL=openai/qwen3:8b
QUERY_DECOMPOSE_THINK_MODEL=openai/qwen3:8b
SEARCH_REASONING_MODEL=openai/qwen3:8b
SEARCH_ANSWER_MODEL=openai/qwen3:8b
REPORT_MODEL=openai/qwen3:8b
CODE_INTEPRETER_MODEL=openai/qwen3:8b
以上配置已测试通过 本机使用4090显卡 执行速度很快


更多推荐

所有评论(0)