使用NextChart作为大模型服务(deepseek api、自建的vllm等)的前端应用
·
1、准备API地址、api-key
自己部署的vllm服务:ai.inference.yaxin.cn:30132/vyc9bg
也可以使用deepseek、openapi等现成的api,如果使用现成的api需准备api-key
2、启动NextChart
docker run -d -p 3000:3000 --name chat-next yidadaa/chatgpt-next-web:latest
3、配置服务地址
访问NextChart: localhost:3000
服务地址为:(ai.inference.yaxin.cn:30132/vyc9bg) 加上http://前缀
备注:如果使用服务商的api,需在表单填写api-key

4、试用

更多推荐



所有评论(0)