算力环境配置参考:

Linux环境下部署百度百川AI大模型-CSDN博客

步骤一:下载ChatGLM2模型

cd /workspace/
git  clone https://github.moeyy.xyz/https://github.com/THUDM/ChatGLM2-6B.git

步骤二:下载依赖

cd /workspace/ChatGLM2-6B/
pip install -r requirements.txt

步骤三:下载模型库

地址:魔搭社区

执行如下命令

mkdir /workspace/ChatGLM2-6B/THUDM
git lfs install
git clone https://www.modelscope.cn/ZhipuAI/chatglm2-6b.git

步骤四:启动并应用大模型-命令行

cd /workspace/ChatGLM2-6B/
python cli_demo.py

步骤五:启动并应用大模型-web网页

可以通过网页访问使用

streamlit run web_demo2.py

参考地址

ChatGLM2-6B安装部署(详尽版)_chatglm2-6b部署-CSDN博客

ChatGLM2详细安装部署(chatglm2大模型安装步骤三)_chatglm2下载-CSDN博客

Logo

Agent 垂直技术社区,欢迎活跃、内容共建。

更多推荐