Linux环境下部署清华智谱开源AI大模型
智谱开源AI大模型部署与简单使用
·
算力环境配置参考:
步骤一:下载ChatGLM2模型
cd /workspace/
git clone https://github.moeyy.xyz/https://github.com/THUDM/ChatGLM2-6B.git
步骤二:下载依赖
cd /workspace/ChatGLM2-6B/
pip install -r requirements.txt
步骤三:下载模型库
地址:魔搭社区



执行如下命令
mkdir /workspace/ChatGLM2-6B/THUDM
git lfs install
git clone https://www.modelscope.cn/ZhipuAI/chatglm2-6b.git

步骤四:启动并应用大模型-命令行
cd /workspace/ChatGLM2-6B/
python cli_demo.py

步骤五:启动并应用大模型-web网页
可以通过网页访问使用
streamlit run web_demo2.py



参考地址
更多推荐

所有评论(0)