一、部署deepseek
Ollama,这是是一个开源的大语言模型平台,它允许用户在本地环境中运行、创建和共享大型语言模型。Ollama提供了丰富的功能和特性,使得用户可以在自己的计算机上轻松地部署和运行大型语言模型。官网:https://ollama.com/

ollama run + 模型名
ollama run deepseek-r1

二、使用langchain跑起来
langchain其实是一套规范化的API,实现了标准化对模型的集成、接入、组件化等工作,通过langchain用户可以很轻松打造属于自己的大模型产品。langchain很早就出来了。https://github.com/langchain-ai/langchain

from langchain_ollama import  OllamaLLM
from langchain.prompts import PromptTemplate

ollama_llm = OllamaLLM(model="deepseek-R1")
prompt = PromptTemplate.from_template("帮我写一首关于${product}的骈文,不要有英文的结果啊")
sequence = prompt | ollama_llm
response = sequence.invoke({"product": "春天"})
print(response)

效果如下:
在这里插入图片描述

Logo

Agent 垂直技术社区,欢迎活跃、内容共建。

更多推荐