Ollama LangChain第三方库安装

使用以下命令安装集成包:
  • pip install langchain-ollama
大型语言模型
  • from langchain_ollama.llms import OllamaLLM

     代码示例:

# Ollama本地语言模型库

from langchain_ollama.llms import OllamaLLM

model = OllamaLLM(model="deepseek-r1:8b")

model.invoke("中国现在都有什么花会开?")

    执行结果:

注意:在使用模型库的时候一定选用自己通过ollama run deepseek-r1:8b下载到本地的模型库

聊天模型库
  • from langchain_ollama.chat_models import ChatOllama

提示词模板代码示例(将key替换成自己调用即可):

# 提示词模板
# langchain的提示词模板引擎 Prompt Template Engine 是其核心组件之一,主要用于构建和管理与大语言模型(LLM)交互的提示词(Prompt)
# 它的作用是将用户的输入或动态数据结构化的嵌入到预定义的模板中,从而适合模型处理的提示词,提升模型输出的准确性和一致性
import os
from langchain_community.chat_models import ChatZhipuAI
from langchain_core.prompts import  PromptTemplate

key = "ca576b97aeab421b8b808f619d664598.Jx"
os.environ["ZHIPUAI_API_KEY"] = key
chat = ChatZhipuAI(
    model="glm-4",
    temperature=0.5,   # 模型温度, 值在0-1之间 数值越大,随机性越高,数值越小,随机性越低
)

# 定义模板内容
template = "你是一名{role},请用{style}的语言来回答问题:{question}"
# 创建模板对象
prompt = PromptTemplate.from_template(template)
# 变量填充
filled_prompt = prompt.format(role="中医", style="通俗易懂", question="养心菜的营养价值?")
# 模板相应结果
result = chat.invoke(filled_prompt)
print(result.content)

运行结果:

Logo

Agent 垂直技术社区,欢迎活跃、内容共建。

更多推荐