一、相关依赖讲解与安装

#创建虚拟环境

conda create --prefix E:\env\2024\envs\agent python=3.10

#激活环境

conda activate E:\env\2024\envs\agent

#安装相关依赖

pip install langchain

pip install -U langchain-openai

调用LLM流程

接入定义大模型-》定义消息-》调用大模型-》输出结果

  1. 获取相关key

  2. 配置环境变量

  1. 接入定义大模型

其中ChatOpenAI的参数有

参数 作用含义 取值范围 / 用法 推荐场景配置
model 指定调用的大模型名称 字符串,如:gpt-3.5-turbo、glm-4-flash、qwen-turbo 按厂商对应填免费模型名
api_key 平台接口密钥 对应平台申请的 API Key 字符串;不填则读取系统环境变量 必须填自己申请的密钥
base_url 接口请求地址(适配国内模型核心) 厂商兼容 OpenAI 格式接口地址 智谱:https://open.bigmodel.cn/api/paas/v4
temperature 模型随机性 / 创造力 0~20:严谨不发散0.7:均衡1.5+:脑洞大、易编造 翻译 / 代码:0.1~0.3闲聊创作:0.7
max_tokens 限制最大输出字数 正整数,如 512、1024、2048 简单对话:1024;长文本:2048
timeout 接口请求超时时间 (秒) 正整数 国内模型统一设 30
max_retries 请求失败自动重试次数 整数,默认 3 网络一般设 3~5
stream 是否开启流式打字机输出 True/False 控制台实时输出开 True;普通调用 False
stop 自定义停止生成关键词 列表格式:["结束","\n\n"] 需要截断固定结尾时使用
seed 随机种子,固定输出结果 固定整数如 42 需要每次回答一模一样时用
  1. 链式调用


二、相关概念

Runable和LCEL

接口文档https://reference.langchain.com/python/langchain-core/runnables

  1. Runnable提供了一系列标准接口,他解决了不同大模型接口参数等不同的问题

  2. LCEL(LangChain Expression Language)是声明式编排语法,用极简方式把多个 Runnable 组合成复杂链(Chain),组合后的链依然是 Runnable,完整保留所有标准接口能力。

# 5.定义链 chain = model | parser RunnableSequence(first=model, last=chain) model.pipe(parser)

Runnable = 零件标准:规定每个组件怎么跑、输入输出格式

LCEL = 组装图纸:用 | 把合规零件拼成流水线

Logo

Agent 垂直技术社区,欢迎活跃、内容共建。

更多推荐