词文本嵌入

幻觉问题

大预言模型存在换也问题-生成虚假信息，无法实时获取数据或执行具体操作

工具的封装与调用

天气的封装调用
langChain 通过@tool装饰器将Python转换为Agent可调用的工具、
用户输入->Agent解析意图
匹配工具->执行函数
返回结果->整合到Agent响应

import os
from langchain_community.chat_models import ChatZhipuAI
key = ''
os.environ["ZHIPUAI_API_KEY"] = key
chat = ChatZhipuAI(
	model = "glm-4",
	temperature = 0.5
)

from langchain.agents import create_react_agent,AgentExecutor
from langchain import hub
#创建工具对象
tools = [get_weather]
#获取提示词
prompt = hub.pull("hwchase17/react")
#创建智能体
agent = create_react_agent(llm = chat,tools = tools,prompt = prompt)
#创建AgentExecutor,运行智能体
agent_executor = AgentExecutor(agent = agent,tools = tools,verbose = True)
#调用智能体
response = anget_executor.invoke({'input':'今天北京天气如何？'})
print(response)

检索增强生成-Retrieval Augmented Generation（RAG）

商业化货地RAG实践

RAG常见问题：

1. 切割太碎片化容易丢失上下文
2. 不同格式的文档如何处理、图片表格等如何正确的提取信息
3. 检索前优化：微调Embedding模型；混合检索；问题转换
4. 检索后优化：召回重排；信息压缩；知识融合
   

AI Agent

应用场景：
智能客服、智能培训、多代理系统

RAG技术与应用

1. 倒排索引

向量数据库索引结构

2. KNN搜索

计算查询向量与数据库中每一个向量的距离，选择最近的K个数据点

3. 乘积量化

Gradio 简易WebUI框架

无需任何编程基础 ，快速实现模型的效果展示

import gradio as gr
#功能实现
def reverse_text(text):
	return text[::-1]
#界面配置
demo = gr.Interface(fn=reverse_text,inputs="text",outputs="text")
demo.lunch(share = "True")

提示词工程

文档分割

切割

文本向量化

向量数据库

存储和处理向量数据，高效实现检索