Agentic RAG：对标准RAG(增强检索生成系统)的能力增强
一个简单的 RAG 由一个检索组件（通常由嵌入模型和向量数据库组成）和一个生成组件（一个LLM）构成。在推理时，用户查询的问题在索引文档中进行相似性搜索，检索出与问题最相似的文档，并为LLM提供额外的上下文。它通过整合外部知识源来增强传统的大语言模型 (LLM)，使LLM能够访问和利用除初始训练数据之外的其他大量信息。可以将 RAG 想象为一位学者，除了拥有自己的知识外，还可以即时访问到一座全面的
1、 基本概念
1.1 什么是Retrieval-Augmented Generation (RAG)
一个简单的 RAG 由一个检索组件（通常由嵌入模型和向量数据库组成）和一个生成组件（一个LLM）构成。
在推理时，用户查询的问题在索引文档中进行相似性搜索，检索出与问题最相似的文档，并为LLM提供额外的上下文。
它通过整合外部知识源来增强传统的大语言模型 (LLM)，使LLM能够访问和利用除初始训练数据之外的其他大量信息。
可以将 RAG 想象为一位学者，除了拥有自己的知识外，还可以即时访问到一座全面的图书馆。
RAG架构
典型的 RAG 应用有两个显著的局限性
-
简单的 RAG 仅考虑一个外部知识源。然而，一些场景可能需要多个外部知识源，而另一些场景可能需要外部工具和 API，例如网络搜索。
-
上下文只被检索一次。对于检索到的上下文的质量没有推理或验证。
1.2 什么是Agent
AI Agent，即人工智能代理，一般直接叫做智能体。在是一种能够感知环境、做出决策并采取行动的系统。
这些系统能够执行被动的任务，也能够主动寻找解决问题的方法，适应环境的变化，并在没有人类直接干预的情况下做出决策。
Agent的核心组成部分是：
-
模型
在Agent的范畴内，模型指的是Agent流程中集中决策者的语言模型（LLM）。
-
记忆
包含短期记忆和长期记忆两部分。短期记忆与上下文学习有关，属于提示工程的一部分，而长期记忆涉及信息的长时间保留和检索，通常利用外部向量存储和快速检索。
-
规划
Agent需要具备规划(同时也包含决策)能力，以有效地执行复杂任务。这涉及子目标的分解(Subgoal Decomposition)、连续的思考(即思维链)、自我反思和批评(Self-critics)，以及对过去行动的反思(Reflection)
-
工具
Agent 可能调用的各种工具，如日历、计算器、代码解释器和搜索功能等
1.3 什么是Agentic RAG
Agentic RAG 是一种基于 AI Agent的 RAG 实现。
具体而言，它将AI Agent纳入 RAG 流程中，以协调其组件并执行超越简单信息检索和生成的额外操作，以克服RAG基本流程的局限性。
RAG Agent可以在以下示例检索场景中进行推理和行动：
-
决定是否检索信息
-
决定使用哪个工具来检索相关信息
-
优化查询问题
-
评估检索到的上下文，并决定是否需要重新检索。
1.4 Agentic RAG 和 RAG 区别
尽管 RAG（发送查询、检索信息和生成响应）的基本概念保持不变，但工具的使用使其更加通用，从而变得更加灵活和强大。
1.4.1 传统RAG的核心机制
-
流程固定：用户提问 → 单次检索外部数据 → 生成回答。
-
被动响应：基于当前查询直接检索，生成一次性结果。
-
适用场景：简单问答、事实性查询（如“太阳系有多少行星？”）。
1.4.2 Agentic RAG的创新点
自主决策与动态流程：
-
任务优化和分解：对用户问题进行优化或将复杂问题拆解为子任务（如“比较A和B”分解为检索A、检索B、对比分析）。
-
多步交互：多次检索与生成循环，逐步优化结果（如先查定义，再查应用，最后整合）。
-
动态调整：根据生成内容或用户反馈调整检索策略（如补充遗漏的信息源）。
主动性与智能体特性：
-
规划模块：决定何时检索、如何分解问题。
-
自我评估：检查答案完整性，触发二次检索或修正（如发现数据冲突时重新验证）。
交互与反馈：
-
多轮对话：支持上下文感知的持续交互（如追问、澄清需求）。
-
用户反馈利用：根据用户修正（如“我需要更多细节”）优化后续步骤。
| 特征 | 传统RAG | Agentic RAG |
|---|---|---|
| 流程灵活性 | 固定单次检索生成 | 动态多步骤，自主调整流程 |
| 任务处理能力 | 适合简单、明确的问题 | 处理复杂、多层次的查询 |
| 交互性 | 单轮响应 | 支持多轮对话与上下文跟踪 |
| 决策自主性 | 被动执行 | 主动规划、分解任务并优化路径 |
| 反馈机制 | 无或有限 | 内置自我评估与用户反馈整合 |
| 适用场景 | 事实问答、文档摘要 | 深度分析、对比研究、开放域复杂任务 |
2、 核心架构
2.1 Agentic RAG 架构
在最基本的形式中，Agent是一个路由的作用。Agent决定从哪个来源检索额外的上下文。外部知识来源于（向量）数据库或其他渠道。
在更复杂的场景中，多智能体系统发挥作用。这些架构涉及多个智能体协同工作，每个智能体专注于特定的任务或数据源。
2.2 Agentic RAG的实现思路
基本的Agentic RAG的核心架构主要由规划模块、执行模块两个基本模块组成。
这些模块通过动态协作，实现了从任务优化到结果生成的全流程自动化。
2.2.1 规划模块：任务优化与决策
规划模块是Agentic RAG的“大脑”，负责将用户查询的问题进行优化，或将复杂的问题拆解为可执行的子任务。其核心功能包括意图识别和任务优化。
例如，当用户提问“如何选择一款适合家庭使用的空气净化器？”时，规划模块会首先识别问题的核心需求（如“产品选购建议”），然后生成一系列子任务，如“检索空气净化器的核心性能指标”、“查找用户评价与口碑”、“分析不同品牌的性价比”等。
2.2.2 执行模块：知识检索与生成优化
执行模块是Agentic RAG的“双手”，负责完成具体的检索与生成任务。
其中生成优化是执行模块的关键功能。传统RAG的生成过程往往是一次性的，而Agentic RAG则引入了多轮生成与修正机制。
例如，当系统检测到生成内容中存在低可信度声明时，会自动触发修正检索，补充缺失信息或修正错误内容。
3、 技术实现
完整的状态图：
# 定义新的工作流
workflow = StateGraph(AgentState) # 使用AgentState作为状态类型
# 定义工作流中的节点
workflow.add_node("agent", agent) # 添加智能体节点
retrieve = ToolNode([retriever_tool]) # 创建检索工具节点
workflow.add_node("retrieve", retrieve) # 添加检索节点
workflow.add_node("rewrite", rewrite) # 添加问题重写节点
workflow.add_node("generate", generate) # 添加答案生成节点（在确认文档相关后使用）
# 设置初始边：从START到agent节点
workflow.add_edge(START, "agent")
# 设置条件边：根据智能体决策决定是否检索
workflow.add_conditional_edges(
"agent",
tools_condition,
{
# 将条件输出映射到图中的节点
"tools": "retrieve", # 如果需要工具，则转到retrieve节点
END: END, # 否则结束流程
},
)
# 设置检索后的条件边
workflow.add_conditional_edges(
"retrieve",
# 评估文档相关性
grade_documents,
)
# 设置固定边
workflow.add_edge("generate", END) # 生成答案后结束
workflow.add_edge("rewrite", "agent") # 重写问题后回到智能体节点
3.1 规划模块
规划模块由agent、查询优化（rewrite query）和文档相关性评估（grade_documents）共同组成
# 文档相关性评估函数
def grade_documents(state) -> Literal["generate", "rewrite"]:
"""
评估检索到的文档是否与问题相关
Args:
state (messages): 当前状态
Returns:
str: 文档是否相关的决策结果
"""
print("---检查文档相关性---")
# 数据model
class grade(BaseModel):
"""用于相关性检查的二元评分"""
binary_score: str = Field(description="相关性评分 'yes' 或 'no'")
# 初始化LLM模型
model = ChatOpenAI(temperature=0, model="gpt-4o-mini",base_url="https://api.openai-hk.com/v1",streaming=True)
# 为LLM添加结构化输出功能
llm_with_tool = model.with_structured_output(grade)
# 提示词模板 prompt = PromptTemplate(
template="""你是一个评估检索文档与用户问题相关性的评分器。\n
这是检索到的文档: \n\n {context} \n\n
这是用户的问题: {question} \n
如果文档包含与用户问题相关的关键词或语义含义，则将其评为相关。\n
给出二元评分 'yes' 或 'no' 来表示文档是否与问题相关。""",
input_variables=["context", "question"],
)
# 构建处理链
chain = prompt | llm_with_tool
# 获取消息和文档
messages = state["messages"]
last_message = messages[-1]
question = messages[0].content
docs = last_message.content
# 执行评估
scored_result = chain.invoke({"question": question, "context": docs})
score = scored_result.binary_score
# 根据评分返回决策
if score == "yes":
print("---决策: 文档相关---")
return"generate"
else:
print("---决策: 文档不相关---")
print(score)
return"rewrite"
### Nodes
def agent(state):
"""
调用智能体模型根据当前状态生成响应。根据问题决定是否使用检索器工具或直接结束。
Args:
state (messages): 当前状态
Returns:
dict: 更新后的状态，包含附加到消息中的智能体响应
"""
print("---调用智能体---")
messages = state["messages"] # 获取当前消息
model = ChatOpenAI(temperature=0, streaming=True, base_url="https://api.openai-hk.com/v1",model="gpt-4o-mini")
# 初始化LLM模型
model = model.bind_tools(tools) # 绑定工具
response = model.invoke(messages) # 调用模型生成响应
return {"messages": [response]} # 返回更新后的消息列表
def rewrite(state):
"""
转换查询以生成更好的问题。
Args:
state (messages): 当前状态
Returns:
dict: 更新后的状态，包含重新表述的问题
"""
print("---转换查询---")
messages = state["messages"] # 获取当前消息
question = messages[0].content # 获取原始问题
# 构建改进问题的提示
msg = [
HumanMessage(
content=f""" \n
查看输入并尝试理解其潜在的语义意图/含义。\n
这是初始问题:
\n ------- \n
{question}
\n ------- \n
请提出一个改进后的问题: """,
)
]
# 初始化LLM模型
model = ChatOpenAI(temperature=0, base_url="https://api.openai-hk.com/v1",model="gpt-4o-mini", streaming=True)
response = model.invoke(msg) # 生成改进后的问题
return {"messages": [response]} # 返回更新后的消息
3.2 执行模块
执行模块由retrieve、generate组成
# 定义要处理的网页URL列表
urls = [
"https://lilianweng.github.io/posts/2023-06-23-agent/",
"https://lilianweng.github.io/posts/2023-03-15-prompt-engineering/",
"https://lilianweng.github.io/posts/2023-10-25-adv-attack-llm/",
]
# 加载所有网页文档
docs = [WebBaseLoader(url).load() for url in urls]
# 将嵌套列表展平为一维列表
docs_list = [item for sublist in docs for item in sublist]
# 创建文本分割器实例
text_splitter = RecursiveCharacterTextSplitter.from_tiktoken_encoder(
chunk_size=100, chunk_overlap=50
)
# 执行文档分割操作
doc_splits = text_splitter.split_documents(docs_list)
# 初始化嵌入模型
embedding_llm = OpenAIEmbeddings(
base_url="https://api.openai-hk.com/v1"
)
# 创建向量数据库实例
vectorstore = Chroma.from_documents(
documents=doc_splits, # 分割后的文档
collection_name="rag-chroma", # 集合名称
persist_directory="./chroma_db", # 持久化存储目录
embedding=embedding_llm, # 使用的嵌入模型
)
# 创建检索器实例
retriever = vectorstore.as_retriever() # 将向量数据库转换为检索器
########################################################################################################################
# 导入检索器工具创建函数
from langchain.tools.retriever import create_retriever_tool
# 创建检索器工具实例
retriever_tool = create_retriever_tool(
retriever, # 检索器实例
"retrieve_blog_posts", # 工具名称
"搜索并返回有关 Lilian Weng 博文的信息，内容涉及 LLM agents、提示工程和对 LLMs 的对抗性攻击。", # 工具描述
)
def generate(state):
"""
生成答案
Args:
state (messages): 当前状态
Returns:
dict: 更新后的状态，包含生成的答案
"""
print("---生成答案---")
messages = state["messages"] # 获取当前消息
question = messages[0].content # 获取问题
last_message = messages[-1] # 获取最后一条消息
docs = last_message.content # 获取检索到的文档
# 获取RAG提示词模板
prompt = hub.pull("rlm/rag-prompt")
# 初始化LLM模型
llm = ChatOpenAI(base_url="https://api.openai-hk.com/v1",model_name="gpt-4o-mini", temperature=0, streaming=True)
# 文档格式化函数
def format_docs(docs):
return"\n\n".join(doc.page_content for doc in docs) # 将多个文档内容合并
# 构建RAG处理链
rag_chain = prompt | llm | StrOutputParser()
# 执行RAG链生成答案
response = rag_chain.invoke({"context": docs, "question": question})
return {"messages": [response]} # 返回包含答案的更新后消息
prompt = hub.pull("rlm/rag-prompt").pretty_print()
4、 Agentic RAG 的局限性
尽管Agentic RAG展现了巨大的潜力，但其发展仍面临诸多局限：
计算延迟：
多轮检索与修正机制显著增加了计算开销。
计算成本激增：
多轮检索与评估使API调用次数大幅度增长。
责任归属困境：
当自主生成的医疗建议导致误诊时，责任归属不明确
Agentic RAG不仅代表着技术的迭代，更预示着人机协作模式的根本变革。当系统能够自主完成需求分析→知识检索→逻辑推理→结果验证的全流程时，人类专家得以从信息过载中解放，专注于更高阶的创造性工作。
那么，如何系统的去学习大模型LLM？
作为一名从业五年的资深大模型算法工程师，我经常会收到一些评论和私信，我是小白，学习大模型该从哪里入手呢？我自学没有方向怎么办？这个地方我不会啊。如果你也有类似的经历，一定要继续看下去！这些问题啊，也不是三言两语啊就能讲明白的。
所以我综合了大模型的所有知识点，给大家带来一套全网最全最细的大模型零基础教程。在做这套教程之前呢，我就曾放空大脑，以一个大模型小白的角度去重新解析它，采用基础知识和实战项目相结合的教学方式，历时3个月，终于完成了这样的课程，让你真正体会到什么是每一秒都在疯狂输出知识点。
由于篇幅有限，⚡️ 朋友们如果有需要全套 《2025全新制作的大模型全套资料》，扫码获取~
👉大模型学习指南+路线汇总👈
我们这套大模型资料呢，会从基础篇、进阶篇和项目实战篇等三大方面来讲解。
👉①.基础篇👈
基础篇里面包括了Python快速入门、AI开发环境搭建及提示词工程，带你学习大模型核心原理、prompt使用技巧、Transformer架构和预训练、SFT、RLHF等一些基础概念，用最易懂的方式带你入门大模型。
👉②.进阶篇👈
接下来是进阶篇，你将掌握RAG、Agent、Langchain、大模型微调和私有化部署，学习如何构建外挂知识库并和自己的企业相结合，学习如何使用langchain框架提高开发效率和代码质量、学习如何选择合适的基座模型并进行数据集的收集预处理以及具体的模型微调等等。
👉③.实战篇👈
实战篇会手把手带着大家练习企业级的落地项目（已脱敏），比如RAG医疗问答系统、Agent智能电商客服系统、数字人项目实战、教育行业智能助教等等，从而帮助大家更好的应对大模型时代的挑战。
👉④.福利篇👈
最后呢，会给大家一个小福利，课程视频中的所有素材，有搭建AI开发环境资料包，还有学习计划表，几十上百G素材、电子书和课件等等，只要你能想到的素材，我这里几乎都有。我已经全部上传到CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
相信我，这套大模型系统教程将会是全网最齐全 最易懂的小白专用课！！
Agent 垂直技术社区，欢迎活跃、内容共建。
更多推荐
8
0- 0
已为社区贡献38条内容
所有评论(0)