引言

RAG（检索增强生成）是企业AI应用的基础，但很多企业的RAG系统都面临同样的问题：

• 召回率低（想找的找不到）
• 准确率差（找到的不对）
• 答案质量不稳定
• 优化无从下手

极智词元在优化数百家企业RAG系统的过程中，总结了一套从60分到95分的优化方法论。

---

一、RAG系统优化的核心指标

指标	说明	60分	80分	95分
Top-5召回率	检索相关文档的比例	60%	80%	95%
Top-1准确率	第一个结果正确的比例	60%	80%	90%
答案质量评分	用户对答案的满意度	60分	80分	90分

---

二、优化路线图（60→80→95分）

60分（基础可用）
   ↓ 优化1-4
80分（良好可用）
   ↓ 优化5-8
95分（优秀，生产级）

---

三、优化1：文档预处理优化（基础中的基础）

问题现象

• 文档格式混乱，解析效果差
• 噪音多（广告、页眉页脚）
• 结构不清晰

优化方案

from langchain.document_loaders import (
    PyPDFLoader, Docx2txtLoader, TextLoader
)
from langchain.text_splitter import RecursiveCharacterTextSplitter
import re

def clean_text(text):
    # 去除多余空格和换行
    text = re.sub(r'\s+', ' ', text)
    # 去除URL
    text = re.sub(r'http\S+', '', text)
    # 去除特殊符号
    text = re.sub(r'[^\w\s\u4e00-\u9fa5]', '', text)
    return text.strip()

def load_and_clean_document(file_path):
    # 加载文档
    if file_path.endswith('.pdf'):
        loader = PyPDFLoader(file_path)
    elif file_path.endswith('.docx'):
        loader = Docx2txtLoader(file_path)
    else:
        loader = TextLoader(file_path, encoding='utf-8')

    documents = loader.load()

    # 清理文本
    for doc in documents:
        doc.page_content = clean_text(doc.page_content)

    return documents

效果提升

• 准确率提升：10%
• 答案质量提升：5分

---

四、优化2：分块策略优化（不是越大越好）

问题现象

• 分块太小：上下文不足
• 分块太大：检索不精准

优化方案

text_splitter = RecursiveCharacterTextSplitter(
    chunk_size=1000,  # 中文推荐：1000
    chunk_overlap=200,  # 推荐：20%重叠
    separators=["\n\n", "\n", "。", "！", "？", " ", ""],
    length_function=len
)

# 按层级分块策略
# 小文档：500
# 中等文档：1000
# 长文档：1500

极智词元分块策略推荐

文档类型	chunk_size	chunk_overlap
FAQ	300-500	50-100
手册	800-1200	150-200
长文档	1200-1800	200-300

效果提升

• 召回率提升：8%
• 准确率提升：5%

---

五、优化3：向量化模型选择（合适的才是最好的）

问题现象

• 用了通用向量化模型，中文效果不好
• 没有针对领域优化

极智词元推荐模型对比

模型	语言	维度	特点	中文得分
OpenAda	中英	1536	通用，质量高	90分
Qwen-Embedding	中英	1536	阿里，中文好	92分
BGE	中英	1024	智源，中文好	90分

优化方案

from langchain.embeddings import HuggingFaceEmbeddings

# 中文场景推荐 Qwen-Embedding
embeddings = HuggingFaceEmbeddings(
    model_name="Qwen/Qwen-Embedding"
)

效果提升

• 召回率提升：10%
• 准确率提升：8%

---

六、优化4：混合检索（语义+关键词，不再纠结）

问题现象

• 只用语义检索：对精确匹配不好
• 只用关键词检索：不理解语义

优化方案（极智词元混合检索）

用户提问
   │
   ├──────────────┐
   │              │
   ▼              ▼
语义检索      关键词检索
   │              │
   └──────┬───────┘
          │
          ▼
结果融合（Rerank）
          │
          ▼
返回Top-K文档

代码示例

from langchain.retrievers import EnsembleRetriever
from langchain.vectorstores import Chroma

# 语义检索
semantic_retriever = Chroma(
    embedding_function=embeddings,
    ...
).as_retriever()

# 关键词检索（BM25）
keyword_retriever = BM25Retriever.from_documents(...)

# 混合检索
ensemble_retriever = EnsembleRetriever(
    retrievers=[semantic_retriever, keyword_retriever],
    weights=[0.6, 0.4]  # 可调
)

效果提升

• 召回率提升：15%
• 准确率提升：10%

---

七、优化5：重排序（Rerank）（从60→80分关键一步）

问题现象

• 检索结果有相关文档，但排名靠后
• 需要把相关文档往上排

优化方案

from sentence_transformers import CrossEncoder

# 重排序模型
cross_encoder = CrossEncoder('BAAI/bge-reranker-large')

def rerank_results(query, docs, top_k=5):
    pairs = [[query, doc.page_content] for doc in docs]
    scores = cross_encoder.predict(pairs)

    # 排序
    scored_docs = sorted(
        zip(docs, scores),
        key=lambda x: x[1], reverse=True)

    return [doc for doc, score in scored_docs[:top_k]]

极智词元推荐模型对比

模型	特点	推荐场景
BGE-Reranker	智源，中文好	中文通用
Qwen-Reranker	阿里，中文好	企业场景

效果提升

• 召回率提升：10%
• 准确率提升：15%

---

八、优化6：查询扩展（Query Expansion）

问题现象

• 用户提问太短，语义不明确
• 同一个问题不同问法

优化方案

from langchain.llms import OpenAI
from langchain.prompts import PromptTemplate

template = """请把用户问题扩展成更详细、更完整的查询。

用户问题：{question}

扩展后的查询："""

prompt = PromptTemplate(
    input_variables=["question"],
    template=template
)

def expand_query(question, llm):
    expanded = llm(prompt.format(question=question))
    return expanded

效果提升

• 召回率提升：8%
• 准确率提升：5%

---

九、优化7：提示词工程（Prompt Engineering）

问题现象

• 提示词太简单，模型不知道怎么回答
• 提示词太冗余，浪费词元

优化方案（极智词元提示词模板）

template = """你是极智词元的智能助手。请根据以下上下文回答用户问题。

上下文：
{context}

用户问题：{question}

要求：
1. 仅基于上下文回答
2. 如果上下文没有，说"我不太确定"
3. 回答简洁，说重点
4. 如有需要，可以引用文档来源

回答："""

效果提升

• 答案质量提升：15分

---

十、优化8：元数据过滤（Metadata Filter）

问题现象

• 检索结果不区分来源
• 有些来源可能不相关

优化方案

# 在分块时添加元数据
for doc in documents:
    doc.metadata = {
        "source": doc.metadata["source"],
        "category": "操作手册",
        "department": "技术部",
        "date": "2026-06"
    }

# 检索时过滤
retriever = vectorstore.as_retriever(
    search_kwargs={
        "filter": {"category": "操作手册"}
    }
)

效果提升

• 准确率提升：8%

---

十一、优化9-10：缓存优化与反馈闭环（从80→95分）

优化9：缓存优化

from langchain.cache import InMemoryCache
from langchain.llms import OpenAI

langchain.llm_cache = InMemoryCache()

# 缓存命中，二次调用直接返回

优化10：反馈闭环

用户反馈（好/不好/更准/相关）
   ↓
分析反馈
   ↓
优化检索策略
   ↓
持续迭代

---

十二、实战案例：某企业RAG系统优化

背景

• RAG上线3个月，用户不满意
• 初始指标：召回率60%，准确率60%

极智词元优化方案

1. 文档预处理
2. 分块策略优化
3. 向量化模型（Qwen-Embedding）
4. 混合检索
5. 重排序（Rerank）
6. 提示词优化
7. 反馈闭环

效果数据

指标	优化前	优化后
Top-5召回率	60%	95%
Top-1准确率	60%	90%
答案质量评分	60分	92分

---

总结

极智词元RAG系统优化10招：

优化项	预期提升	难度
文档预处理	准确率+10%	⭐
分块策略优化	召回率+8%	⭐
向量化模型	召回率+10%	⭐
混合检索	召回率+15%	⭐⭐
重排序（Rerank）	准确率+15%	⭐⭐
查询扩展	召回率+8%	⭐⭐
提示词工程	答案质量+15分	⭐⭐
元数据过滤	准确率+8%	⭐⭐
缓存优化	速度+50%	⭐
反馈闭环	持续优化	⭐⭐

极智词元，让您的RAG系统从60分到95分！

---

作者： Mia
极智词元首席技术官兼首席创意官
专注于企业级RAG系统优化