推荐学习顺序

• 第一章：大模型基础原理→ 理解LLM和Transformer（1-2天）
• 第二章：Prompt工程 → 掌握与大模型沟通的核心技能（1天）
• 第三章：RAG技术 → 构建私有知识库的关键技术（2-3天）
• 第四章：AI Agent → 从对话到自主任务执行（2-3天）
• 第五章：大模型微调→ LoRA/QLoRA专业化定制（2-3天）
• 第六章：大模型部署→ API调用到生产部署（1-2天）
• 第七章：行业应用→ 各领域落地案例（按需）

第一章：大模型基础原理（LLM & Transformer）

从零理解大语言模型的核心机制

1.1 什么是大语言模型（LLM）

• 定义：基于海量文本训练、参数规模超过百亿的神经网络模型
• 核心能力：文本生成、理解、推理、代码生成、多语言翻译
• 代表模型：GPT-4、Claude、LLaMA、DeepSeek、Qwen、GLM
• 训练规模：参数量从数十亿到数千亿（如GPT-4约1.8T参数）
• 涌现能力：模型在足够大规模后突然涌现出推理、逻辑、情感理解等新能力
• 

1.2 Transformer 架构精要

• 核心机制：自注意力机制（Self-Attention）— 让每个词关注句子中所有其他词
• 注意力公式：Attention(Q,K,V) = softmax(QK^T / √d_k) × V
• 多头注意力：并行多个注意力头，捕捉不同维度的语义关系
• 位置编码：通过sin/cos函数注入位置信息（因Transformer本身无序列感知）
• Encoder-Decoder结构：Encoder理解输入，Decoder生成输出
• 仅Decoder结构：GPT系列采用，适合文本生成任务
• 层归一化（LayerNorm）+ 残差连接：保证深层网络训练稳定性

1.3 LLM 训练流程（三阶段）

• 阶段1 — 预训练（Pre-training）：海量无标注文本，学习语言规律，自回归预测下一个token
• 阶段2 — 监督微调（SFT）：人工标注的问答对，让模型学会指令跟随
• 阶段3 — RLHF（人类反馈强化学习）：人类评分 → 奖励模型 → PPO强化学习优化
• Tokenization：BPE/WordPiece将文字切分为token，中文约1字=1-2token
• Context Window：模型一次能处理的最大token数（如4K/8K/128K）

1.4 核心技术生态图

• LLM（基础能力）→ Prompt工程（使用技巧）→ RAG（外挂知识）→ Agent（自主行动）→ 微调（专业化）
• 向量数据库：将文本转为高维向量，支持语义相似检索
• 知识图谱：结构化知识表示，补充LLM的推理弱点
• Function Calling：LLM调用外部工具/API的标准接口
• AGI方向：通过多模态+多Agent协作趋近通用人工智能

1.5 关键概念速查

• Temperature：控制输出随机性（0=确定，1=创意，>1=混乱）
• Top-P（核采样）：从累积概率达P的token中采样，控制多样性
• Hallucination（幻觉）：模型编造不存在的事实，主要来源于训练数据偏差
• Grounding：将模型输出与真实数据源关联，减少幻觉
• Embedding：文本的语义向量表示，语义相近的文本向量距离近
• In-context Learning：无需微调，仅通过提示词中的示例让模型学习新任务

第二章：Prompt工程与提示词技巧

用最少的输入，得到最好的输出

2.1 Prompt五大分类体系

• 【直接型】Zero-shot（无示例直接提问）/ Few-shot（给2-5个示例）/ ReAct（推理+行动交替）
• 【链式型】CoT思维链 / ToT思维树 / Self-Consistency自洽 / Reflexion反思
• 【图型】GoT思维图（多路径融合）
• 【生成型】APE自动提示工程 / Automatic CoT
• 【集成型】RAG检索增强 / ART自动推理工具 / PAL程序辅助语言

2.2 必掌握的核心策略（按效果排序）

• ★★★ CoT思维链：‘请一步一步思考…’ — 复杂推理题准确率提升40%+
• ★★★ Few-shot示例：提供2-3个格式示例，强制模型按格式输出
• ★★★ 角色设定：‘你是一位有10年经验的…’ — 激活专业知识域
• ★★☆ Self-Consistency：同一问题生成多个答案，投票选最一致的
• ★★☆ ReAct：让模型先Reason（推理）再Act（执行），适合工具调用
• ★★☆ 结构化输出：‘请以JSON格式输出，包含字段：title/summary/tags’
• ★☆☆ ToT思维树：探索多条推理路径，回溯剪枝，适合复杂规划

2.3 Prompt优化9大方法

• 明确性：用具体数字代替模糊描述（‘300字’ 而非 ‘简短’）
• 结构化：使用XML/Markdown分隔不同部分（）
• 约束条件：明确告知不要什么（‘不要使用技术术语’ / ‘不超过500字’）
• 示例驱动：'输入→输出’对照示例比任何描述都有效
• 分步拆解：把大任务拆成子任务，逐步让模型完成
• 系统提示词：在System角色中设定持久行为规则
• 温度控制：创意类任务T=0.7-1.0，精确类任务T=0-0.3
• 迭代优化：记录每次Prompt变化和结果，找规律
• 负面提示：明确告知避免的内容（‘不要提供法律建议’）

2.4 万能提问模板（7步法）

• Step 1 — 角色：你是一位[职业/专家类型]
• Step 2 — 背景：当前情况是[具体上下文]
• Step 3 — 任务：我需要你[具体动作动词+目标]
• Step 4 — 格式：请以[格式：列表/表格/JSON/Markdown]输出
• Step 5 — 约束：要求[字数/语气/禁止内容]
• Step 6 — 示例：参考以下示例：[输入→输出示例]
• Step 7 — 验证：输出后请检查是否符合[验证标准]

2.5 实战Prompt速查表

• 代码生成：‘用Python实现[功能]，要求：1)有注释 2)处理异常 3)给出使用示例’
• 文档总结：‘请提取以下文档的核心要点，用5条bullet point输出，每条不超过30字’
• 对比分析：‘请对比[A]和[B]的优缺点，输出Markdown表格，包含：维度/A的表现/B的表现’
• 方案设计：‘请作为[角色]，为[场景]设计一个[方案]，要包含：背景/目标/方案/风险/评估’
• 调试帮助：‘以下代码报错[错误信息]，请分析原因并给出修复方案，标注修改位置’
  

第三章：RAG技术（检索增强生成）

让大模型能读懂你的私有知识库

3.1 RAG核心原理

• 定义：Retrieval-Augmented Generation — 先检索相关文档，再让LLM基于检索结果生成答案
• 解决的问题：LLM知识截止日期、幻觉问题、私有知识无法访问
• 核心公式：RAG = 向量检索（Retrieval）+ 上下文注入（Augmentation）+ LLM生成（Generation）
• vs 微调：RAG无需训练，实时更新知识；微调需要训练，知识内化模型参数

3.2 RAG标准流程（离线+在线）

• 【离线阶段— 建库】文档加载(Load) → 文本切片(Chunk) → 向量化(Embed) → 存入向量库(Store)
• 【在线阶段— 检索】用户提问 → Query向量化 → 相似度检索 → 取TopK文档
• 【生成阶段】将检索文档 + 用户问题组装成Prompt → 送入LLM → 生成答案
• 切片策略：固定长度(512/1024 tokens) + 重叠(50-100 tokens)防止语义截断
• Embedding模型推荐：BAAI/bge-large-zh（中文）、text-embedding-3-small（OpenAI）
• 向量库选择：Chroma（轻量本地）/ Milvus（生产级）/ Pinecone（云端）/ FAISS（离线）

3.3 高级RAG技术（15种优化）

·【预处理优化】

• ① LLM密度优化：用LLM清洗文档，去除噪声和冗余
• ② 分层索引：先建摘要索引，再建细节索引，两级检索
• ③ HyDE假设文档：先让LLM生成假设答案，用答案向量检索（提升语义匹配）
• ④ QA对生成：从文档自动生成问答对，增强检索多样性
• ⑤ 去重优化：语义去重，消除重复内容干扰

·【检索优化】

• ⑥ 查询改写：LLM将用户问题改写为更适合检索的形式
• ⑦ 多查询检索：同一问题生成多个变体查询，取并集结果
• ⑧ 混合检索：向量检索（语义）+ BM25关键词检索（精确），融合排序
• ⑨ 路由检索：根据问题类型选择不同数据源/索引

·【后处理优化】

• ⑩ Rerank重排序：用交叉编码器对检索结果重新排序，取最相关的
• ⑪ 上下文压缩：只保留检索文档中最相关的句子，减少token消耗
• ⑫ 自反思RAG：让LLM评估检索结果是否够用，不够则再检索

3.4 Rerank模型部署实战

·工具：TEI（Text Embedding Inference）— HuggingFace官方推理框架

·推荐模型：BAAI/bge-reranker-large（中英文，效果好）

·Docker部署命令：

· docker run -p 8080:80 -v /data:/data ghcr.io/huggingface/text-embeddings-inference:cpu-1.2 --model-id BAAI/bge-reranker-large

·LlamaIndex集成：使用 CustomRerank NodePostProcessor

· rerank = CustomRerank(top_n=3, model=‘BAAI/bge-reranker-large’)

·评估指标：MRR（平均倒数排名）、NDCG（归一化折现累积增益）

3.5 RAG vs Agent 选型指南

·选RAG的场景：有固定知识库、问答类任务、需要引用来源、延迟要求低

·选Agent的场景：需要多步推理、调用外部API、动态决策、执行操作

·融合使用：Agent + RAG = 智能体用RAG作为工具之一（最佳实践）

·典型案例：法律咨询（RAG检索法律条文）+ Agent（自动生成合同草稿）

第四章：AI Agent智能体开发

从对话机器人到自主执行任务的智能体

4.1 Agent核心概念

• 定义：Agent = LLM推理（大脑）+ 工具调用（手脚）+ 观察反馈（感知）的自主循环系统
• 核心循环：感知(Perceive) → 思考(Think) → 行动(Act) → 观察(Observe) → 循环
• 与普通LLM区别：LLM是单次问答；Agent是多步自主任务执行
• 自主性：Agent能自行规划步骤、调用工具、处理错误、完成复杂任务

4.2 Agent四大核心组件

• ① 规划模块（Planning）：任务分解 + 子任务排序 + 依赖关系分析
• ② 记忆模块（Memory）：短期（对话上下文）/ 长期（向量数据库）/ 工具记忆
• ③ 工具模块（Tools）：函数调用、API集成、数据库查询、浏览器操作
• ④ 执行模块（Execution）：按规划调用工具，处理返回结果，更新状态

4.3 Function Calling（工具调用）

• 原理：LLM输出结构化JSON描述要调用的函数和参数，代码层执行后返回结果
• 标准流程：定义函数Schema → LLM决定调用哪个函数 → 执行函数 → 结果反馈给LLM
• 函数Schema示例（OpenAI格式）：
• {“name”: “get_weather”, “parameters”: {“location”: “string”, “date”: “string”}}
• 支持并行调用：新版本支持一次调用多个函数（Parallel Function Calling）
• 常用工具库：LangChain Tools / LlamaIndex Tools / 自定义Python函数

4.4 主流Agent框架对比

• LangChain：最流行，生态最丰富，但代码抽象层过多，调试较复杂
• LangGraph：LangChain的有向图版本，支持条件分支和循环，适合复杂工作流
• AutoGen（微软）：多Agent协作，支持代码执行，适合编程类任务
• CrewAI：角色扮演框架，多个专业Agent组成团队协作
• ReAct模式：最基础，推理+行动+观察循环，容易理解和调试
• 推荐入门路径：ReAct → LangChain Agent → LangGraph复杂工作流

4.5 Agent十大趋势（2025-2026）

• ① 解决真实痛点：从Demo转向垂直行业刚需场景
• ② ToB企业部署：私有化部署成为主流，数据安全优先
• ③ 商业模式成熟：SaaS订阅/API调用/效果付费三种模式
• ④ 硬件集成：与机器人/IoT设备结合，走向物理世界
• ⑤ 超越聊天机器人：执行端到端业务流程，而非简单问答
• ⑥ 多平台融合：一个Agent服务多个入口（微信/飞书/浏览器）
• ⑦ 多模型协作：不同专长LLM组合，主模型+专家模型
• ⑧ 企业私有化：数据不出企业，私有知识库+私有部署
• ⑨ PM角色转变：产品经理需懂AI能力边界，成为Agent产品设计师
• ⑩ 评估体系建立：可靠性、可解释性、安全性成为核心指标

4.6 Agent开发实战要点

• 工具设计原则：每个工具职责单一，输入输出定义清晰
• 错误处理：必须有重试机制 + 降级策略 + 超时控制
• Prompt优化：System Prompt中明确Agent的角色、能力边界、输出格式
• 观察反馈：工具执行结果要简洁，避免把大量原始数据传回LLM
• 调试技巧：记录每步的Thought/Action/Observation，用日志追踪执行链
• 成本控制：减少不必要的LLM调用，缓存重复查询结果
• 

第五章：大模型微调技术（PEFT / LoRA）

用最小的成本，让通用模型变成专业模型

5.1 为什么需要微调

• 通用LLM的局限：不懂企业内部术语、无法遵循特定格式、回答风格不符
• 微调的收益：专业领域准确率提升、输出格式标准化、减少幻觉
• 微调 vs RAG：微调改变模型行为，RAG扩展模型知识；实际上经常结合使用
• 全量微调的问题：成本极高（需要80G+ VRAM），容易遗忘原始能力（灾难性遗忘）
• PEFT方案：只训练少量参数（0.1%-1%），效果接近全量微调

5.2 11种高效微调方法速览

·【软提示类】

• ① Prefix Tuning：在每层Transformer前添加可训练的前缀向量
• ② Prompt Tuning：只在输入层添加soft prompt，最轻量
• ③ P-Tuning v2：深层Prompt Tuning，适合NLU任务，效果接近全量微调

·【低秩分解类（主流）】

• ④ LoRA：在注意力矩阵旁添加低秩分解矩阵(A×B)，只训练A和B
• 核心：W’ = W + ΔW = W + A×B，其中rank(A×B) << rank(W)
• ⑤ DyLoRA：动态调整LoRA的rank，训练更灵活
• ⑥ AdaLoRA：自适应分配各层的rank，重要层rank大，次要层rank小
• ⑦ QLoRA：量化+LoRA，4bit量化节省显存，在消费级GPU上训练70B模型
• 核心创新：NF4量化 + Double Quantization + Paged Optimizer
• ⑧ QA-LoRA：专为量化感知的LoRA变体
• ⑨ LongLoRA：扩展上下文窗口的LoRA，支持超长文档微调

·【其他】

• ⑩ VeRA：比LoRA参数更少，使用随机固定矩阵
• ⑪ S-LoRA：服务多LoRA适配器的系统，支持动态加载

5.3 LoRA 实战指南

·PEFT库安装：pip install peft transformers datasets accelerate

·关键超参数：r（rank，通常4-64）/ alpha（缩放因子，通常=r或2r）/ dropout

·目标模块：通常是q_proj/v_proj（注意力的Q和V矩阵）

·代码示例（核心部分）：

· from peft import LoraConfig, get_peft_model

· config = LoraConfig(r=16, lora_alpha=32, target_modules=[‘q_proj’,‘v_proj’])

· model = get_peft_model(base_model, config)

·训练框架：Hugging Face Trainer / LLaMA-Factory / Axolotl（推荐）

·数据格式：Alpaca格式 {instruction, input, output} 或 ShareGPT格式

5.4 微调实践建议

·数据量：高质量1000条数据 > 低质量10000条数据

·数据质量：确保示例多样性，避免重复和错误标注

·显存要求：7B模型 + QLoRA ≈ 10GB VRAM（单张3090可跑）

·训练时长：1000条数据约1-2小时（单卡A100）

·评估方式：ROUGE/BLEU自动评估 + 人工评估（必须）

·过拟合防范：early stopping，验证集loss不再下降时停止

·模型合并：训练完用merge_and_unload将LoRA权重合并到基础模型

普通人如何抓住AI大模型的风口？

领取方式在文末

为什么要学习大模型？

目前AI大模型的技术岗位与能力培养随着人工智能技术的迅速发展和应用 ， 大模型作为其中的重要组成部分 ， 正逐渐成为推动人工智能发展的重要引擎 。大模型以其强大的数据处理和模式识别能力， 广泛应用于自然语言处理 、计算机视觉 、 智能推荐等领域 ，为各行各业带来了革命性的改变和机遇 。

目前，开源人工智能大模型已应用于医疗、政务、法律、汽车、娱乐、金融、互联网、教育、制造业、企业服务等多个场景，其中，应用于金融、企业服务、制造业和法律领域的大模型在本次调研中占比超过 30%。

随着AI大模型技术的迅速发展，相关岗位的需求也日益增加。大模型产业链催生了一批高薪新职业：

人工智能大潮已来，不加入就可能被淘汰。如果你是技术人，尤其是互联网从业者，现在就开始学习AI大模型技术，真的是给你的人生一个重要建议！

最后

只要你真心想学习AI大模型技术，这份精心整理的学习资料我愿意无偿分享给你，但是想学技术去乱搞的人别来找我！

在当前这个人工智能高速发展的时代，AI大模型正在深刻改变各行各业。我国对高水平AI人才的需求也日益增长，真正懂技术、能落地的人才依旧紧缺。我也希望通过这份资料，能够帮助更多有志于AI领域的朋友入门并深入学习。

真诚无偿分享！！！
vx扫描下方二维码即可
加上后会一个个给大家发
【附赠一节免费的直播讲座，技术大佬带你学习大模型的相关知识、学习思路、就业前景以及怎么结合当前的工作发展方向等，欢迎大家~】

大模型全套学习资料展示

自我们与MoPaaS魔泊云合作以来，我们不断打磨课程体系与技术内容，在细节上精益求精，同时在技术层面也新增了许多前沿且实用的内容，力求为大家带来更系统、更实战、更落地的大模型学习体验。

希望这份系统、实用的大模型学习路径，能够帮助你从零入门，进阶到实战，真正掌握AI时代的核心技能！

01 教学内容

• 从零到精通完整闭环：【基础理论 →RAG开发 → Agent设计 → 模型微调与私有化部署调→热门技术】5大模块，内容比传统教材更贴近企业实战！

• 大量真实项目案例： 带你亲自上手搞数据清洗、模型调优这些硬核操作，把课本知识变成真本事‌！

02适学人群

应届毕业生‌： 无工作经验但想要系统学习AI大模型技术，期待通过实战项目掌握核心技术。

零基础转型‌： 非技术背景但关注AI应用场景，计划通过低代码工具实现“AI+行业”跨界‌。

业务赋能突破瓶颈： 传统开发者（Java/前端等）学习Transformer架构与LangChain框架，向AI全栈工程师转型‌。

vx扫描下方二维码即可
【附赠一节免费的直播讲座，技术大佬带你学习大模型的相关知识、学习思路、就业前景以及怎么结合当前的工作发展方向等，欢迎大家~】

本教程比较珍贵，仅限大家自行学习，不要传播！更严禁商用！

03 入门到进阶学习路线图

大模型学习路线图，整体分为5个大的阶段：

04 视频和书籍PDF合集

从0到掌握主流大模型技术视频教程（涵盖模型训练、微调、RAG、LangChain、Agent开发等实战方向）

新手必备的大模型学习PDF书单来了！全是硬核知识，帮你少走弯路（不吹牛，真有用）

05 行业报告+白皮书合集

收集70+报告与白皮书，了解行业最新动态！

06 90+份面试题/经验

AI大模型岗位面试经验总结（谁学技术不是为了赚$呢，找个好的岗位很重要）

07 deepseek部署包+技巧大全

由于篇幅有限

只展示部分资料

并且还在持续更新中…

真诚无偿分享！！！
vx扫描下方二维码即可
加上后会一个个给大家发
【附赠一节免费的直播讲座，技术大佬带你学习大模型的相关知识、学习思路、就业前景以及怎么结合当前的工作发展方向等，欢迎大家~】