📚 项目推荐：notes-on-llms
我在系统整理大语言模型（LLM）相关知识的过程中，长期维护了一个公开文档仓库 notes-on-llms。
这个项目不是零散的论文笔记或 Prompt 技巧合集，而是从 模型原理 → 训练范式 → 推理优化 → Agent 架构 → 安全与对齐 → 多模态，系统性拆解 LLM 技术栈，构建一份 结构化的认知地图。
如果你已经接触过 LLM，希望从“会用模型”进阶到“理解模型系统”，这个仓库会更有参考价值。
🔗 项目地址：
https://likebeans.github.io/notes-on-llms/
⭐ 欢迎 Star / Follow，后续会持续更新。

摘要
随着大语言模型（LLMs）参数规模突破千亿量级，提示工程（Prompt Engineering）已从早期的经验性技巧演变为一门融合了认知科学、计算语言学与安全工程的系统性学科。本报告全面解构了提示工程的四层架构：基础层（上下文学习与CRISPE框架）、进阶层（思维链CoT与思维树ToT）、前沿层（自动化提示APE与多模态融合）及安全层（提示注入与指令层级防御）。基于 NeurIPS、ICLR 等顶级会议文献，为构建高性能、高可靠性的 AI 系统提供理论与实践指南。

---

1. 基础层：范式转移与上下文学习的认知机理

理解提示工程，首先要理解其在 AI 发展坐标系中的位置：我们不再是编写指令，而是激活神经网络权重中存储的世界知识。

1.1 NLP 计算范式的演变

• 范式 1.0：全监督学习 (Fully Supervised)

• 依赖大规模标注数据，模型缺乏通用性。

• 范式 2.0：预训练-微调 (Pre-train, Fine-tune)

• BERT/GPT-1 时代。先学习通用表示，再通过梯度更新（Gradient Updates）适应下游任务。

• 范式 3.0：预训练-提示-预测 (Pre-train, Prompt, Predict)

• GPT-3 时代。当参数达到 1750 亿时，涌现出上下文学习 (ICL) 能力。任务被重构为序列补全，无需更新权重。

1.2 上下文学习 (ICL) 的底层实现机制

ICL 是提示工程的物理基础，其运作机制主要包含以下理论：

1. 非梯度更新：模型权重 保持不变。提示语（Prompt）改变了模型的激活状态（Activations），像搜索键一样动态配置注意力头。
2. 隐式贝叶斯推理：预训练模型学习了 。提示语 让模型计算后验分布 ，通过示例缩减假设空间。
3. 规模效应：存在“涌现能力”（Emergent Ability），大模型（>100B）能从示例中显著获益，而小模型几乎无增益。

1.3 结构化提示框架：CRISPE

为了解决 LLM 输出的随机性，CRISPE 框架将提示语解构为六个核心组件：

组件符号	名称 (Name)	定义与功能	底层逻辑
C	Capacity (能力与角色)	指定模型扮演的角色（如“量子物理学家”）。	在潜在空间划定子空间，限制词汇选择概率，使其符合专业特征。
R	Insight (背景/洞察)	提供任务背景、受众画像及上下文。	显式填补模型无法感知的现实隐性知识，减少语义歧义。
I	Statement (指令/陈述)	明确具体的任务动作（如“翻译”、“代码”）。	核心动词，直接触发特定的任务处理模块。
S	Style (风格/个性)	规定输出语气或文体风格。	调整生成文本的困惑度与多样性，适配语用场景。
P	Parameter (参数/约束)	硬性约束（字数、JSON格式等）。	设置解码过程的边界条件，控制模型“发散”。
E	Experiment (实验/示例)	提供少样本示例（Few-Shot）。	利用 ICL 机制，通过 Input-Output 对校准泛化方向。

1.4 零样本 vs. 少样本学习

• 零样本 (Zero-Shot)：依赖模型对指令的纯粹理解。
• 少样本 (Few-Shot)：提供 K 个示例。示例充当了梯度下降的替代品，在推理时调整隐层状态，将预测分布推向正确的任务空间。

---

2. 进阶层：逻辑推理与思维链的算法实现

针对复杂的多步推理任务，进阶技术旨在打破“输入-输出”的直接映射，引导模型展示内部思维。

2.1 思维链 (Chain-of-Thought, CoT)

• 核心思想：将复杂问题分解为中间推理步骤。

• 原理：可变计算量 (Variable Compute)

• 标准提示要求模型在 1 个 Token 内完成推理，计算带宽不足。

• CoT 通过生成一系列中间 Token，“购买”了更多的计算时间（层数处理）。

• 零样本 CoT：只需添加咒语 “Let’s think step by step”，即可激活推理能力。

2.2 思维树 (Tree of Thoughts, ToT)

ToT 将生成过程概括为思维空间中的搜索算法，解决了 CoT 线性推理“一步错，步步错”的缺陷。

ToT 的四大模块：

1. 思维分解：将问题拆解。
2. 思维生成：每一步生成多个候选思维 (Candidate Thoughts)。
3. 状态评估：模型自我评估每个候选项的潜力（Sure/Maybe/Impossible）。
4. 搜索算法：利用 BFS 或 DFS 保留高分路径，剪枝低分路径，支持回溯 (Backtracking)。

经典案例：24点游戏

• CoT 成功率：4%（贪婪解码导致陷入局部最优）。
• ToT 成功率：74%（通过全局搜索和回溯找到最优解）。

2.3 自洽性 (Self-Consistency)

• 方法：设置高 Temperature，生成 40 个不同的推理路径。
• 决策：进行多数投票 (Majority Voting)。
• 逻辑：正确的推理路径通常相似，错误的路径千奇百怪。统计学方法可滤除偶然错误。

---

3. 前沿层：多模态融合与自动化生成

3.1 自动化提示工程 (APE)

利用 LLM 自身寻找最优提示。

• 流程：元提示生成 (Meta-Prompt) 评估表现 变异与选择。
• PE2 框架：引入“详细描述、上下文规范、逐步推理模板”，让“提示工程师模型”先分析缺陷再优化，性能比人工设计高出 6.3%。

3.2 视觉提示 (Visual Prompting)

• 图像修复范式：将所有视觉任务（分割、检测）统一为 Inpainting 问题。
• 操作：构建 网格（Grid），通过示例（如“黑白->着色”）让模型填补 Target 图片的掩码区域。
• 数据：基于 88,000 张 arXiv 学术插图训练，让模型学会视觉层面的逻辑推理。

3.3 多模态思维链 (Multimodal CoT)

针对 10 亿参数级轻量化模型的两阶段框架：

1. 原理生成 (Rationale Generation)：输入图片+问题 生成解释（如“异极相吸”）。
2. 答案推断 (Answer Inference)：输入图片+问题+解释 预测答案。

• 效果：将“感知”与“决策”解耦，在 ScienceQA 上超越 GPT-3.5。

---

4. 安全层：对抗性攻击与防御架构

4.1 提示注入与 DAN 模式

• 提示注入：诱导模型忽略系统提示。
• DAN (Do Anything Now)：
• 原理：角色扮演攻击。构建虚拟框架，迫使模型在“遵守安全准则”和“扮演 DAN”之间产生目标冲突。
• 机制：利用模型的顺从性 (Helpfulness) 偏好，模型为维持对话连贯性而牺牲安全性。

4.2 防御基石：指令层级 (Instruction Hierarchy)

传统的黑名单过滤已失效，根本方案是建立指令优先级：

1. 系统指令 ()：最高优先级。定义行为边界。
2. 用户指令 ()：次级优先级。在不违反 前提下执行。
3. 数据 ()：最低优先级。仅作为处理对象，严禁被解释为指令。

• 实现：指令片段嵌入技术，训练模型识别不同来源的 Token 并在冲突时遵循高优先级。

4.3 评测新范式：LLM-as-a-Judge

对于开放式任务，传统 NLP 指标失效，转向以强模型（如 GPT-4）为裁判。

评测维度	BLEU / ROUGE	LLM-as-a-Judge
评估机制	N-gram 词汇重叠统计	深度语义理解与逻辑分析
适用场景	机器翻译、抽取式摘要	开放问答、推理、创意写作
准确性	低（无法识别同义表达）	高（接近人类专家）
可解释性	无	可提供打分理由与反馈

---

5. 结论与展望

提示工程已构建起完整的学科体系：

• 基础层：掌握了 ICL 的非梯度更新本质与 CRISPE 框架。
• 进阶层：利用 CoT/ToT 解锁了模型的 System 2 慢思考能力。
• 前沿层：向多模态认知代理与自动化 APE 演进。
• 安全层：指令层级防御体系成为应对 DAN 等攻击的必选项。

未来，提示工程将逐渐融入流工程 (Flow Engineering) 和智能体编排 (Agentic Orchestration)，成为构建通用人工智能系统的核心组件。