前几天有个粉丝来面腾讯,一面聊到RAG的时候,面试官问他:"你怎么看RAG在2026年的定位?"他说RAG没死,只是角色变了。面试官好奇地追问了一句:“那它现在存在于哪里?能具体说说吗?”

他想了想,回答说RAG被长上下文模型替代了一部分,但还是有它的用武之地。听起来没什么大毛病,但面试官笑了笑,换了个角度问:"你说有它的用武之地——那它在你做的项目里,具体扮演的是什么角色?是一个独立系统,还是某个更大流程里的一步?"他愣了一下,说应该是后者。

面试官继续追问:"那如果RAG只是流程里的一步,你觉得做RAG的人,未来应该往哪个方向转?"他挠了挠头,说不太清楚,可能是往Agent方向?面试官点了点头,没再追问,但那个"不太清楚"让他回来想了整整一个晚上。

说实话这个问题挺值得琢磨的。RAG到底是过时了、升级了、还是换了个壳继续活着?今天就把这个事情讲明白。

✦ ✦ ✦

如果你现在还在企业AI立项会上说"我们要做个RAG",会后大概率有人小声嘀咕一句。嘀咕什么呢?就是说你这套说辞,是不是有点旧了。

2023年提RAG,大家会觉得你踩在了技术前沿。放到2026年嘛,情况已经不太一样了。不是说RAG不管用了,而是它已经不足以概括企业AI真正要解决的那些问题。

RAG为什么会过时

RAG最早要解决的问题其实挺朴素的。说白了就是模型不认识你公司内部的资料嘛,那就先去知识库里查一查,然后再让模型来回答。

那时候模型上下文短、工具调用能力也弱。"切块、向量化、召回、生成"这套流程呢,几乎是唯一便宜好用的解法了,谈不上有多少替代方案可以选。

可如果换个角度来看今天的问题呢,你会发现题目已经变了。以前卡住大家的是"模型到底能不能查到资料",现在真正难的是什么呢?是"模型能不能在一堆复杂业务信息里,做出站得住脚的判断"。

我来举个例子对比一下哈。像"报销标准是多少"这种事实类问题,RAG答起来毫无压力。但换成"这个客户为什么续约风险高"呢?答案很可能根本不在某一段"最相似"的文本里头。它零散分布在CRM记录、邮件往来、工单历史和会议纪要之中,东一点西一点的。

传统RAG的做法是什么呢?就是把"看起来相关"的内容一股脑丢给模型。至于这些内容够不够、新不新鲜、彼此有没有冲突、有没有权限支撑这个结论——它压根不关心。这恰恰是旧式RAG一进入生产环境就露馅的地方。

而且值得一提的是,MIT在2025年的一项研究曾经指出过。企业生成式AI试点项目里有相当高的比例,没能带来可衡量的业务收益。而且由供应商主导的部署成功率,明显比纯内部自建团队要高。这说明什么呢?说明"检索到资料"和"资料真正解决业务问题"之间,隔着不小的距离。RAG技术本身,是填不平这道鸿沟的。

长上下文带来的冲击,没有想象中那么致命

长上下文模型的出现,确实让不少中小型知识库、合同文本、代码仓库可以整份直接丢给模型去阅读。不用切块,也不会打乱原本的文档结构,看起来挺方便的。

不过呢,这不等于检索这件事就被淘汰了。恰恰相反,企业数据体量太大、太敏感了。检索依然会存在,只不过它的角色变了。从"产品的核心逻辑"降级成了"整个工作流里的一个组件",不再独占C位了。

有意思的是什么呢?行业里那种"RAG已死"的论调,几乎每隔几个月就会冒出来一次。但是呢,据多家市场调研机构的估算,RAG相关市场每年还在以38%到49%左右的复合增长率扩张。2025年到2030年间的规模,预计从不到20亿美元增长到近百亿美元级别。一个正在以这种速度扩张的技术门类,你说它"过时",这个说法或许不够精确。更准确的说法是什么呢?是它正在被重新定位,对吧。

Agentic RAG:谁来掌握检索的主导权

传统RAG的逻辑是什么呢?就是检索器先替模型做决定。先召回若干条结果,然后模型只能困在这个"top-k候选池"里作答。一旦第一步召回就出了偏差,后面几乎就无力回天了。

Agentic RAG呢,换了一种思路。它让模型自己参与到检索过程当中去。先粗略搜索一下,再打开具体文档,定位关键段落,对比不同来源的说法,判断一下证据到底充不充分。整个动作更像是一位分析师在查资料,而不是一个搜索框机械地吐出结果。

这个转变对企业场景来说尤其关键。为什么呢?因为很多真正有用的答案,恰恰藏在那些"不那么显眼但很关键"的弱信号里头,而不是语义上"最相似"的那一段文本。这其实也是那位腾讯面试官追问的核心——他说在鹅厂内部的Agent项目里,RAG早就不是独立存在的了,而是被拆成了Agent推理链条当中的一个调用步骤。

有一个值得拿来参考的对比,就是Anthropic近年推动的MCP,也就是模型上下文协议。据公开报道呢,这一协议截至2026年初已经被OpenAI、谷歌、微软等主要厂商给采纳了,还捐赠给了Linux基金会。它逐渐成了AI智能体对接外部数据源的行业通用标准。这在某种程度上印证了一个判断。就是说未来竞争的重点,会从"谁的检索算法更准",转移到"谁的上下文调度层设计得更合理"上面去。

GraphRAG不是万能药,也未必比想象中划算

把实体和关系抽取成知识图谱呢,理论上确实能提升多跳推理能力,这一点是没错的。但是构建图谱的成本不低啊,维护起来也很麻烦。

尤其是当底层数据更新不及时的时候,图谱反而可能比普通搜索更危险。为什么呢?因为错误的实体关系会被包装成"看起来很结构化"的样子,让人误以为它更可靠了。但实际上恰恰相反,反而更不靠谱了。

微软是较早把GraphRAG推向企业市场的公司之一。但即便如此呢,行业里对图谱型检索的争议也从来没停止过。一部分从业者认为它更适合关系复杂、变化缓慢的知识领域,比如说法律条文体系这类的。但在数据高频更新的场景里呢,图谱维护的边际成本可能会盖过它带来的推理增益,得不偿失。

所以说啊,未来真正重要的可能不是在vector RAG和GraphRAG之间二选一。更重要的是什么呢?是路由能力。系统需要知道什么时候该用长上下文、什么时候用向量搜索,什么时候该用关键词匹配、图谱查询、SQL,甚至什么时候干脆交给人来处理更靠谱。这个判断能力才是关键。

RAG工程师这个岗位,可能会慢慢消失

往后看呢,切块、调参数、接框架这些操作会逐渐变成基本功。人人都会了嘛,谈不上什么技术壁垒。

真正稀缺的是什么人呢?是能够设计整套上下文系统的人。这种人既要懂数据源和权限体系,也要懂工作流和成本结构、安全边界,还得清楚在具体业务里头,什么样的信息才配得上被称为"证据"。这个要求其实挺高的。那位面试腾讯的粉丝后来和我说,他终于明白为什么面试官会追问"RAG的人应该往哪转"了——因为未来的方向不是把RAG做得更好,而是把RAG变成更大系统里的一个可靠零件。

现实当中呢,不少RAG项目最后活成了一个什么样子?就是"高级搜索框"的样子。没有接入实际的业务动作,没有评估机制,没有权限治理,也没有形成闭环。用户拿到一个答案之后呢,还得自己判断、自己去执行后续步骤。这跟一个搜索引擎有什么区别呢?

真正有价值的AI应用,应该是直接嵌入工作流里头的。不是笼统地说"这里可能有风险",而是要明确指出风险具体在哪、依据是什么、该由谁来审批。不是含含糊糊地说"这个客户可能会流失",而是直接去生成跟进动作、安排销售任务、写进CRM系统里头。这才叫有用嘛。

从竞品生态的角度来看呢,这也是LangChain、LlamaIndex这类偏框架型的工具,和Glean、Onyx这类偏平台型产品之间的分野所在。前者更适合把RAG嵌入到自己产品里头的团队。后者呢,则试图把"检索之后怎么办"这部分也一并解决掉,直接对接到企业的实际业务动作当中去。

RAG没死,只是被并入了更大的系统里

RAG没有消失,检索这件事反而变得更重要了。只不过呢,它被并入了一个更大的系统架构里头。就像现在嘛,已经没什么人会把一款SaaS产品单纯叫作"数据库应用"了,对吧。

旧式RAG把企业AI这件事想得太狭窄了,几乎就等同于"知识库问答"。但是到了2026年之后呢,企业AI真正的主线已经变成了任务执行。模型需要理解目标、选择合适的工具、验证证据是不是可靠、处理意外情况,然后把整个流程走完。这才是完整的链条。

这才是RAG真正被"淘汰"的地方。准确地说呢,它不是被某种更先进的技术给淘汰的。它是被企业对AI越来越高的期待给淘汰的。过去大家满足于"AI能回答问题"就行了,现在的要求变成了什么呢?是"AI能对结果负责"。传统RAG嘛,面对这样的期待,确实显得有点太轻了。

最后还有一个补充性的疑问哈。企业在追求"AI能对结果负责"的同时呢,治理和审计的成本会不会同步抬高?毕竟一旦AI开始直接写入CRM、触发审批流程了,出错的代价也从"答错一道题"变成了"影响一笔业务"。这个变化带来的治理压力呢,大概率会是接下来两三年企业AI落地时,绕不开的下一个难题。

学AI大模型的正确顺序,千万不要搞错了

🤔2026年AI风口已来!各行各业的AI渗透肉眼可见,超多公司要么转型做AI相关产品,要么高薪挖AI技术人才,机遇直接摆在眼前!

有往AI方向发展,或者本身有后端编程基础的朋友,直接冲AI大模型应用开发转岗超合适!

就算暂时不打算转岗,了解大模型、RAG、Prompt、Agent这些热门概念,能上手做简单项目,也绝对是求职加分王🔋

在这里插入图片描述

📝给大家整理了超全最新的AI大模型应用开发学习清单和资料,手把手帮你快速入门!👇👇

学习路线:

✅大模型基础认知—大模型核心原理、发展历程、主流模型(GPT、文心一言等)特点解析
✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑
✅开发基础能力—Python进阶、API接口调用、大模型开发框架(LangChain等)实操
✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用
✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代
✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经

以上6大模块,看似清晰好上手,实则每个部分都有扎实的核心内容需要吃透!

我把大模型的学习全流程已经整理📚好了!抓住AI时代风口,轻松解锁职业新可能,希望大家都能把握机遇,实现薪资/职业跃迁~

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

在这里插入图片描述

Logo

Agent 垂直技术社区,欢迎活跃、内容共建。

更多推荐