RAG 是什么?一篇讲清企业知识库背后的核心技术

很多管理者第一次认真考虑「企业 AI」,是从一次失望开始的:把通用 AI 工具用得挺顺手,顺口问了一句「我们家 A 产品的质保政策是什么」,它一本正经地答了一段——内容是编的。产品名对,政策全错。

这不是工具坏了,而是它根本不知道你公司的事。理解这一点,就理解了 RAG 为什么存在。

大模型的知识,有两个天然缺口

大模型的「知识」来自训练时读过的公开资料。这带来两个绕不开的限制:一是时间截止,训练完成之后发生的事它不知道;二是私有盲区,你公司的产品手册、报价规则、内部流程,从来不在它的训练资料里。

更麻烦的是,模型在不知道答案时往往不会说「我不知道」,而是生成一段语法通顺、听起来可信的内容。这就是常说的「幻觉」。对个人用户是小麻烦,对企业是风险:客服拿着编造的质保政策回复客户,问题就不再是技术问题了。

RAG 的思路:把闭卷考试变成开卷考试

RAG 的全称是 Retrieval-Augmented Generation,检索增强生成。名字拗口,思路其实很直白:回答之前,先查资料。

没有 RAG 的 AI 像在闭卷考试,只能凭训练时的记忆答题;接上 RAG 之后变成开卷考试——先从你给定的资料库里找出和问题最相关的几段内容,把这些内容和问题一起交给模型,要求它「根据这些资料回答」。模型不再靠记忆,而是靠眼前的材料。

一次 RAG 问答,实际发生了什么

以「A 产品的质保政策」为例,一套企业知识库背后大致发生五件事:系统先把你的产品手册、政策文档等资料切成小段并建立索引;收到问题后,从索引里找出最相关的几段(这一步靠的是语义检索,能理解「质保」和「保修」是一回事);把找到的段落和问题拼在一起交给大模型;模型根据这些段落组织回答;最后把答案连同出处一起返回。

「能给出处」这一点在企业场景里价值很大:答案旁边标着来自《售后服务手册》第 3.2 节,用的人可以点开核对,信任就有了着落。这也是为什么正经的企业知识库产品都会做引用溯源。

和「重新训练一个模型」有什么区别

很多企业最初的直觉是「拿我们的资料训练一个自己的模型」。这条路线(微调)有它的适用场景,但和 RAG 解决的是不同的问题,多数知识问答场景下 RAG 是更合理的起点:

• 更新速度:资料改了,RAG 只需更新资料库,当天生效;微调则要重新走一遍训练流程。
• 成本:RAG 的主要成本是搭建检索和存储,量级远低于训练;微调需要准备训练数据、算力和评估,投入大得多。
• 可溯源:RAG 的答案能标注来源;微调后的模型给出答案,你无法确切知道它依据了哪份资料。
• 知识边界:RAG 可以按权限控制谁能检索到哪些资料;揉进模型参数里的知识做不到这种隔离。

简单说:想让 AI「知道你公司的事实」,优先考虑 RAG;想让 AI「学会一种特定的说话方式或判断风格」,才轮到微调。

为什么有的企业知识库用了 RAG 还是不好用

RAG 解决的是「让模型看到对的资料」,但它不负责资料本身的质量。实践中知识库效果差,问题往往出在资料侧:文档本身过期、互相矛盾;资料切分不合理,检索出来的段落缺上下文;或者压根没人维护,半年后没人敢信。这些在小团队的知识库:从能用开始里讨论过——先把资料治理做扎实,RAG 才有发挥空间。

换句话说,RAG 是放大器:资料是准的,它放大准确;资料是乱的,它把混乱包装得更像真话。

三个问题,判断你的企业要不要关心 RAG

第一,你的团队是否经常花时间在「找答案」上——翻文档、问老员工、在群里等回复?第二,这些答案是否有相对固定的资料来源(手册、制度、历史项目记录)?第三,答错是否有成本(客户投诉、报价失误、新人培训慢)?

三个问题里有两个答「是」,企业知识库就值得进入你的考虑清单,而 RAG 就是这类系统的技术底座。至于怎么从零开始建,可以接着看企业 AI 知识库怎么建。

最后

RAG 不是新概念,原始论文 2020 年就发表了,但它真正进入企业视野,是这两年大模型能力足够之后的事。对企业决策者来说,不需要掌握技术细节,只需要记住一句话:AI 答得靠不靠谱,一半取决于模型,另一半取决于你让它看到了什么资料。RAG 管的就是后一半。