/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */
#content_views .toc,
/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */
#content_views.markdown_views > p:empty:has(+ .toc),
#content_views.markdown_views > .toc + p:empty,
/* 富文本旧版目录标记 */
#content_views.htmledit_views #main-toc,
#content_views.htmledit_views #hr-toc,
#content_views.htmledit_views p[id*=\”-toc\”] {
display: none !important;
}
/* 目录去掉后,紧跟的首个标题不再多出一块上边距 */
#content_views.markdown_views > .toc + h1,
#content_views.markdown_views > .toc + h2,
#content_views.markdown_views > .toc + h3,
#content_views.markdown_views > .toc + h4,
#content_views.markdown_views > .toc + p:empty + h1,
#content_views.markdown_views > .toc + p:empty + h2,
#content_views.markdown_views > .toc + p:empty + h3,
#content_views.markdown_views > .toc + p:empty + h4 {
margin-top: 0 !important;
}

🌸雨落在了我的手上:个人主页
🐟个人仓库:Gitee仓库
❄️个人专栏:<<JaveSe>> <<C语言>> <<C语言数据结构>> <<Java数据结构 >>
<<MySQL数据库基础 >> <<JavaEE初阶>> << 初识大模型>>
🔥🔥🔥人生格言:无人扶我青云志,我自踏雪至山巅
🎬 博主简介

目录
一、RAG 是什么:先查资料,再组织答案
二、为什么需要 RAG:四个现实问题
三、RAG 的典型应用场景
四、RAG 怎么工作:两个阶段
4.1 数据加载与解析
4.2 文本分块
4.3 向量化与相似度
4.4 向量数据库
4.5 检索:KNN 与 ANN
4.6 增强与生成
五、动手体验:从知识库到聊天机器人
六、RAG 的发展:从朴素到智能体
七、实战:用 GraphRAG 理解实体之间的关系
八、RAG 的未来趋势与常见问题
九、使用 RAG 要注意什么
十、术语速查表与动手练习
十一、总结
内容大纲:
本文系统介绍RAG(检索增强生成)技术,阐述其核心思想——“先查资料,再组织答案”,解决大模型知识过时、幻觉、数据安全与答案不可查证等痛点。内容涵盖RAG的工作流程:数据解析、分块、向量化、向量数据库检索与生成增强;典型应用场景如智能客服、企业知识库、医疗法律等;并深入探讨图RAG与智能体RAG的演进趋势。通过动手实验与实践建议,帮助读者从零构建可信赖的AI问答系统,强调资料质量、权限控制与人工复核的重要性。
一、RAG 是什么:先查资料,再组织答案
RAG(Retrieval-Augmented Generation,检索增强生成),是目前大模型应用中最重要的技术思路之一。它把两种能力结合起来:一种是信息检索的精准查找,另一种是大模型的理解与表达。换句话说,RAG 给大模型配了一个能随时翻阅资料的“外接大脑”。
它的工作方式可以概括为三个步骤:先从知识库中检索出与问题最相关的资料段落;再把这些资料连同原始问题一起放进提示词,作为额外的参考;最后由模型依据这些资料组织回答,并标明信息来源。

图1:检索、增强、生成三步,好比开卷考试:答题者不必背下所有知识,但要会查资料、会组织答案
RAG 的概念最早可以追溯到 2020 年前后的研究论文,论文地址是 https://arxiv.org/pdf/2005.11401。随着大模型普及,它几乎成了企业落地 AI 时的标准做法。
二、为什么需要 RAG:四个现实问题
大模型本身已经很强大,为什么还需要 RAG?主要因为它在实际使用中会遇到四个问题。

图2:知识过时、容易幻觉、私有数据难以上传、答案难以查证,是 RAG 要解决的四个问题
第一,知识会过时。大模型的训练是离线完成的,训练结束后,它的知识就基本固定下来。训练之后发生的新闻、政策和产品变化,模型往往不知道。而且它的知识主要来自公开的互联网数据,企业内部的制度、项目文档和客户资料,它根本没有见过。
第二,容易产生幻觉。大模型本质上是在做概率预测,因此它可能写出逻辑通顺、语气笃定,却缺乏事实依据的内容。RAG 的做法是先找来依据,再让模型基于依据作答,能明显减少凭空编造的情况。
第三,私有数据不能外传。对企业来说,数据安全往往是底线。很多公司不愿意把内部资料上传到第三方平台去训练模型。RAG 的优势在于,资料可以保存在企业自己的知识库里,只在需要时检索相关段落,不必整体交给模型去学习。
第四,答案要能查证。传统的模型回答就像一个“黑盒”,读者很难判断它从哪里得来的结论。RAG 可以在回答末尾附上出处,例如“根据某份制度文件第三条”,读者能够回到原文核对。这在医疗、法律、金融等高风险领域尤其重要。
三、RAG 的典型应用场景
RAG 在很多行业都有落地。书中列举了几类典型场景,下面概括介绍。
智能客服。这是 RAG 落地最成熟的领域之一。企业把分散的常见问题、产品手册和最新政策整理进知识库,客服机器人就能基于这些资料快速回应顾客。书中提到一家汽车企业借助 RAG 接入大模型构建智能客服,独立解决率有明显提升,具体数据来自书中引用的报道。
企业知识库。它的目标是让组织的知识能够沉淀、复用和搜索。书中提到某地理信息机构把上千篇技术文档、论文和专利整理成向量知识库,员工可以用自然语言直接提问,找到所需的资料并获得有出处的回答。这样,知识管理就从“被动存放”转向了“主动赋能”。
医疗健康。基于最新的临床指南、病历记录和医学文献,RAG 可以辅助医生查询用药指南、整理病例资料,帮助教学和科研。书中还提到,有医院以大模型为基础,借助 RAG 实现医学知识的动态检索,应用于多个诊疗场景。
法律与金融。在法律领域,RAG 可以检索最新的法规条文,辅助整理法律文书,或帮助普通人读懂合同中的风险条款;在金融领域,它可以结合实时财报、法规和市场资讯,辅助生成分析报告或查询财务数据。这些应用都强调:输出需要人工复核,不能替代专业人士的判断。
四、RAG 怎么工作:两个阶段
一个完整的 RAG 应用,通常分为两个阶段:知识库构建和在线问答。前者主要是提前完成的离线工作,后者则是每次提问时都要执行的在线流程。

图3:知识库构建包括解析、清洗、分块、向量化和入库;在线问答包括提问、检索、增强和生成
4.1 数据加载与解析
知识库的第一步,是把各种格式的原始资料读进来,并整理成计算机能够理解的结构。常见的资料包括 PDF、Word、Markdown、网页、表格,甚至是图片和音频转写的文字。
人们常常觉得,PDF 就是一份“排版好的文档”,其实计算机看到的 PDF 更像是一系列绘图指令,例如“在某个位置画上某个字”。它并不记录哪里是标题、哪里是段落、哪里是表格,因此解析起来相当困难。多栏排版、跨页表格、数学公式、印章遮挡,都会给解析带来麻烦。
比较稳妥的做法,是先识别文件类型:文字型 PDF 可以用常规的解析工具,扫描件则需要引入 OCR(光学字符识别);再借助深度学习模型识别版面中的标题、段落、表格和图片,并重建正确的阅读顺序;最后把结果统一输出为 Markdown 或 JSON 这样的结构化格式,同时补充文件名、作者、页码、时间等元数据。书中提到,Markdown 因为结构清晰、格式简单、模型接触较多,常被当作理想的中间格式。
常用的解析与 OCR 工具有不少,例如 PyMuPDF、pdfminer.six、Docling、MinerU、Marker,以及 Tesseract、EasyOCR、PaddleOCR 等。实际项目中,往往需要组合使用不同工具的长处。
4.2 文本分块
原始资料往往很长,一份报告可能有几十页。如果整篇交给检索系统,就很难精确找到需要的那几句话。因此,要先把资料切分成一个个更小、语义相对完整的“块”(Chunk),检索时以块为单位进行匹配。
分块主要有三个好处:一是适应模型的上下文长度限制,让每一段内容都能被模型顺利处理;二是提升检索精度,把无关内容排除在外;三是降低成本,只把相关的块送给模型,减少 Token 消耗。分得好,内容的语义和上下文能被完整保留;分得差,句子会被拦腰切断,检索充满噪声。

图4:六种分块方式各有取舍,实际中常根据文档类型和预算组合选择
书中系统介绍了六种分块方式,可以概括为:
固定大小分块按固定字数或 Token 数切分,实现简单、便于批量处理,但可能把句子从中间切断。常见的做法是让相邻的块有一小段重叠,以减少边界信息的丢失。
句子分块按照句号、问号、感叹号等标点切分,语义比较完整,但需要处理缩写(如 Mr.、Dr.)等容易误判的情况。
递归分块先按段落切,段落太长再按句子切,逐层细分,直到每一块都不超过设定长度。它兼顾了结构与长度,是比较常用的推荐做法。
语义分块会比较相邻句子的语义相似度,在话题发生明显转换的地方切开,能让因果链和论述保持在同一个块里,但计算成本较高。
文档结构分块利用标题、章节、表格等天然结构来切分,适合结构清晰的技术文档、法律合同和学术论文。
基于大模型的分块让模型自己判断在哪里切、如何合并句子,效果往往最好,但费用也最高,适合质量要求很高的知识库。
书中给出的选择建议大致是:结构清晰的文档优先按结构切分;话题频繁切换的资料适合语义分块;质量要求很高的专业知识库可以考虑让大模型参与分块;而对于来源不可控、格式杂乱的纯文本,递归分块是轻量又实用的选择。
4.3 向量化与相似度
分好的文本块还需要转换成计算机便于计算的形式,这一步叫作向量化(Embedding)。它的做法是用一个专门的嵌入模型,把一段文字映射成一组实数组成的向量。这组向量可以看作高维空间里的一个点,语义相近的文字,对应的点也会比较接近。
这样做的价值在于,计算机终于可以“按意思找东西”,而不只是“按字面找东西”。例如,“猫坐在垫子上”和“一只猫咪趴着休息”字面上差别不小,语义却很接近,它们的向量在空间中的位置也会比较近。

图5:示意图。两个向量的夹角越小,说明它们的语义越接近
计算两个向量的相近程度,常用的方法有三种:
余弦相似度关注的是两个向量的方向,也就是夹角大小,不太在意长度。它是文本检索中最常用的指标。
欧氏距离衡量的是两个点之间的直线距离,既受方向影响,也受长度影响。
点积是对应元素相乘再求和的结果,同时反映方向与长度。它在很多向量数据库中被直接使用。
选择哪一种,取决于嵌入模型的设计和具体任务,实践中通常需要测试比较。此外,嵌入模型也在不断进步,业界常用 MTEB 排行榜来比较各个模型的表现,排行榜地址是 https://huggingface.co/spaces/mteb/leaderboard。
4.4 向量数据库
向量化之后的结果,需要存进专门的向量数据库。它的特点是能高效地存储、索引和查询大量的向量。一条记录通常包括三部分:向量本身、对应的原始文本,以及元数据(如来源文件、页码、时间、作者)。查询时,系统先找到相似的向量,再取出对应的原文,最终交给模型。
书中提到的向量数据库包括 Milvus、Chroma、Pinecone、Redis、MongoDB 等。其中,Milvus 的官方网站是 Milvus | High-Performance Vector Database Built for Scale,Pinecone 的网站是 The trusted AI knowledge company | Pinecone,Redis 的网站是 Redis – Real-time data for agents & apps。选择时要综合考虑数据规模、延迟要求、部署方式和成本。
4.5 检索:KNN 与 ANN
用户提问之后,系统先用同一种嵌入模型把问题也转换成向量,然后在数据库中寻找距离最近的若干个文本块。这一步的核心是相似度检索。

图6:KNN 逐一比对,结果最准但数据大时很慢;ANN 借助索引先缩小范围,速度快得多,精度略有牺牲
KNN(K 近邻)是最直接的方法:计算问题向量与库中每一个向量的距离,取最近的 K 个。它的结果最精确,但数据量一大就会非常慢。
ANN(近似最近邻)则牺牲一点点精度,换取速度的大幅提升。它会预先为向量建立索引,例如 HNSW 这类图结构,先快速定位到可能相关的区域,再在区域内做精细比对。打个比方:要在一座藏书五百万册的图书馆里找一本内容相近的书,KNN 相当于把书全部搬下来逐本对照,ANN 则是先看楼层导航,直奔相关的书架。
4.6 增强与生成
检索到的文本块,接下来要经过“增强”环节,才能交给模型。常见的做法有三种。
提示词模板化。系统事先写好一个模板,例如“你是某某助手,请根据以下参考内容回答问题”,然后把检索到的内容和用户的问题依次填进去。
上下文压缩与重排序。检索回来的内容有时过多,模型处理不了。这时可以对结果重新排序,只保留最相关的几段,或者先提炼摘要,再交给模型。
约束回答范围。在指令中明确要求:只能依据参考内容回答,如果资料里没有答案,就直接说明“找不到相关信息”,不要使用模型自身的记忆补充。书中的例子表明,加上这样的约束后,回答的可靠性会明显提高。
最后,模型把问题和经过筛选的资料融合起来,组织成语言通顺、有针对性的回答。它不是简单地把原文复制粘贴,而是对信息进行整合,并可以附上出处。
五、动手体验:从知识库到聊天机器人
书中安排了一系列动手实验,让读者亲身体会 RAG 的每个环节。下面按照流程做个概括,具体的按钮位置和免费额度请以平台最新界面为准。
实验一:Coze 知识库。先准备一份自己的资料,例如一份售后服务规范的 PDF,然后注册 Coze 账号,新建智能体。在智能体配置中,先直接提问,观察模型在没有资料时是如何“猜测”的,往往会出现明显的幻觉。接着添加知识库,选择文本格式并上传 PDF,使用默认设置进行解析,预览解析效果后开始处理。完成后再次提问,就能看到答案明显更贴近资料。Coze 的官方页面是 扣子 Coze – 字节跳动旗下职场AI伙伴扣子与一站式AI开发平台扣子编程 PPT数据分析小程序开发APP开发网页开发平面设计教学备课报告写作自媒体播客视频智能体工作流。
实验二:嵌入模型。书中演示了用 LM Studio 在本地下载一个文本嵌入模型,启动本地服务后,用 Postman 向它发送一段文字,返回的结果就是一串向量。这个实验能直观地看到“文字变成数字”的过程。
实验三:Word 文档解析。书中使用 LlamaParse 解析一份复杂的 Word 文档,服务端完成解析后可以下载 Markdown 文件,原本复杂的排版被还原成清晰的结构。LlamaParse 的入口是 https://cloud.llamaindex.ai/。
实验四:Dify 知识库聊天机器人。Dify 是一个用于构建 AI 应用的开源平台,可以把数据集管理、提示词编排和应用运营结合在一起。书中以它为例,创建了一个基于知识库的聊天机器人。官网是 Dify – 企业自主掌控的 AI Agent 管理平台,开源仓库是 https://github.com/langgenius/dify。
实验五:向量数据库的增删改查。书中以 Milvus 为例,演示了插入、更新、删除和查询数据,以及相似度检索和混合检索等操作。接口说明可参考 Vector Operations (V2) | Zilliz Cloud Developer Hub。
这些实验串起来,就是一个完整的 RAG 应用:资料进入知识库,经过解析和分块,转换成向量并存储;提问时检索出相关内容,再由模型组织成答案。
六、RAG 的发展:从朴素到智能体
RAG 并不是一成不变的。随着应用需求的增加,它经历了几代演进。书中大致将它分为五个阶段。

图7:从朴素 RAG 到智能体 RAG,系统越来越灵活,设计和调试也越来越复杂
| 朴素 RAG | 一次检索,直接把结果拼进提示词 | 简单易做;但语义理解有限,检索结果质量不稳定 |
| 进阶 RAG | 检索前改写问题,检索时混合多种方式并重排序,检索后压缩筛选 | 效果明显提升,适合高精度问答;但计算成本和系统复杂度增加 |
| 模块化 RAG | 把流程拆成检索、重排、生成、路由等独立模块,可按需替换组合 | 灵活、易扩展,适合复杂的企业系统;但模块之间的协调需要精心设计 |
| 图 RAG(GraphRAG) | 从资料中抽取实体和关系,构建知识图谱,通过图遍历检索上下文 | 擅长多跳推理和关系分析,答案更易解释;但图谱构建和维护成本较高 |
| 智能体 RAG(Agentic RAG) | 由一个或多个智能体负责规划检索策略、评估结果并反思修正 | 能处理复杂问题,适应性强;但协调开销大,延迟和成本更高 |
在智能体 RAG 中,书中还区分了单智能体、多智能体和层级式智能体三种形式。单智能体负责从理解问题到生成答案的全过程,结构简单;多智能体则由规划者、检索者、评估者和生成者分工协作,任务拆分更精细,但架构也更复杂。
七、实战:用 GraphRAG 理解实体之间的关系
普通 RAG 主要依赖文本块的语义相似度,对于“谁和谁是什么关系”“哪个事件导致了哪个结果”这类需要串联多条信息的问题,往往力不从心。GraphRAG 的思路是:先从资料中抽取人物、机构、事件等实体,以及它们之间的关系,存入图数据库;提问时,沿着关系网络检索,把相关的图结构转成文字交给模型。

图8:从注册图数据库,到生成图谱、连接数据库,再到提问检索,共六个步骤
书中用的图数据库是 Neo4j,它是专门存储和查询关系型数据的数据库。实验大致如下:
第一步,进入 Neo4j 官网 https://neo4j.com,注册账号,在实例页面创建一个免费版实例,并为它取个名字。注意不要误点到需要付费的试用版本。
第二步,打开在线的图 RAG 构建应用 https://llm-graph-builder.neo4jlabs.com/,登录后连接刚才创建的实例。
第三步,选择网页作为数据来源,导入一个百科条目的页面。书中使用的是中文维基百科上的一篇人物条目,地址是 https://zh.wikipedia.org/wiki/%E8%A2%81%E9%9A%86%E5%B9%B3。
第四步,提交后等待系统抽取实体和关系,生成图谱,然后查看图谱的结构,理解人物、机构、事件之间是如何连接的。
第五步,在聊天框中提问,观察系统检索到了哪些图谱信息,以及答案是如何组织出来的。
这个实验让人直观地感受到:回答不仅来自文字片段,还来自实体之间的关系网络。当然,图谱的质量取决于抽取的准确性,所以实际使用时仍然需要核对。
八、RAG 的未来趋势与常见问题
书中对 RAG 的未来做了几点展望,概括如下。
一是从被动检索走向智能体。未来的 RAG 不再只是一个“查资料的工具”,而是以智能体为核心,能够自主规划、推理、调用工具并反复检索和修正。
二是走向多模态。未来的系统将不仅检索文字,还能同时检索图片、图表、音视频,并综合成包含多种信息的报告。
三是更加个性化。RAG 将能够结合用户的历史记录和偏好,给出更贴合个人情况的回答,而不仅仅是通用知识。
四是记忆与检索更加融合。除了外部数据库,模型内部的缓存等机制也可能用来保存短期信息,使系统能在对话中即时更新知识。
五是轻量化。随着模型和检索技术的优化,RAG 有望在手机等终端设备上运行,实现更便捷的本地化应用。
Q1:模型的上下文越来越长,还需要 RAG 吗?
需要。上下文长,意味着模型“一次能读更多”,但这并不等于能从海量资料中筛选出相关信息,也不能避免无关内容干扰判断。书中的观点是:“能不能塞进去”不是关键,“应不应该塞进去”才是。长上下文擅长深度阅读和跨段落推理,RAG 擅长从大规模知识中精准找到相关内容,两者是互补关系。
Q2:RAG 和微调有什么区别?
微调是改变模型自身的参数,让它学会某种风格或能力,适合固化行为;RAG 则是在回答时提供外部资料,适合提供知识和保持知识更新。两者可以结合使用,但对大多数需要查资料的场景来说,RAG 更灵活、更便于维护。
九、使用 RAG 要注意什么
1. 资料质量决定答案质量。如果原始资料有错误、过时或混乱,RAG 只会更快地把错误传递出去。建立知识库前,应当先整理和核对资料。
2. 注意权限与隐私。知识库里可能包含敏感信息,应当做好访问控制,确保每个人只能检索到自己有权限查看的内容。
3. 定期更新知识库。政策、产品和价格都会变化,知识库需要持续维护,否则答案会逐渐过时。
4. 检查分块与检索效果。如果分块不合理或检索总是找不到相关内容,答案就会不准确。可以抽样测试几个典型问题,查看检索到了什么,再决定如何调整。
5. 高风险领域必须人工复核。医疗、法律、金融等领域的回答,即使有出处,也只能作为参考,最终判断应当由专业人士做出。
十、术语速查表与动手练习
| RAG | 先检索外部资料,再让大模型依据资料生成回答的技术框架 |
| 知识库 | 经过整理、解析和索引的资料集合,供检索使用 |
| 文档解析 | 把 PDF、Word 等格式的内容读出来,并还原成结构化文本 |
| 分块(Chunking) | 把长文本切分成适合检索和处理的小段 |
| 向量化(Embedding) | 用模型把文字转换成一组数字向量,语义相近的文字向量也相近 |
| 余弦相似度 | 衡量两个向量方向接近程度的指标,常用于文本检索 |
| 向量数据库 | 专门存储、索引和查询向量的数据库 |
| KNN / ANN | 精确的最近邻搜索与近似的最近邻搜索,后者以少量精度换取速度 |
| 重排序(Reranking) | 对初步检索的结果重新打分排序,把最相关的放在前面 |
| 提示词模板 | 预先写好的提示词框架,用来把检索结果和问题组合在一起 |
| GraphRAG | 借助知识图谱中的实体和关系进行检索的 RAG 方式 |
| 智能体 RAG(Agentic RAG) | 由智能体负责规划检索、评估结果并反思修正的 RAG 形式 |
| MTEB | 用于评估文本嵌入模型表现的常用基准与排行榜 |
练习一:拆分一份文档。找一份你熟悉的长文档,分别尝试按固定长度、按段落和按标题三种方式切分,比较哪一种切出来的每一块意思最完整。
练习二:比较有无资料的回答。在 Coze 或 Dify 中,先用一份自己编写的小资料建立知识库,再分别在有资料与无资料的情况下问同一个问题,记录两次回答的差别,并判断答案来源是否可靠。
练习三:设计一个问题清单。为你的知识库准备十个典型问题,其中包括几个资料里没有答案的问题,检验机器人能否正确回答“找不到相关信息”。
十一、总结
回顾全文,RAG 的核心思想是“先查资料,再组织答案”。它通过文档解析、文本分块、向量化、向量数据库和检索增强等环节,让大模型能够依据外部知识回答问题,从而缓解知识过时、幻觉、数据安全和答案难以查证等问题。从朴素 RAG 到图 RAG 和智能体 RAG,系统在灵活性和能力上不断提升,但设计复杂度也随之增加。
对初学者而言,最实用的起点是先用一个现成的平台,为自己的一小份资料搭建知识库,亲自体验“解析、切分、检索、回答”的全过程。理解了这条链路,再去看各种复杂的架构,就会清楚它们分别在解决哪一个环节的问题。
网硕互联帮助中心




评论前必须登录!
注册