RAG 与检索
让模型基于你自己的文档作答,从最基础的管线讲到进阶检索。
14 篇教程,横跨 17 个学习层中的 2 个——按前后衔接顺序编排。
7RAG
- 为什么需要 RAG模型不可能知道你的文档,却会一本正经地编造答案。RAG 就是解法,而这个问题值得先弄懂,再看解法。
- RAG 是怎么一步步工作的两个阶段:先把文档索引一次,之后每个问题都现场检索并作答。每个环节都有各自的失效模式,动手之前值得先摸清楚。
- 如何为 RAG 做文档分块文本块的边界决定了内容究竟能不能被检索到。块太小会丢上下文,太大又稀释相关性,而按结构拆分胜过按字符数拆分。
- RAG 还是微调?检索提供知识,微调塑造行为。问这个问题的人里,大多数其实该用检索,还有不少两个都不需要。
- 为什么你需要重排序模型向量检索能快速把几百万条缩到几十条,却把最后这几个排得很糟。加一道把查询和文档放在一起读的工序就能修好。
- 什么是向量数据库?围绕一个问题建起来的存储:哪些向量离这一个最近?以及为什么它需要和普通数据库不同的一套机制。
- 相似度检索到底是怎么运作的余弦相似度、点积,以及为什么「最近」在高维空间里远没有听起来那么强的指示性。
14进阶 RAG
- Agentic RAG让模型自己决定搜什么,读完结果再搜一次。不用建图也能做多跳检索。
- 上下文检索一个文本块从文档里被撕下来,就丢掉了让它有意义的上下文。在索引阶段把这份上下文补回去,效果好得不同寻常。
- GraphRAG从你的文档里构建一张知识图谱,然后遍历它。它能回答跨多个来源的问题,而向量检索做不到。
- 混合检索向量检索漏掉精确词,关键词检索漏掉语义。把两者合起来,是基础检索管线性价比最高的一次升级。
- 面向图像与表格的 RAG图表、示意图和表格里装着文本抽取扔掉的那些答案。在它们之上做检索的三种策略。
- 查询改写与扩展用户问得很糟。在检索之前改写查询,能修好的失败比调优检索器更多。
- 评测 RAG把检索和生成分开测。大多数 RAG 失败是检索失败,而一个笼统的质量分掩盖了坏的是哪一半。