信息技术大学
RAG 检索增强
AI 与大模型·算法岗面试 · 第 6 章 RAG 与 Agent
按 空格/→ 演示下一步
全部页面点击任意一页，跳回舞台从这页播放
信息技术大学
RAG 检索增强
AI 与大模型·算法岗面试 · 第 6 章 RAG 与 Agent
RAG 基本链路
检索增强 = 开卷考试：离线建索引，在线先检索后生成，答案有据可查。
离线链路
文档切块、嵌入、入库建向量索引
在线链路
查询嵌入、检索 top-k、拼 prompt 生成
价值
知识新鲜、可溯源、免重训可插拔
Embedding 模型与向量库
语义检索的地基：嵌入模型决定「像不像」，向量库决定「找得快不快」。
嵌入模型
双塔编码语义向量，领域效果需实测
向量索引
HNSW、IVF 等近似最近邻，毫秒级检索
度量
余弦、内积、欧氏，与训练度量保持一致
分块策略
切块是 RAG 第一道质量闸：太大稀释主题，太小丢上下文，按结构切最稳。
大小
常见 200~800 token，块间留 10~20% 重叠
按结构切
标题、段落、表格边界优先，保语义完整
父块检索
小块检索、大块喂模型，精度上下文两全
混合检索与重排序
向量抓语义、关键词抓精确：两路召回融合，重排序模型精排 top-k。
混合检索
向量加 BM25 两路召回，RRF 融合
重排序
交叉编码器精排，贵而准，只排头部
收益
专名、编号类查询命中率大增
RAG 效果评估
两段各自打分：检索看命中率，生成看忠实与相关，端到端看答案对不对。
检索评估
recall@k、MRR，标注或模型判相关
生成评估
忠实度（有无编造）与答案相关性
框架
RAGAS 类工具自动化，人工抽检兜底
本节要点
- ✓RAG = 离线建索引，在线开卷考
- ✓嵌入定相关性，向量库定速度
- ✓切块按结构，父块两全其美
- ✓混合召回加重排，分段评估
延伸主题：搭一个最小 RAG评测自己的召回率
课后思考
先自己回答，再展开参考答案——能讲出来才算真懂。
1有了长上下文模型，RAG 还有必要吗？
参考答案有。长窗口装不下企业级知识总量，而且贵、慢；RAG 控制上下文成本、可溯源、知识可实时更新。趋势是结合：RAG 负责检索，长窗口负责消化。
2RAG 答错了，先查检索还是先查生成？
参考答案先查检索：看命中的块里有没有答案。检索没中，生成再强也是编造；检索中了还答错，才是 prompt 或忠实度问题。分层定位，先便宜后昂贵。
3重排序为什么用交叉编码器而不是双塔？
参考答案双塔各自编码再比相似度，快但交互浅；交叉编码器把查询与文档拼接后逐 token 深度交互，精度高但代价按对计。所以只用它精排头部几十条。