RAG 系统设计：让大模型拥有实时知识的能力

什么是 RAG

RAG（Retrieval-Augmented Generation）通过在生成前检索相关文档，让大模型能够访问最新、准确的外部知识，有效解决幻觉和知识过时问题。

核心架构

用户查询 → 查询改写 → 检索 → 重排序 → Prompt 组装 → LLM 生成

混合检索

结合向量检索和关键词检索，使用 Reciprocal Rank Fusion 合并结果。

重排序

使用 Cross-Encoder 对检索结果精排，显著提升前 N 个结果的相关性。

高级优化

• HyDE: 先让 LLM 生成假设性答案，用答案做检索
• 多查询: 生成多个检索查询，合并结果
• 自适应检索: 根据置信度决定是否检索

评估体系

RAG 不是简单的"检索 + 生成"，而是一个需要精心设计的系统。混合检索、重排序和查询改写是提升效果的关键。