检索增强生成（RAG）是一种 AI 技术：它会先从知识库检索相关文档，再生成回答，让答案建立在真实来源上，而非只依赖模型记忆。RAG 不依靠固化在模型权重中的模式，而是取回实际文本，将其作为组织回答时的证据。因此，AI 可以回答训练时从未见过的文档问题，并能指向相应引用。
第 1 步：分块与索引，准备知识库。
这种预处理在用户提问前离线完成。其结果是一个可搜索索引：每个片段都能按语义相似度而非精确关键词检索。分块质量会直接影响检索精度；分得不好的文档会让无关主题混在同一片段内，在查询时返回嘈杂而不相关的结果。
当用户提交查询，系统会用索引阶段相同的嵌入模型把查询转换为向量嵌入。随后，它计算查询向量与索引中每个片段向量的相似度分数，返回语义上最相近的前 k 个片段，供下一阶段使用。
可以把它想成一位图书管理员：听到你的问题后，走进书架，拿回五本最相关的书，而不是凭记忆复述整座图书馆。检索不要求关键词完全重合，而是匹配含义。比如关于“为什么我的合同续签被拒”的问题，即使没有一个共同词，也可能找到关于“协议终止条款”的段落。
RAG 会在查询时检索知识；微调则把知识写入模型权重。它们不是解决同一问题的竞争方案，而是针对根本不同的问题。要作选择，先理解自己实际面对的是什么问题。
最适合的场景
- RAG：动态、私有或需要验证的知识；频繁变化的信息；合规敏感环境；个人文档库。
- 微调：将模型输出的风格、语气或格式适配到固定领域；行为一致性比事实新鲜度更重要的任务。
向量数据库负责存储嵌入并支持相似度搜索。RAG 则是一套完整架构，向量数据库只是其中一个组件。把两者混为一谈，是新手开发者最常见的误解之一；这种混淆会给真正要构建系统的人带来实际后果。
区别很具体：向量数据库回答“哪些片段与这个查询最相似？”；检索增强生成把这个答案当作中间步骤，再将片段交给语言模型综合出自然语言回应。有向量数据库意味着具备检索能力；有 RAG 则意味着在检索层之上拥有完整的问答流程。
实际含义是：如果某个产品声称“使用向量搜索”或“嵌入你的文档”，请问它是否也会根据检索上下文生成答案。向量搜索返回相关段落列表；检索增强生成则用这些段落组织直接回答。二者相关，但处在不同抽象层级，不能互相推出。
将检索段落和问题提供给语言模型，由它起草答案。逐一核对重要说法是否得到这些段落支持，并保留原始来源链接。检索可能遗漏相关信息，生成也可能误述内容；RAG 不保证正确性。