RAG:检索增强生成

RAG(Retrieval-Augmented Generation)是一种把"外部知识检索"与"大模型生成"结合的技术,能有效缓解幻觉、支持私有知识问答。

什么是 RAG

RAG(Retrieval-Augmented Generation,检索增强生成) 是一种架构模式:在让大模型回答之前,先从外部知识库中检索相关内容,把检索结果拼进提示词,再让模型基于这些材料生成回答。

为什么需要 RAG

大模型的知识只停留在训练截止日期,且存在幻觉问题。RAG 让模型"带着资料答题",解决了两个痛点:

  • 知识实时性:接入最新数据、企业私有文档;
  • 可信度:回答有据可查,可以追溯到原文。

典型流程

文档 → 切分 → 向量化 → 存入向量数据库
                         ↓
用户提问 → 向量化 → 相似度检索 → 拼装提示词 → LLM 生成回答

常用组件

  • 向量数据库:Milvus、Qdrant、ChromaDB、pgvector;
  • 嵌入模型(Embedding):把文本变成向量;
  • 编排框架:LangChain、LlamaIndex。

小结

RAG 是目前让大模型落地到具体业务最实用、最流行的方案之一,也是个人开发者最容易上手的方向。

评论(0)

还没有评论,来抢沙发吧~

发表评论

评论需审核通过后展示