RAG:检索增强生成
RAG(Retrieval-Augmented Generation)是一种把"外部知识检索"与"大模型生成"结合的技术,能有效缓解幻觉、支持私有知识问答。
什么是 RAG
RAG(Retrieval-Augmented Generation,检索增强生成) 是一种架构模式:在让大模型回答之前,先从外部知识库中检索相关内容,把检索结果拼进提示词,再让模型基于这些材料生成回答。
为什么需要 RAG
大模型的知识只停留在训练截止日期,且存在幻觉问题。RAG 让模型"带着资料答题",解决了两个痛点:
- 知识实时性:接入最新数据、企业私有文档;
- 可信度:回答有据可查,可以追溯到原文。
典型流程
文档 → 切分 → 向量化 → 存入向量数据库
↓
用户提问 → 向量化 → 相似度检索 → 拼装提示词 → LLM 生成回答
常用组件
- 向量数据库:Milvus、Qdrant、ChromaDB、pgvector;
- 嵌入模型(Embedding):把文本变成向量;
- 编排框架:LangChain、LlamaIndex。
小结
RAG 是目前让大模型落地到具体业务最实用、最流行的方案之一,也是个人开发者最容易上手的方向。
还没有评论,来抢沙发吧~