名词百科
什么是 RAG(检索增强生成)?
一句话定义
RAG(Retrieval-Augmented Generation,检索增强生成)是先从外部知识库检索相关内容,再把检索结果作为上下文交给模型生成答案的技术方案。它让模型的回答有据可依。
它到底是什么
RAG 解决的是模型的两个短板:不知道你的私有数据,以及训练数据有截止时间。它不改模型参数,而是在提问时把相关资料检索出来,一并送进上下文。
因此 RAG 的效果上限由检索质量决定,而不是模型能力。检索不到正确资料时,再强的模型也只能编。
怎么运作的
切分:把文档切成适当长度的片段。切得太碎会丢失上下文,太大则检索精度下降。
向量化:用嵌入模型把片段转成向量,存入向量数据库。查询时把问题也转成向量,按相似度召回。
检索:常见是向量检索与关键词检索混合,前者擅长语义相近,后者擅长专有名词与编号。混合后做重排序,提升相关性。
生成:把召回的片段拼进提示,要求模型基于给定资料作答并标注来源。这一步的提示设计直接决定会不会「自由发挥」。
评估:分别评估检索命中率与答案正确率。只测最终答案,无法定位问题出在检索还是生成。
容易混的几个概念
- 微调:改变模型参数,适合调整风格与格式,不擅长注入经常变动的知识。
- 长上下文:把全部资料塞进窗口,成本高且中间内容容易被忽略。
- 知识图谱:结构化的知识表示,可与 RAG 结合提升关系类问题的准确性。
- 向量数据库:存储与检索向量的组件,是 RAG 的一部分。
常见问题
RAG 能完全避免模型编造吗?
不能,但能显著降低。做法是强制答案基于检索片段、要求标注出处、检索不到时明确说不知道。仅靠提示词约束仍有失效可能,需要输出校验。
文档切分多大合适?
取决于内容结构,没有统一值。段落清晰、主题集中的文档适合按语义切分;技术文档可按标题层级切。判断标准是「切出来的片段单独看是否说得通」。
F AI 新兴 · 同组词条
AIGCAIGC(AI Generated Content,人工智能生成内容)指由模型生成的文本、图片、音频、视频等内容形态。它的核心变化是把内容生产从人工创作转为模型生成加人工筛选。企业知识库企业 AI 知识库是把企业内部的文档、规范、工单等资料整理成可被模型检索使用的知识系统,通常以 RAG 为技术基础,用于问答、辅助写作与培训。大模型大模型(LLM,Large Language Model)是在大规模文本上训练的语言模型,通过预测下一个词学习语言规律,具备理解、生成、总结与推理能力。智能客服智能客服是用模型或规则自动应答客户咨询的系统,能力范围从关键词匹配的知识库问答,到理解上下文、调用业务接口完成查询与办理。AI AgentAI Agent(智能体)是能自主调用工具、分解任务并多轮执行的大模型应用形态。与单次问答不同,它会规划步骤、调用外部接口、根据结果调整行动,直到完成任务。MCPMCP(Model Context Protocol,模型上下文协议)是让模型应用以统一方式接入外部工具与数据源的开放协议。它把「模型怎么调用工具」标准化,避免为每个模型、每个工具重复写适配。PromptPrompt(提示词)是输入给模型的指令与上下文,决定模型输出的方向与质量;提示词工程是设计、迭代和评估提示词的方法。AI原生应用AI 原生应用是围绕模型能力设计的软件,模型承担理解、决策与生成的核心职责,而不是在既有流程上叠加一个 AI 功能。