RAG 是什么

普通聊天模型像一个读过很多书、但不一定看过你公司资料的人。RAG 会在回答前，先从你指定的文档里找出最相关的几段内容。

找到资料后，系统把问题和资料一起交给模型。模型不是凭空猜，而是尽量围绕这些内容组织答案。

RAG 不等于把文档永久训练进模型。它更像给模型配了一个会搜索的资料柜，资料更新后可以重新索引。

• 模型不了解企业内部制度、产品手册和私有文档。
• 直接把整份长文交给模型，容易超出上下文并增加成本。
• 用户希望答案带出处，能回到原文继续核对。
• 知识经常更新，不适合每次都重新训练模型。

• 资料本身混乱、过期，却希望系统自动得到准确答案的人。
• 没有明确知识范围，只想做一个什么都能回答的通用机器人。
• 无法接受人工评测、权限管理和持续维护的团队。