摘要

尽管大型语言模型（LLMs）具备卓越的能力，但由于其仅依赖于自身参数化知识，常常生成包含事实性错误的回应。检索增强生成（Retrieval-Augmented Generation, RAG）作为一种临时性方法，通过引入相关知识的检索来弥补这一缺陷，从而缓解此类问题。然而，若不加区分地检索并整合固定数量的文本片段，无论检索是否必要或片段是否相关，都会削弱语言模型的灵活性，甚至导致生成无益或低质量的回应。为此，我们提出一种新型框架——自省式检索增强生成（Self-Reflective Retrieval-Augmented Generation, Self-RAG），通过检索与自省机制共同提升语言模型的生成质量与事实准确性。该框架训练单一通用语言模型，使其能够按需自适应地检索相关文本片段，并利用特殊标记——称为“自省标记”（reflection tokens），对检索到的内容及自身生成结果进行生成与反思。在推理阶段生成自省标记，使模型具备可控性，能够根据不同的任务需求动态调整行为策略。实验结果表明，Self-RAG（7B与13B参数规模）在多样化任务上显著优于当前最先进的大型语言模型及检索增强型模型。具体而言，在开放域问答、推理任务和事实验证任务中，Self-RAG的表现超越ChatGPT与检索增强型Llama2-chat；在长文本生成任务中，其在提升事实准确性与引用准确性方面亦展现出显著优势。