檢索增強生成（retrieval-augmented generation，RAG）

想像閉書考試與開書考試的差別。一個普通的語言模型只能憑記憶作答；檢索增強生成（retrieval-augmented generation，RAG）則讓它先去查資料。在模型寫下任何一個字之前，系統會先在一批文件中搜尋與你問題相關的段落，再把這些段落貼進提示裡，於是答案是根據擺在模型眼前的文字寫成的，而不是只靠它訓練時剛好記下的內容。

一套 RAG 系統有兩個部分：檢索器（retriever）與生成器（generator）。檢索器找出候選段落——通常是依向量與問題的相似度——再把最相關的幾段放進脈絡視窗，和你的查詢擺在一起。接著 LLM 以這些提供的證據為條件生成答案。關鍵在於：模型的權重完全沒有改變；你是在提問當下，用新鮮而具體的文字引導它，這讓 RAG 比重新訓練便宜得多、也好更新得多。